mosaic

Publicació sobre multimèdia. N.199

intel·ligència
artificial
David
Casacuberta 1
 Presentació
Mosaic, és una publicació de la Actualment, Mosaic es publica en

mosaic Universitat Oberta de Catalunya (UOC)

que va néixer el 21 de desembre de
edició bilingüe en català i castellà.

2001 amb la intenció de reforçar la Si vols participar a Mosaic, pots posar-

El Consell Editorial de Mosaic està compost
relació entre l'àmbit universitari i el te en contacte amb l'equip editorial a
per les següents persones que formen part
món tant creatiu com empresarial mosaic@uoc.edu.
de la Universitat Oberta de Catalunya (UOC)
multimèdia.

Direcció Consell assesor Els continguts publicats a Mosaic, es

Joan Soler-Adillon Irma Vilà troben sota llicència Creative Commons
Laia Blasco Soplón i la seva temàtica gira al voltant de
Direcció adjunta Carlos Casado Martínez diverses àrees:
Paloma González Díaz Ferran Giménez Prado
Roser Beneito Montagut Disseny: 3D, creació, gràfics, interfícies,
Editores Quelic Berga Carreras tipografia, visualització
Andrea García Méndez César Pablo Córcoles Briongos Interacció: arquitectura de la
Walewska Duran Javier Melenchón Maldonado informació, art, experiència d'usuari,
Oriol Sole Granier Enric Mor Pera interactivitat, narrativa, usabilitat
Laura Porta Simó Tecnologies: apps, dispositius, gestió
Editor convidat Susanna Tesconi de continguts, programació, videojocs,
d´aquest número Pierre Bourdin web
David Casacuberta Joan Arnedo Moreno Mitjans: animació, àudio, fotografia,
eines, realitat virtual, vídeo
Xarxes: cultura digital, empresa,
Foto de portada formació, legislació, mercat,
Imatge generada amb IA per Joan Soler-Adillon professionals

2 3
 Nota del director
Joan Soler-Adillon
@jsoleradillon
M osaic arriba al número 199, i és
inevitable, a l’intentar l’enèssima versió
del text que ha de posar en valor aquest
número i tot el que representa, pensar si
segueix tenint sentit escriure un text
d’aquesta manera tan humana: Pausant,
rumiant, i reflexionant sobre cada
paraula de manera artesanal, enlloc de
buscar ajut i refugi en un generador
capaç de bastir un text d’aquestes
característiques en el temps de fer un
parell de glops de cafè.
Segur que no riurem, un dia, de la ironia
d’aquest número 199 sobre IA
generativa com un dels últims que van
ser escrits sense l’assistència de la IA
generativa?
4 5
Potser ja hem arribat al punt que
escrivim a mà tot i poder-ho fer a
màquina? O encara més: Que pensem el
text linealment quan amb el copiar i
enganxar el nostre cervell pot permetre’s
fragmentar-lo i reordenar-lo
constantment, com acabo de fer
intercanviant el segon i tercer paràgraf
ara mateix?
Quan fa uns mesos vam pensar aquest
número sobre la IA generativa, moltes
veus corrien a cridar que sí. Que ja
havíem arribat al cap del carrer amb tot.
Que tot estava a punt de canviar demà
mateix, inevitablement.
I enmig de tot aquell soroll, vam fer el
que reclamava Plató: Donar l’autoritat al
filòsof, i demanar-li que ens ajudés a
crear aquest Mosaic 199 que aborda el
tema des la multiplicitat de veus. Totes
elles expertes i lliures, aconstant-nos el
tema sense la rigidesa formal del text
acadèmic, però amb la mateixa
seriositat, tot posant en pràctica aquesta
idea que tant ens agrada a la universitat:
La transferència de coneixement, que és
al centre dels objectius fundacionals de
Mosaic.
I així, a un pas de ser bi-centenaris, la
participació d’en David Casacuberta com
a editor convidat ens permet consolidar
el nou model de Mosaic. Donem força al
número com a tal, unitari, temàtic i
reforçat amb figura de l’editor. I amb un
nou disseny. Reconeixent l’historial de
Mosaic i l’enorme feina que s’ha fet fins
ara, decidim mirar al futur amb un nou
enfocament, que no vol sinó reforçar la
idea inicial de consolidar Mosaic com a
revista referent en la difusió a l’àmbit
multimèdia.
I com el nostre editor convidat, acabo
amb una referència musical. Durant els
anys 70, Queen posava un clar "No
Synthesizers!" als seus LPs, orgullosos
de fer música harmònicament complexa
sense l’assistència d’aquella nova
tecnologia musical. Com ells llavors, en
aquesta nota inicial, i en tot el número,
podem proclamar: "No GPT!".
Joan Soler-Adillon
Es artista i professor als estudis d'Informàtica,
Multimèdia i Telecomunicacions de la
Universitat Oberta de Catalunya (UOC).
Anteriorment, ha ocupat posicions
acadèmiques a la Royal Holloway, de la
Universitat de Londres, ia la Universitat
Pompeu Fabra. La seva recerca i pràctica giren
al voltant dels mitjans digitals interactius i la
seva manifestació a l'art digital –especialment
a la instal·lació interactiva, narrativa interactiva
i documental– ia la realitat virtual. Des d'un joc
d'interacció a tot el cos en un tobogan inflable
fins a un documental experimental a RV, ha
participat en diversos projectes centrats en el
disseny de comportaments de sistema i la
interactivitat, així com en la col·laboració i
participació de l'audiència en aquestes
experiències.
 Índex de continguts
Editorial Continguts

Intel·ligència artificial: Desmitificant la Ningú escrivint i ningú La distribució

a l’ull de l’huracà intel·ligència artificial: llegint: els generadors abductiva de valors en
entre alarmes i de text amb els catàlegs digitals
realitats intel·ligència artificial
i la ciència que volem

Karina Gibert Ferran Adell Ariel Guersenzvaig Alger Sans Pinillo

Javier Sánchez Monedero
Just a little bit of Página 12 Página 20 Página 50
history repeating Página 36
David Casacuberta

Página 12

6 7
 Editorial

Just a little bit of

history repeating
Per David Casacuberta

T al com cantava Shirley Bassey a la

cançó dels Propellerheads:
Aquest número de Mosaic explora els límits,
les implicacions, les motivacions i l’abast
real d’aquesta nova revolució tecnològica
amb una sèrie d’excel·lents articles
«They say the next big thing is here,
interdisciplinaris. Però abans de presentar-
That the revolution’s near, But to me
los, primer deixeu-me fer una mica de
it seems quite clear […] That it’s all
Shirley Bassey i cantar-vos, perquè penso
just a little bit of History repeating».
que bona part del hype que sentim sobre la
intel·ligència artificial només és un altre
La lletra gira al voltant dels suposats
fragment d’història que es repeteix.
estils musicals innovadors que en
realitat no són res més que
«And I’ve seen it before»
reciclatges de música de generacions
anteriors que l’actual ja no recorda,
Corria l’any 2005 de nostre Senyor, i la
però s’aplica igual de bé a aquest big
World Wide Web començava a formar part
thing que sentim contínuament sobre
de la nostra vida i molts sentíem que havia
la IA generativa.
vingut per quedar-s’hi i canviar-nos-la.
Llavors, l’editor de llibres tècnics Tim
O’Reilly va publicar el seu famós manifest
de la Web 2.0 i la revolució va arrencar.
Ràpidament es van construir tota una
sèrie de discursos al voltant d’aquest
nou fenomen. El món dels creatius es
mostrava distant, si no directament
espantat, per la nova dinàmica i veien
en la Web 2.0 la mort de l’art, de la
literatura i del disseny de qualitat, en un
futur on cada persona es faria la seva
web, el seu logotip, els seus poemes i
les seves pel·lícules.
El món comercial va veure en la Web
2.0 les paraules màgiques per vendre
qualsevol cosa, i van decidir que si tot
tenia un botó per dir «m’agrada» i
reenviar la URL a una xarxa social i tot
estava fet amb colors pastel i rectangles
amb les cantonades arrodonides,
aleshores era Web 2.0 i així s’havia
d’anunciar arreu del món.
Els tecnopessimistes veien un món
d’individus aïllats contemplant les seves
pantalles i consumint saviesa d’un oceà de
tres centímetres de profunditat, mentre que
els tecnoptimistes ens parlaven d’un feliç
nou món on els ciutadans esdevindríem
periodistes i explicaríem les coses tal com
són, tal com les vivíem en el mateix
moment, tot acabant així amb el monopoli
de la veritat en mans dels mitjans de
comunicació de masses.
Els futuristes –intentant aconseguir com a
mínim uns 15 minuts de la fama mundial
que va obtenir Tim O’Reilly– van començar a
llançar tota mena d’idees peregrines de
com seria la web del futur que,
evidentment, tindria l’original nom de Web
3.0. I per què quedar-se aquí? Així, sense
cap complex alguns parlaven de la revolució

8 9
 Editorial
que comportaria la Web 4.0 –amb ulleres
3D– o la Web 5.0, que inclouria aromes i
sabors.
El temps, però, ha posat les coses al seu
lloc: l’etiqueta Web 2.0 corre el perill
d’acabar com un element més de
nostàlgia prestada en una cançó urbana a
l’estil de la «Nochentera», i les fabuloses
Web 3, 4, 5 i 6.0 són en parador
desconegut, fent companyia als oblidats
experts que les predeien.
La Web 2.0 realment va canviar la nostra
vida, però ben poques de les situacions
imaginades per pessimistes o optimistes
es van complir. En comptes d’ otakus
aïllats a casa seva, el que tenim són
persones hiperconnectades que intenten
seguir les narracions postmediàtiques de
centenars d’amics, i els bots i les fake
news han ensorrat el somni del
periodisme ciutadà 2.0.
La lliçó que finalment ens dona aquest
petit fragment d’història que es repeteix
és que la Web 2.0 ens ha fet la vida més
fàcil en alguns aspectes i més difícils en
altres, però ni els creatius han perdut la
10
seva feina ni els mitjans de comunicació han
desaparegut i, finalment, els humans
continuem essent més o menys els mateixos.
«And I’ll see it again»
Si revisem una mica el hype y el critihype al
voltant de la IA generativa, veurem que en el
fons tan sols és aquest fragment d’història
que es deleix a repetir-se.
Les veus que parlen de la fi de la creativitat,
de màquines generant il·lustracions,
logotips, pel·lícules i novel·les que
substituiran els humans són pastades a les
que feien els mateixos paral·lelismes
cassàndrics sobre com la Web 2.0 deixaria
sense feina il·lustradors, fotògrafs i
dissenyadors, i les seves prediccions tenen la
mateixa solvència que les dels seus
predecessors.
No cal insistir que AI-powered és el nou
equivalent de Web 2.0. Ara de cop i volta, si
un posa un algoritme que faci quatre càlculs
estadístics ràpids, ja és un state of the art AI
o introduir un plugin que cridi ChatGPT
converteix una aplicació mòbil en el teu
insubstituïble assessor personal.
De com els optimistes i els pessimistes
diuen que la IA transformarà totalment
les nostres vides no cal fer-ne cinc
cèntims: totes i tots hem llegit centenars
d’articles revisant els cataclismes que la
IA ens portarà, i també ens han explicat
com milloraran tots els aspectes de la
nostra vida.
Ara, amb una World Wide Web i unes
xarxes socials més madures i més plenes,
és gairebé impossible no topar-nos amb
alguna entitat humana futurista que ens
explica com serà el futur proper i com
aquest o aquell model o programa és
encara millor que ChatGPT o que Bard, o
que el futur encara és combinar aromes
per generar experiències úniques, perquè
ara la mixtura la farà una IA!
La realitat, un cop més, no és ni la
humanitat esclavitzada per una
totpoderosa IA ni la utopia on les
màquines ens fan tota la feina i nosaltres
–com deia Marx en La ideologia
alemanya– ens podem dedicar «avui a
això i demà a allò; que pugui caçar al
matí, pescar a la tarda i cuidar el bestiar a
la nit, i després de menjar, si em plau,
dedicar-me a criticar, sense necessitat de
ser exclusivament caçador, pescador,
pastor o crític, segons els casos». La
realitat és que alguns oficis
desapareixeran, en sorgiran de nous i molts
es transformaran, però els humans
continuarem essent bàsicament la mateixa
cosa.
Això no significa ni de bon tros que no
calgui preocupar-se per aquesta nova
revolució. La veritat és que no tot canviarà
per a bé, i som nosaltres els qui hem de
decidir al final quins canvis són positius i
quins cal deixar al taulell de dibuix. És
necessària, per tant, una reflexió informada
que permeti destriar allò bo d’allò dolent, la
predicció gratuïta del perill real. En aquest
número teniu quatre articles que fan
perfectament aquesta feina i que us animo
a llegir de manera reposada i crítica per
compensar tant de hype i de critihype.
La catedràtica i doctora en informàtica
Karina Gibert ens ofereix una introducció
entenedora a la intel·ligència artificial, tot
explicant-ne la història i distingint entre els
apropaments simbòlics i els basats en
xarxes neuronals, i ens dona les bases per
11
 Editorial
entendre millor les possibilitats i els perills
de la IA generativa.
«Desmitificant la intel·ligència artificial:
entre alarmes i realitats», del filòsof Ferran
Adell, continua la feina de clarificar
aquestes possibilitats i perills de manera
sistemàtica, informada i sense alarmismes,
tot distingint entre les problemàtiques
interessades que algunes persones ens
volen fer creure que portarà la IA generativa
contra aquells problemes reals i actuals de
què sí que cal fer-nos càrrec.
Una reflexió genèrica, com la que ofereixen
tots dos articles, ha d’estar acompanyada
per una anàlisi de les aplicacions
específiques. L’impacte de la IA generativa
no serà el mateix en totes les disciplines i
activitats humanes. Així, els següents dos
articles canvien l’enfocament i analitzen de
manera rigorosa com la IA generativa
portarà canvis en dos camps específics.
L’article del teòric del disseny Ariel
Guersenzvaig i de l’investigador en
intel·ligència artificial Javier Sánchez
Monedero explora com l’ús sistemàtic del
LLM per estalviar-nos la tasca de llegir
referències i deixar que la IA ens en faci un
12
resum pot tenir conseqüències no
desitjades, i cal ser crític amb l’ús ingenu de
la IA generativa en la recerca científica i en
humanitats.
Finalment, el text del filòsof Alger Sans
Pinillos argumenta com un catàleg digital
organitzat a partir de la IA generativa, si
s’utilitza de manera correcta, pot –partint
d’un model abductor per a la seva
construcció i organització– ajudar a detectar
biaixos en les actuals ofertes culturals de
museus i posar-hi remei.
La revolució és aquí i, sense alarmismes,
hem de reflexionar sobre què implica i saber
aturar a temps les conseqüències no
desitjades. Permeteu-me, per tancar, unes
línies més de History Repeating:
«Life’s for us to enjoy Woman, man, girl and
boy, Feel the pain, feel the joy Aside set the
little bits of history repeating».
Cita recomanada: CASACUBERTA. David. Just a little
bit of history repeating. Mosaic [en línia], juliol 2023,
no. 199. ISSN: 1696-3296. DOI: https://doi.org/10.7238/
m.n199.2307
David Casacuberta
Professor de Filosofia de la Ciència a la UAB. La seva
línia de recerca actual són els impactes socials i
cognitius de les TIC, tema sobre el qual ha publicat
diversos llibres i articles. Actualment, és membre del
grup de treball d´Ètica, Seguretat i Regulació de
BioInformàtics Barcelona i investigador del grup
consolidat GEHUCT (Grup d´Estudis Humanístics
sobre la Ciència i la Tecnologia). També participa com
a professor a diversos postgraus de Gestió Cultural,
teoria de l'Art Contemporani i de Disseny de
Tecnologies Digitals. Ha rebut el premi Eusebi
Colomer de la Fundació Epson al millor assaig sobre
els aspectes socials, antropològics, filosòfics o ètics
relacionats amb la nova societat tecnològica pel llibre
Creació col·lectiva. També és el guanyador del premi
Enginy 400, atorgat pel Ministeri de Cultura i la
Societat Estatal de Commemoracions Culturals, al
millor projecte de net.art, per la seva obra X-
Reloaded (en col·laboració amb Marco Bellonzi).
Twitter: @dcasacuberta
13
 Intel·ligència artificial:
a l’ull de l’huracà
Per Karina Gibert
D arrerament, llevar-se i sentir parlar
d’intel·ligència artificial és tot un. Sembla
que no hi hagi altra cosa de què ocupar-se
en tots els fòrums possibles. La veritat és
que els avenços espectaculars que ha fet
aquesta disciplina recentment han
impactat en la societat, l’economia i tots
els àmbits imaginables de manera molt
significativa, però… com és que de cop i
volta ara tothom en parla?
En realitat, la intel·ligència artificial no és
una disciplina nova, ni de bon tros. Sorgeix
l’any 1956 en el que es coneix com
l’escola d’estiu de Darmouth, amb la
intenció de fer màquines que imitessin la
intel·ligència humana. Des dels inicis, la IA
s’ha desenvolupat en dues vessants molt
diferents. La IA simbòlica és el
plantejament encapçalat pel professor
John McCarthy (que justament va convocar
l’escola de Darmouth), i la IA subsimbòlica
o connexionista és l’enfocament
14
representat pel professor Marvin Minsky,
que venia de l’àmbit de la cibernètica.
La IA simbòlica, amb una forta sustentació
en l’àmbit de la lògica formal, treballa els
símbols per representar el coneixement, el
que sabem les persones, que no sempre
és fàcil de representar amb dades, i que
moltes vegades correspon a peces de
naturalesa relacional fàcils de representar
en regles més o menys sofisticades, però
difícils de mesurar (si la pell és molt groga,
hi ha icterícia; si els acabats del cotxe són
de luxe –vellut, fusta, etc.–, agraden més).
L’enginyeria del coneixement es va
desenvolupar per poder representar
formalment realitats complexes (salut,
medi ambient, etc.) i el raonament
automàtic mirava d’encadenar les
diferents peces de coneixement en
argumentacions i conclusions a partir
d’evidències recollides del món real.
Potser l’exponent més famós d’aquesta
branca són els sistemes experts, que a
partir de la descripció de certes escenes
(la simptomatologia d’un pacient, per
exemple) podien raonar i extreure
conclusions (diagnosticar una malaltia).
Amb els anys, es va descobrir que la
naturalesa altament combinatòria
d’aquestes tècniques, juntament amb
l’enorme quantitat de coneixement
implícit que els experts maneguen sense
adonar-se’n, posaven límits a tenir una
transferència completa de coneixement
de l’expert a la màquina i que l’un i l’altre
raonessin de manera indistingible.
La IA subsimbòlica posa més aviat el
focus en el fet que les màquines puguin
resoldre els problemes difícils que
requereixen intel·ligència tan bé (millor
“
La IA simbòlica, amb una forta
sustentació en l’àmbit de la lògica
formal, treballa els símbols per
representar el coneixement,
si es pot) i més de pressa que els humans,
jugant un paper més d’augmentar el
pensament humà i no tant d’imitar-lo. Es
tracta d’una branca que s’ha sustentat
més en el càlcul computacional intensiu i
no tant en la representació simbòlica i
raonada del món, i que ha desenvolupat
metàfores computacionals de sistemes
biològics, que es coneixen com a models
bioinspirats. N’hem vist moltíssims: la
computació evolutiva amb els algorismes
15
 Intel·ligència artificial:
a l’ull de l’huracà
Per Karina Gibert
genètics, que imitaven com els
cromosomes s’encreuen en la teoria de
l’evolució i com sobreviuen els més forts
per resoldre problemes; la intel·ligència
d’eixam (swarm intelligence), que busca
imitar sistemes d’intel·ligència col·lectiva,
com les formigues o els ocells, que entre
tots es combinen tasques simples (portar
una branqueta a la boca, un trosset) per
dur-ne a terme una de molt complexa (fer
un formiguer). Potser el model més famós
és el de les xarxes neuronals artificials
(ANN), que representen una metàfora de
les xarxes de neurones cerebrals i els
mecanismes amb què es passen
informació entre elles.
Mentre les màquines no han tingut prou
potència de càlcul, cap de les dues
branques escalava fins a problemes reals
complexos de debò, perquè els algorismes
de la IA no es computaven en tempos
curts, i moltes vegades ni tan sols finits.
Amb la revolució digital, el
desenvolupament dels smart sensors
(petitíssims, baratíssims, i que permeten
16
“ Ben entrenades, les ANN, i sobretot les xarxes
profundes, poden predir o classificar
correctament allò que gairebé tots els altres
algorismes fallarien.
mesurar-ho tot), l’IdC (l’internet de les
coses) i la connectivitat han permès
recollir dades de tot arreu i de manera
més avençada (de l’estadística) i els learning, que pot tractar milions d’imatges
indiscriminada, tot donant lloc al famós big
mètodes més potents d’aprenentatge enormes en poquíssim temps i que ha fet
data, que, en ser bases de dades tan
automàtic (que ve de la IA), juntament avençar, per exemple, el diagnòstic basat
grans, necessiten arquitectures especials
amb els de visualització de dades, etc., en imatge mèdica fins a límits insospitats
per guardar-les (tecnologies de núvol) i
etc. per donar cobertura a la resolució de (com ara que la IA analitzi una radiografia
processar-les (computació d’altes
problemes amb dades tan grans i de pulmó i hi vegi un tumor on cap ull
prestacions) i algorismes capaços
d’estructura tan complexa com les que humà encara no ha pogut detectar res).
d’extreure la complexitat que involucren.
avui ens plantegem analitzar. I mentre Amb aquesta potència inesperada
L’aparició del big data va ser la fi de la
els primers algorismes de ciència de les proliferen les empreses que diuen que fan
teoria de la informació tal com la
dades (anomenats primer mineria de IA per a tot tipus de coses. Certament,
coneixíem, gestionant bases de dades
dades) se situaven en el sector retailing i aquests models són capaços de capturar
tradicionals, i de l’estadística clàssica, que
descobríem que només analitzant les estructures de les dades d’allò més
no va poder afrontar ni el volum
dades de les targes client la capacitat de complexes, fins i tot formes funcionals que
d’aquestes dades ni els models de
millorar substancialment el negoci era no sabem ni quines són ni a quina fórmula
comportament complexos que mostraven, responen. Tanmateix, ben entrenades, les
enorme, la tecnologia avençava encara
lluny del comportament lineal, normal, ni
més i ens apareixien imatges, textos, ANN, i sobretot les xarxes profundes,
de la independència entre els diferents
veus i senyals per analitzar en grans poden predir o classificar correctament
factors d’influència. Van aparèixer
quantitats, i la ciència de dades allò que gairebé tots els altres algorismes
l’enginyeria de dades (per tractar noves
començava a necessitar tractar dades fallarien. Els reptes són enormes, perquè
arquitectures i estructures de dades que
més variades i en més grans quantitats. representen una eina poderosa per fer
s’adaptessin als nous reptes del big data) i models predictius amb dues limitacions
la ciència de les dades, tan controvertida molt rellevants: necessiten moltes dades
Són les ANN les que evolucionen a un
que encara avui hi ha qui diu que no
tipus especial, conegudes com xarxes per aprendre i no poden explicar les
existeix, però el cert és que recull sota un
profundes, i que permeten obrir la porta prediccions que fan. Així que si entrenem
mateix paraigua l’estadística multivariant
d’una nova era de la IA, la del deep- una ANN per obrir i tancar una vàlvula en
17
 Intel·ligència artificial:
a l’ull de l’huracà
Per Karina Gibert
una potabilitzadora d’aigua, només
necessitem moltes dades de sensor i
podrem encertar quan obrim i tanquem
automàticament aquesta vàlvula, però no
tindrem ni idea de per què està funcionant.
Ja es veu clar que si parlem de vàlvules la
cosa pot ser acceptable, però si parlem,
per exemple, de predir la dosi de
medicament d’un cert pacient, és segur
que el clínic no es pot presentar davant del
pacient dient que s’ha de prendre això i
allò perquè una màquina ha dit que li
convé. Una de les àrees de recerca més
recent en IA és justament la IA explicable,
que es dedica a trobar maneres
d’acompanyar aquests models opacs de
dades amb mecanismes que permetin
explicar, argumentar o justificar els
resultats algorísmics obtinguts.
L’última novetat és la IA generativa, una
nova evolució de les xarxes neuronals que
combina dues ANN que competeixen entre
elles en el que es coneix com xarxes
neuronals adversàries. Davant d’una
pregunta de l’usuari, una de les xarxes es
posa a generar solucions
18
“
L’última novetat és la IA
generativa, una nova evolució
de les xarxes neuronals que
combina dues ANN que
competeixen entre elles en el
que es coneix com xarxes
neuronals adversàries.
desenfrenadament de manera
indiscriminada. En genera milions a una
velocitat insospitada! L’altra avalua les
propostes que rep i rebutja totes les que
no li semblen raonables, fins que es troba
una solució al problema plantejat que
tingui sentit, que s’ajusti bé als objectius
del problema, que minimitzi alguna
distància, etc. Una vella tècnica que havia
estat en desús durant molts anys,
l’aprenentatge per reforç, agafa nova
empenta i es combina amb les xarxes
neuronals adversàries per acabar d’afinar
la qualitat dels resultats donant més pes a
les solucions que l’usuari ha valorat
positivament i menys a les restants. Amb
això es pot aconseguir per primer cop que
una IA creï contingut original, que no sigui
còpia de ningú altre. I des que tenim IA
generativa, algunes eines han irromput en
el mercat sense més propòsit que deixar-
nos-hi jugar i experimentar la possibilitat
de fer tota mena de consultes i obtenir un
resultat raonablement bo.
El cert és que poder portar al mòbil de
butxaca una IA que tant et resol una
equació diferencial, t’escriu un poema o et
munta un assaig sobre les conquestes dels
bàrbars no deixa de ser una disrupció prou
important perquè tothom estigui fascinat.
De tant sorprenent com és, s’ha convertit
en el punt de mira de tothom,
permanentment. Atès que pot generar
continguts nous, tant si són imatges com
textos, una gran part de la ciutadania i de
l’ecosistema s’ha decidit a incorporar-la de
manera irreversible a la seva vida.
Disposar d’una IA que genera continguts
«nous» ens porta a un debat intens sobre
els nous models de drets d’autor que
hauran de regular el fenomen, on potser el
desenvolupador del codi podrà participar,
“ Disposar d’una IA que genera
continguts «nous» ens porta a
un debat intens sobre els nous
models de drets d’autor
així com els propietaris o protagonistes
de les obres que la IA consulta per fer les
seves creacions. El blockchainés una
bona opció per garantir que els drets de
propietat estan ben protegits per a tots
els afectats.
El que ens ha de preocupar és que una
IA generativa, que treballa per principis
de coincidència de paraules en certs
contextos, s’estigui prenent en alguns
àmbits com si raonés de debò i s’oblidi
que es tracta d’una màquina, que pot
fallar, i que ens agafem les seves
respostes (tan inexplicades com les del
seu antecessor, el deep-learning) al peu
de la lletra, sense ni tan sols dubtar de la
seva veracitat. El cert és que molts cops
l’encerta, però l’altre dia una nena
d’institut li bolcava un fragment d’un
treball que acabava de preparar
(naturalment havia consultat Google i
altres fonts) i li preguntava de qui era el
text, i la IA va respondre: «Meu».
19
 Intel·ligència artificial:
a l’ull de l’huracà
Per Karina Gibert
El perill més gran que tenim ara mateix
és que donem veracitat d’ofici a
resultats que provenen de models
lligats a la incertesa i que poden variar
més o menys lleugerament. Mentre
aquestes eines no ens aportin
informació precisa sobre quins
documents o materials de base han
contribuït a construir la solució, mentre
no puguem justificar o referenciar els
resultats que presenta i mentre no es
puguin posar les fonts, serà arriscat
inserir l’ús d’aquestes eines de manera
no supervisada en processos de presa
de decisions reals, i molt més quan
parlem de decisions compromeses o
estratègiques que vagin més enllà de
redactar la nadala institucional de la
companyia per enviar a la clientela.
Aquesta precaució és recomanable no
només per a les tècniques d’IA més
recents, sinó per a la majoria d’eines
20
disponibles en aquesta àrea, que si bé
proporciona eines amb beneficis
extraordinaris per fer un món millor i més
just, com hem pogut anar dient, de la
manera com s’utilitzin i s’adoptin depèn
que, en comptes d’un món millor en fem
un altre amb més discriminació i més
desigualtat social. Per això és fonamental
establir el marc ètic sobre els usos dels
sistemes basats en IA i una regulació del
mercat de la IA que garanteixi que
només arriben a les nostres mans eines
IA provades i segures. En la cursa
mundial per la IA, Europa (i Catalunya no
es queda enrere) s’ha volgut significar
essent la primera potència que treballa
intensament per una IA ètica, sostenible i
regulada.
Cita Recomanada: GIBERT, Karina. Intel·ligència
artificial: a l’ull de l’huracà. Mosaic [en línia], juliol
2023, núm. 199. ISSN: 1696-3296. . DOI: https://doi.org/
10.7238/m.n199.2311
Karina Gibert
Catedràtica a la Universitat Politècnica de Catalunya
Universitat Politècnica de Catalunya BarcelonaTech
(UPC). Llicenciada i doctora en Informàtica, amb
especialitzacions en estadística computacional i
intel·ligència artificial. Directora i cofundadora del
centre de recerca a Intelligent Data Science and
Artificial Intelligence de la UPC (IDEAI-UPC, des del
2018). Degana de l'Il·lustre Col·legi Oficial d'Enginyeria
Informàtica de Catalunya (COEINF, des del 2023).
Experta i coautora de CATALONIA.AI, l’Estratègia
d’Intel·ligència Artificial de Catalunya (Generalitat de
Catalunya, 2018). Assessora dels Governs català,
espanyol i de la Comissió Europea en qüestions ètica
de la IA i en transformació digital. Premi WomenTech
2023 (Women360º), Premi Nacional d'Enginyeria
Informàtica (Consell General de Col·legis d'Enginyeria
informàtica d'Espanya, 2023), Premi Ada Byron 2022
(Col·legi d'Enginyeria Informàtica de Galícia) i Premi
DonaTIC 2018 (Gener). Menció Creu Casas 2020-2021
(IEC).
Facebook: karina.gibert,5 | Twitter: @karinagibertk
21
 Desmitificant la
intel·ligència artificial:
entre alarmes i realitats
Per Ferran Adell
«[Chapter 1]
The neon lights of the city flickered
above the silent figure of Jessica
Black, a journalist who had long ago
given up on the hope of truth in a
world of lies. In this dark future,
corporations ruled the world, and the
truth was a commodity that could be
bought and sold.
As she walked through the deserted
streets, Jessica couldn’t shake the
feeling that she was being watched.
She quickened her pace, her heart
beating faster with every step.
22
Suddenly, a group of men emerged from
the shadows, surrounding her. “We
know who you are, Ms. Black,” one of
them said. “And we know what you’re
up to. You need to stop before it’s too
late.”
But Jessica wouldn’t be intimidated.
She knew that the only way to expose
the truth was to keep digging. She
fought back with all her might, but the
men overpowered her, leaving her
unconscious on the street.»
Imatge creada amb Adobe Firefly per l'autor
A
mb independència de la preocupació
que es pugui sentir per Jessica Black (que
probablement ja s’hagi recuperat de l’atac
sofert i prepara la venjança des de la seu
clandestina del col·lectiu revolucionari),
que una aplicació d’IA generativa sigui
capaç de crear un text així és una cosa que
ens sorprèn a tots. I ens sorprèn perquè
estàvem acostumats a interactuar amb la
tecnologia d’una manera més mecànica: jo
premo botons i tu fas coses, jo escric una
paraula i tu cerques informació
relacionada, jo dibuixo amb el ratolí i tu em
mostres una línia a la pantalla. Emprar el
llenguatge natural –el nostre llenguatge–
per relacionar-nos amb la tecnologia és
quelcom a què no estem habituats.
Antecedents conceptuals
EsÉs important destacar que, encara que
el que anomenem IA generativa pot
semblar un concepte rupturista respecte
als antecedents interactius i
informacionals, aquesta forma part d’un
objectiu al qual fa molt de temps que es va
donar forma: la idea que les màquines –en
qualsevol forma d’aquestes– siguin
capaces d’entendre el nostre llenguatge,
amb la finalitat de poder automatitzar
23
 Desmitificant la
intel·ligència artificial:
entre alarmes i realitats
Per Ferran Adell
tasques que abans requerien la nostra
intervenció. Això, sumat a les seves
capacitats de càlcul i de processament de
les dades, donaria lloc a un context
d’interacció amb els ordinadors molt més
productiu. A més, obriria la possibilitat de
descarregar al talent i la creativitat
humana d’aquelles responsabilitats de
menor importància i menys significatives
en la creació del coneixement.
Aquest objectiu va ser plasmat de manera
concreta i brillant per Tim Berners-Lee,
amb la conceptualització inicial del que
s’anomenaria posteriorment web
semàntica. En realitat, el creador de la
World Wide Web ja va imaginar –des del
principi– una xarxa que inclogués
informació semàntica amb dades llegibles
per les màquines.
«The Web was designed as an information
space, with the goal that it should be
useful not only for human-human
communication, but also that machines
would be able to participate and help. One
of the major obstacles to this has been the
fact that most information on the Web is
24
designed for human consumption, and
even if it was derived from a database with
well-defined meanings (in at least some
terms) for its columns, that the structure of
the data is not evident to a robot browsing
the web.» (Berners-Lee, 1998).
A posteriori (1998), amb la WWW
consolidada, Berners-Lee va recuperar el
concepte, ja que el considerava crucial per
ampliar la interoperabilitat dels sistemes
informàtics i de vital importància per a
l’evolució de la Xarxa. Ho definia de la
següent manera:
«The Semantic Web approach instead
develops languages for expressing
information in a machine processable
form. […] a Web in which machine
reasoning will be ubiquitous and
devastatingly powerful.»
Sense ànim d’entrar a donar una lliçó
d’història, és important entendre que la IA
generativa només és una resposta a un
interès general entre molts pensadors de
les tecnologies digitals: que les aplicacions
informàtiques puguin entendre’ns en el
“
la IA generativa només és una
resposta a un interès general
entre molts pensadors de les
tecnologies digitals: que les
aplicacions informàtiques
puguin entendre’ns en el
nostre llenguatge i ajudar-nos
a fer tasques, a crear
coneixement, a automatitzar
processos, etc.
nostre llenguatge i ajudar-nos a fer
tasques, a crear coneixement, a
automatitzar processos, etc.
Aquesta IA generativa, que està tan de
moda, és fruit d’una evolució multicausal
que s’ha desenvolupat al llarg de les
últimes dècades. És multicausal en el
sentit que han calgut diferents
tecnologies, físiques i de programari,
perquè fos possible. Així, el famós
ChatGPT no seria possible sense els
models de llenguatge basats en
transformers, que en són el nucli, o
sense l’aprenentatge supervisat i
l’enginyeria de característiques, però
tampoc existiria sense el
desenvolupament del maquinari necessari
per entrenar aquest tipus de models, com
ara les unitats de processament gràfic o
GPU.
IA generativa
La IA generativa és el tipus d’IA que crea
coses i s’allunya del clàssic reconeixement
de patrons (tot i que la relació és clara). Hi
ha qui dirà que crea contingut nou i
original, però això requeriria un article
sencer per debatre què és nou i què és
original. Evitant els debats terminològics,
ens quedarem amb el terme cosa, per no
limitar-nos al text, les imatges i la música,
tot deixant les portes obertes a altres
camps de la «creativitat» (com la facultat
de crear, i no com a cerca de l’originalitat).
En general, són aplicacions o models que
funcionen sobre la base del que
s’anomenen xarxes generatives
antagòniques (GAN, en anglès), que han
estat entrenades amb dades reals
mitjançant un procés de discriminació
positiva/negativa que ajuda el sistema a
generar mostres cada vegada més
realistes.
25
 Desmitificant la
intel·ligència artificial:
entre alarmes i realitats
Per Ferran Adell

Aquests sistemes, com ChatGPT (i també

Bard, Midjourney, Firefly o Soundful), s’han
posat de moda els últims mesos, encara
que alguns fa anys que existeixen, gràcies
al boom dels bots conversacionals:
chatbots basats en IA. Els chatbots, que
van sorgir en els anys seixanta de la mà de
Joseph Weizerbaum (MIT) amb ELIZA,
estan pensats per mantenir una conversa
amb els éssers humans amb la màxima
naturalitat possible. En els anys seixanta
eren sistemes molt bàsics que
funcionaven mitjançant la detecció de
paraules clau en l’entrada de text de
l’usuari (prompt), a la qual es responia
amb una frase model de la base de dades
del sistema. Avui dia, amb models com
GPT4, la resposta és molt més oberta i
complexa, i es genera en funció d’un
model d’aprenentatge automàtic que s’ha
entrenat amb un gran corpus de text
(llibres, articles, etc.) per aprendre patrons
i estructures del llenguatge humà. En
resum, el procés seria el següent: recepció
del prompt, processament d’aquest,
generació de la resposta i conversió de
nou al llenguatge humà.
“
Per a tasques bàsiques com ara
esborranys, traducció,
definicions simples, creació de
títols en funció d’un text donat,
resum de textos i tasques
semblants, el sistema té un alt
índex d’encert, però quan ha de
fer consideracions ètiques o
resoldre qüestions més
complexes la cosa canvia de
manera significativa.
El sistema prediu quines paraules tenen
més sentit en funció de l’estructura del
prompt original i en comparació amb els
patrons i les estructures que coneix,
gràcies al seu entrenament. I aquesta
predicció pot ser molt precisa,
normalment en casos en els quals hi ha
pocs matisos i d’àmbit general, o molt
esbiaixada o incorrecta, quan el context no
és evident o el sistema és incapaç
d’interpretar les particularitats del cas. Per
a tasques bàsiques com ara esborranys,
Conversa amb ChatGPT (GPT4). Font: captura de pantalla realitzada per l'autor
traducció, definicions simples, creació
de títols en funció d’un text donat,
resum de textos i tasques semblants,
el sistema té un alt índex d’encert,
però quan ha de fer consideracions
ètiques o resoldre qüestions més
complexes la cosa canvia de manera
significativa. En els casos controvertits
apareixen els biaixos, si som capaços
de superar les limitacions imposades
al model per aquesta mena de
situacions:

26 27
 Desmitificant la
intel·ligència artificial:
entre alarmes i realitats
Per Ferran Adell
Problemàtiques interessades
La intel·ligència artificial generativa no és un
artefacte màgic, sinó tecnologia pura.
Tanmateix, quan no som capaços
d’entendre com funciona un fenomen
(vegeu la llarga història de la humanitat i les
seves místiques aproximacions a allò a
priori incomprensible o demostrat
incognoscible) tenim tendència a processar-
ho amb la sorpresa, la desconfiança i la por
que ens genera l’imprevisible desconegut. I
en aquest estat mental és molt fàcil
magnificar les coses, creure-s’ho tot,
imaginar possibilitats sense límit o perills
engrandits. En un context informacional
altament manipulat, on les motivacions dels
mitjans de comunicació estan lluny de ser
pures i positives, i on les xarxes socials
s’han convertit en altaveus de notícies
falses i manipulació informativa, es crea el
terreny propici perquè postulats com el
publicat recentment pel Center for AI Safety
tinguin un impacte significatiu entre les
masses. Sorgeix la idea que els perills
immediats associats a la IA inclouen la
possibilitat de destruir el món tal com el
28
coneixem i fins i tot conduir-nos a l’extinció Recollint les paraules d’un col·lega, en una declaració, la IA és només una gran font de
de l’espècie. conversa improvisada, és com quan sents beneficis potencials: una màquina de
parlar alguns científics nuclears de la generar diners. I això no té per què
«Mitigating the risk of extinction from AI preocupació per la proliferació de significar que no els apassioni la
should be a global priority alongside other l’amenaça nuclear en públic, mentre tecnologia, o que no sentin una admiració
societal-scale risks such as pandemics and preparen millores i avenços per a les seves absoluta pels avenços de la intel·ligència
nuclear war.» (CENTER FOR AI SAFETY, bombes atòmiques en privat. Per a una artificial, però els interessos principals són
2023). bona part dels signants d’aquesta els que són.
Plantejat així, sense desenvolupar la qüestió i
sense proposar arguments que la sostinguin,
sembla més aviat una distracció de les
problemàtiques reals i immediates que no
pas una resposta a una preocupació sincera.
Si a més ens fixem en els signants de la
declaració: Sam Altman (CEO d’OpenAI),
Demis Hassabis (CEO de Google DeepMind) o
Albert Efimov (Russian Association of
Artificial Intelligence), entre molts altres CEO
d’empreses amb grans interessos econòmics
relacionats amb la IA –sense que això
serveixi per desconfiar de les intencions dels
acadèmics que també signen la declaració–,
la desconfiança que ha de generar-nos és
evident. Probablement, sota la brevetat del
text publicat, que pot semblar que persegueix
Previsió de volum de mercat del sector de la IA. Font: statista.com
claredat i finor, s’amaguin altres intencions.
29
 Desmitificant la
intel·ligència artificial:
entre alarmes i realitats
Per Ferran Adell
I encara que és cert que aquesta
declaració se centra en la IA en general,
probablement pensant en allò que se sol
anomenar intel·ligència artificial forta,
completa o general (AGI)(1) –que està a
anys llum de ser possible, atès l’estat
actual de la investigació i del
desenvolupament en neurociència i
intel·ligència artificial–, l’enfocament no
deixa de ser semblant a quan parlem de la
intel·ligència artificial generativa que ens
ocupa en aquest article.
Tanmateix, l’alarmisme no acaba amb la
destrucció de l’espècie en mans d’una
reencarnació modernitzada de Skynet,
sinó que s’estén a afirmacions com que la
IA generativa «ens tornarà a tots
tanoques» (com abans les calculadores,
els ordinadors o Google), «que acabarà
amb la creativitat» (com la pirateria fa uns
anys) o «que ens deixarà a tots sense
feina» (com el programari de comptabilitat
amb els comptables, o els drons i els
robots amb els transportistes i els mossos
de magatzem). Tot aquest conjunt
d’afirmacions no té cap base sòlida des del
punt de vista argumentatiu. La manera
30
com aprenem, treballem, creem o
manipulem la informació canviarà, això és
segur, com ja ho ha fet al llarg de la nostra
història. Però l’alarmisme radical que
s’està generant des d’alguns flancs respon
més aviat a la necessitat de mantenir un
hype continu per a l’innoble art del
clickbait, o al desconeixement del
funcionament i de l’abast d’aquestes
tecnologies.
Quan es va popularitzar internet, amb
l’abaratiment dels costos d’accés tant als
ordinadors com a les connexions a la
Xarxa, i Google va començar a guanyar
fama com a porta d’entrada a la informació
en línia, molts van afirmar que ningú no
tornaria a agafar un llibre, a llegir un diari o
a consultar un diccionari, i es van
equivocar. El que realment va passar és
que vam començar a llegir els diaris en
format digital, consultar els diccionaris en
línia i llegir els llibres en nous dispositius.
Al mateix temps, van aparèixer nous
mitjans fruit de la remediació i la
hibridació, fenomen que Manovich va
descriure molt bé en el seu llibre Software
Takes Command ja al 2013: la hibridació
respon a una fusió entre elements que
comparteixen tècniques de programari i
interfícies, el que genera una experiència
nova i coherent, diferent de
l’experimentació dels elements per
separat (Adell, 2014). Un fenomen que es
repetirà amb la IA generativa i continuarà
ocorrent mentre existeixi la nostra espècie
I aquesta anàlisi-valoració pot estendre’s a
la pràctica totalitat d’afirmacions
alarmistes que s’han generat últimament
arran de la popularització de la IA
generativa: «ni ens tornarem més
tanoques, ni deixarem de ser creatius, ni
perdrem les nostres feines», com a mínim
no per culpa de ChatGPT. No obstant això,
la manera d’accedir, de processar i de
Imatge creada
amb Adobe
Firefly per
l'autor
manipular la informació canviarà;
també ho farà la nostra manera de
crear, en tots els àmbits, el mercat
laboral i les ocupacions disponibles.
Tanmateix, això no té per què tenir un
valor negatiu. La mateixa tecnologia
que ens permetrà trencar la síndrome
de la pàgina en blanc quan volem
escriure un text, obtenir esbossos o
idees per al disseny d’un logotip que
activaran la nostra creativitat, o els
primers samples per a un nou èxit
musical, és la que possibilitarà a
agents amb males intencions crear
notícies falses, manipular l’opinió
pública o suplantar la identitat
d’altres..
31
 Desmitificant la
intel·ligència artificial:
entre alarmes i realitats
Per Ferran Adell
Problemàtiques reals
Aquestes són les problemàtiques que hem
d’afrontar com a societat davant de l’auge
dels nous sistemes d’intel·ligència
artificial: els biaixos, la desinformació i les
notícies falses, els drets dels usuaris i els
problemes associats a posar en mans de la
IA la presa de decisions sobre aspectes
importants per a la nostra existència o
realització com a éssers humans.
És important destacar aquí que aquestes
no són noves problemàtiques fruit de
l’expansió i la popularització de la IA, sinó
qüestions que han estat entre nosaltres
des de l’inici dels temps, han anat mutant
en funció del context social i de les eines
disponibles per als malvats, però el fons
de la qüestió és exactament el mateix. Des
dels sofistes (probablement abans), la
manipulació i la persuasió de l’altre ha
estat un obstacle per als qui perseguien
alguna forma de veritat més o menys
objectiva; des dels primers estadis tribals,
la marginació per sexe, condició o
diferències d’allò comú ha estat un
desafiament per a qualsevol que entengui
la igualtat com un bé; i si parlem de drets
32
dels usuaris o dels ciutadans, és evident
que la lluita per conquerir-los ens ha
acompanyat des dels inicis de la nostra
societat.
Tanmateix, seria absurd negar que
algunes d’aquestes problemàtiques
s’han vist clarament potenciades per les
noves eines digitals, un cas clar és
l’expansió de les notícies falses i de la
desinformació. Amb l’augment de la
disponibilitat de les eines
comunicatives i la popularització de
l’accés a aquestes és lògic pensar que Imatge creada amb Adobe Firefly per l'autor
hi haurà més casos d’informació
esbiaixada o poc contrastada, de forma que costa escriure’l: conceptualitzar, genèrics, repetitius, etc.) és molt útil tenir a
intencionada o no. Va passar amb la reflexionar, documentar-se, escriure, mà un chatbot; per altres casos (creativitat,
popularització de la Xarxa, també amb revisar, etc. Altres, en canvi, gaudim del anàlisi, crítica, ètica, reflexió, etc.), correm
les xarxes socials i ara amb la IA procés i emprarem la IA generativa com el risc de fer el ridícul de manera
generativa. Si podem inventar notícies a assistent personal, com a suport per espantosa. Un altre component important
creïbles amb poc esforç i a baix cost traduir una paraula, obtenir un sinònim, que cal tenir en compte és que no és el
amb ChatGPT, és normal que n’hi hagi trobar paraules clau o idees mateix utilitzar una eina d’IA per treballar
més, i el mateix succeeix amb la relacionades, o fins i tot per desbloquejar una temàtica que un domina, que fer-ho
informació esbiaixada, poc fiable o el procés de posar títol a un text, que a sobre temes que ens són desconeguts. En
superficial. Sempre hi haurà qui alguns ens costa força. el primer cas, serem capaços d’entendre
prefereixi la rapidesa i la senzillesa de quan el chatbot l’encerta, quan ens
crear un text amb ChatGPT, sense A més, hi haurà qui sàpiga analitzar el proporciona una idea útil i quan fallen les
verificar-ne les fonts o la informació que context i entendre que per a un seves prediccions; en el segon,
ens proporciona, que l’esforç i el treball determinat tipus de textos (burocràcia, probablement serem víctimes de la seva
33
 Desmitificant la
intel·ligència artificial:
entre alarmes i realitats
Per Ferran Adell
aparent bona retòrica, de vegades
mancada de sentit.
El cas dels biaixos, de nou, és una cosa
molt humana. Ens han acompanyat
sempre i probablement mai no deixaran
de ser aquí. La IA beu de les nostres
dades, de la informació que li
proporcionem per aprendre, per la qual
cosa repetirà aquests biaixos en les seves
respostes si no som capaços de canviar el
color de la informació original. Una altra
opció és encarregar-se de polir les seves
respostes per evitar-los, la qual cosa em
consta que s’intenta des d’alguns sectors
de la indústria, però no és una tasca fàcil.
Aquí podem posar l’enfocament en la
tecnologia i culpar la IA de perpetuar els
biaixos, o podem intentar canviar
l’educació dels joves i el context
informacional, desenvolupar el pensament
crític i intentar que l’educació en valors
sigui una mica més que un simple
complement de la formació dels
ciutadans. Si no hi hagués biaixos en la
informació que la IA «consumeix» per
aprendre, seria molt més improbable que
els reproduís en la generació de les seves
34
respostes o comportaments. Per tant, si bé és Conclusions creativitat. Una altra cosa és el disseny i la
important treballar per modular aquesta implementació que es faci d’aquestes
tecnologia, i evitar així reproduir els nostres I és que les eines que han permès tecnologies, aquí les intencions del
errors, és molt més crucial intentar evitar-los perpetuar les injustícies, augmentar la creador, dissenyador o programador
nosaltres i buscar solucions perquè aquests desinformació i la polarització o perpetuar tindran molt a dir en els resultats que
biaixos desapareguin (en la mesura que sigui els biaixos, són exactament les mateixes, l’eina ens ofereixi. També és important,
possible). conceptualment i tècnicament parlant, crucial podríem dir, fer entendre als
que les que han permès una popularització professionals del sector digital que l’ètica
Figura 4. Imatge creada per intel·ligència de l’accés a la informació, la possibilitat professional també els afecta, que no n’hi
artificial. Font: Imatge creada amb Adobe d’universalitzar el coneixement, d’afavorir ha prou dient allò de «jo obeeixo ordres»,
Firefly per l’autor l’accés a la formació o de potenciar la «jo només creo l’eina» o «què puc fer jo
En el cas de les decisions sobre aspectes clau
per a l’esdevenir de l’espècie, o la interacció
amb sistemes mecànics o digitals de vital
importància, tant l’anàlisi com la solució són
breus, curts i fàcils d’entendre: hauríem de
prohibir rotundament que aquest tipus
d’actes siguin duts a terme de manera
autònoma per sistemes d’intel·ligència
artificial. Una altra cosa és l’acció supervisada
i controlada per éssers humans; si som
capaços de generar sistemes en els quals el
control últim estigui en mans d’un expert o
d’un operari, aquí podem ser una mica més
laxos. No hem d’oblidar mai que qualsevol
sistema digital és susceptible de ser hackejat,
també la IA. Skynet és el nom que rep la intel·ligència artificial que lidera
l'exèrcit de les màquines a la saga de pel·lícules Terminator.
Font: https://terminator.fandom.com
35
 Desmitificant la
intel·ligència artificial:
entre alarmes i realitats
Per Ferran Adell

per evitar-ne un mal ús?». Hi ha molts Bibliografía

possibles dissenys i implementacions
de les tecnologies que permeten que la
IA existeixi, cal intentar potenciar els
que tinguin en compte els nostres
valors i ens ajudin a millorar el nostre
context vital.
Del debat ètic, la regulació política i el
desenvolupament del pensament crític
(que tant necessitem) dependrà fins a
quin punt serem capaços d’aprofitar
les potencialitats positives de la IA,
sense la necessitat de trucar a John
Connor perquè ens ajudi a defensar-
nos. I és que el sistema econòmic
actual, amb el suport de la nostra
classe política, serà més responsable
del possible impacte negatiu de la IA
que la tecnologia en si.
ADELL, Ferran (2014). « Remediació, multimèdia i
hibridació dels mitjans». Universitat Oberta de
Catalunya, blog de l’assignatura Fonaments i evolució
de la multimèdia del Grau de Multimèdia [en línia].
Disponible a: http://multimedia.uoc.edu/blogs/fem/es/
remediacio-multimedia-i-hibridacio-dels-mitjans/
BERNERS-LEE, Tim (1998). «Semantic Web roadmap».
World Wide Web Consortium [en línia]. [Data de
consulta: 30/05/2023]. Disponible en: https://
www.w3.org/DesignIssues/Semantic.html
CENTER FOR AI SAFETY (2023). «Statement on AI
Risk». Center for AI Safety [en línia]. Disponible a: https:/
/www.safe.ai/statement-on-ai-risk
MANOVICH, Lev (2013). Software Takes Command.
Nueva York: Bloomsbury Academic. DOI: https://
doi.org/10.5040/9781472544988
Notes
1. La intel·ligència artificial general (AGI) és la capaç
d’entendre, aprendre i aplicar el coneixement en el
mateix grau que els éssers humans. Es tracta d’una IA
que pot fer les mateixes tasques intel·lectuals que un
ésser humà..
Ferran Adell
Professor i investigador dels estudis d'informàtica
multimèdia i telecomunicacions de la UOC. Filòsof,
tècnic informàtic i doctor en Xarxes i Tecnologies de
la Informació. Les seves línies de recerca principals
giren al voltant dels impactes socials i filosòfics de
les tecnologies digitals, l'e-learning i l'aprenentatge
basat en videojocs (VGBL). Expert en ètica digital i
intel·ligència artificial, i en la gamificació dels
processos daprenentatge. La seva experiència
docent i de recerca s'estén més de vint anys, en què
ha cobert la pràctica totalitat de l'espectre educatiu.
D'altra banda, compta amb una llarga trajectòria
professional com a formador de docents,
maquetador web i consultor digital.
És el responsable del projecte Videojocs i Educació
en Català (http://vjeducacio.cat i https://
www.youtube.com/channel/UCy-
s3esvPdpXE9oB2Sca_jA), i ha participat en diferents
projectes de recerca per al desenvolupament de
videojocs educatius .
Twitter: @ferranadell | Linkedin: Ferran Adell

Cita recomendada: : ADELL, Ferran. Desmitificant la

intel·ligència artificial: entre alarmes i realitat. Mosaic [en
línia], juny 2023,, n.º 199. ISSN: 1696-3296. DOI: https://doi.org/
10.7238/m.n199.2310

36 37
 Ningú escrivint i ningú llegint:
els generadors de text amb
intel·ligència artificial i la ciència
que volem
Per Ariel Guersenzvaig
i Javier Sánchez Monedero
D es de la seva introducció massiva a
la fi de 2022, els generadors de text amb
intel·ligència artificial (IA) –anomenats
Large Language Models (LLM)– com
ChatGPT i i versions posteriors com GPT-4
no deixen d’acaparar interès en els
mitjans. Aquests sistemes són capaços de
generar textos, resums, traduccions i
transcripcions d’àudios. La seva capacitat
de redacció seria tan avançada que
aquests sistemes són capaços de generar
abstracts tan coherents que ni tan sols els
propis especialistes són capaços de
detectar que han estat escrits per una
màquina. Els seus usos aplicats estan a
l’ordre del dia; s’ha suggerit, per exemple,
que podrien servir per predir les primeres
fases de la malaltia d’Alzheimer. No
obstant això, també s’ha insistit molt que
aquests sistemes manquen de capacitat
38
real de comprendre els textos que
processen (que «llegeixen» o «escriuen»).
Per aquesta raó, se’ls ha caracteritzat com
«lloros estocàstics». També s’ha posat
l’accent en altres problemes com ara la
falta de transparència en les dades
d’entrenament, privacitat, els biaixos, o les
anomenades «al·lucinacions» i falsedats
que produeixen.
Si bé l’interès és real, ara com ara no pot
afirmar-se amb certesa que l’ús d’aquesta
tecnologia estigui implementada en
processos de treball formalitzats ni que
s’hagi generalitzat més enllà de l’ús
experimental, la xafarderia lúdica o la
satisfacció de la curiositat. Aquesta és,
sens dubte, una qüestió que mereix ser
dilucidada mitjançant estudis empírics
seriosos.
Generadors de text amb IA com a
assistents
En aquest article deixarem de costat els
aspectes tècnics i ens concentrarem en
alguns aspectes epistemològics i filosòfics
generals relacionats amb l’automatització
de processos clau de lectura i redacció en
l’àmbit acadèmic. Atesa l’extensió d’aquest
article i sense pretendre ser exhaustius,
ens limitarem a una qüestió bastant
específica: l’ús de LLM per a
l’automatització del procés de recerca i
revisió bibliogràfica que sol precedir a tota
recerca acadèmica.
Prenguem com a exemple el cas de Elicit,
una d’aquestes eines que busca optimitzar
fluxos de recerca acadèmica. En el seu
web, l’empresa desenvolupadora la descriu
de la manera següent:
“Elicit és un assistent de recerca que
utilitza models de llenguatge com GPT-3
per automatitzar parts dels fluxos de
treball dels investigadors. Actualment, el
flux de treball principal en Elicit és la
revisió de literatura. Si fas una pregunta,
Elicit mostrarà documents rellevants i
resums d’informació clau sobre aquests
documents en una taula fàcil d’usar.”
Segons el creadors d´Elicit, a partir de a
partir d’una pregunta de l’usuari, el
sistema troba els 400 articles
«semànticament» més relacionats amb la
pregunta, els ordena i retorna com a
resultat la informació clau més important
dels vuit articles més rellevants (outcome
measured, intervention i sample size).
En tots els àmbits acadèmics i
cientificotècnics, la recerca bibliogràfica
de l’estat de la qüestió sol precedir
qualsevol recerca. És un instrument que
usem per saber què s’ha dit sobre un
tema, quines altres visions o teories hi ha,
quins buits queden per cobrir, etc., i que
serveix, en resum, per establir els
fonaments de la nostra pròpia recerca.
39
 Ningú escrivint i ningú llegint: els
generadors de text amb intel·ligència
artificial i la ciència que volem
Per Ariel Guersenzvaig y Javier Sánchez Monedero
Però és la recerca bibliogràfica un mer
instrument que podem optimitzar
mitjançant una eina com Elicit?
Per a respondre aquesta pregunta, hem
de tractar primer una qüestió preliminar
de caràcter més general i relacionada
amb la manera de fer ciència, que és el
que comentarem a continuació.
Ciència intensiva i ciència
extensiva
Per a abordar la qüestió, i esperem que
sense simplificar massa, podem fer un
paral·lel amb l’agricultura i ramaderia (1) i
distingir entre ciència «intensiva» i
«extensiva».
La ciència intensiva és una ciència que és
«reeixida» en termes de resultats
quantitatius, entesos com la publicació
massiva de papers i la maximització de
totes les dimensions de la puntuació
avaluables per les agències de qualitat
científica. La pràctica intensiva permet al
40
personal investigador sobreviure i
promocionar. A més, és un model
d’especialització vertical i, seguint amb el
paral·lel de l’agricultura, de monocultiu.
En resum, la ciència intensiva cerca
obtenir el màxim rendiment possible del
temps i altres recursos dels quals es
disposa amb la finalitat de maximitzar
beneficis tangibles a costa d’altres
aspectes menys tangibles o directament
intangibles.
La pràctica de la ciència intensiva és
habitual en IA, on, per exemple, hi ha
multitud d’articles sobre sistemes que es
presenten com a capaços de «detectar
emocions», encara que aquests sistemes
siguin en realitat incapaços de detectar
emocions en el sentit estricte. No obstant
això, per complir amb els imperatius de la
maquinària productiva de la tecnociència
(2) intensiva, l’enorme complexitat de les
emocions humanes és reduïda a allò que
es pot mesurar amb un sistema amb IA,
encara que per a això faci falta establir
falses categories universals i eliminar del
model algorítmic tota referència a la
corporalitat, al context i a la cultura.
Llavors, si el principal interès com a
investigador és «produir» un article per
tenir cites i millorar la puntuació en els
indicadors de «qualitat» acadèmica,
encara que l’article no aporti massa que
sigui intrínsecament valuós,
probablement la recerca bibliogràfica
prèvia no és més que un instrument i no
una fi en si mateixa. Es buscarà recopilar
articles i catalogar-los, llegint com a molt
les paraules clau, el títol i l’abstract,
augmentant així la productivitat.
És això automatitzable?
Sí, i en aquest sentit, eines com Elicit,
salvant dificultats tècniques que
possiblement milloraran en el futur,
poden servir per a aquesta mena de
ciència intensiva, que és reduccionista i
centrada en l’obtenció de solucions, i el
propòsit principal de les quals és
maximitzar la producció d’articles.
“ Es la recerca
bibliogràfica un
mer instrument
que podem
optimitzar
mitjançant una
eina com Elicit?
Si fem una prova amb Elicit (veure figura
1), el programa ens presenta com a
evidències revistes de ciències de la
computació, però no ens ofereix
resultats sobre les teories de l’emoció
d’àrees de psicologia, que de seguida
situaria el reduccionisme dels sistemes
de reconeixement d’emocions
mitjançant IA com desfasat en el millor
dels casos. Però això no importa per al
model de ciència intensiva, en el qual
els grups de recerca s’especialitzen en el
monocultiu d’articles i per als quals la
interdisciplinarietat és una amenaça per
al sentit de la seva tasca.(3)
41
 Ningú escrivint i ningú llegint: els
generadors de text amb intel·ligència
artificial i la ciència que volem
Per Ariel Guersenzvaig y Javier Sánchez Monedero
Figura 1. Exemple d'ús d'Elicit: la IA pot detectar
emocions? Font: captura de pantalla realitzada pels
autors.
42
“
No es tracta només d’obtenir un resultat, unes
pàgines de text amb referències a altres
articles, sinó d’obtenir-ho d’una manera
determinada.
Ara bé, si per contra ens mou la ciència
extensiva i de debò estem interessats a
detectar emocions, si de debò volem
entendre en profunditat la complexitat de
la qüestió, començant per la pròpia
dimensió múltiple del concepte i no
quedar-nos en simplificacions banals,
eines com Elicit ens serviran molt menys.
En el millor dels casos, Elicit ens servirà
com a eina d’ajuda parcial en una tasca
més abraçadora i rica.
Tenim així una altra resposta per a la
pregunta plantejada anteriorment. En un
marc de ciència extensiva, la resposta és
no: la recerca bibliogràfica no és un mer
instrument que es pugui i s’hagi
d’automatitzar. Aristòtil deia que la
pràctica de la medicina no consisteix a
tallar o no tallar, o a prescriure un remei,
sinó a fer-ho d’una manera determinada.
El mateix podem dir de la recerca
bibliogràfica; no es tracta només d’obtenir
un resultat, unes pàgines de text amb
referències a altres articles, sinó d’obtenir-
ho d’una manera determinada.
En suma, tenim dues respostes preliminars:
per a la ciència intensiva, la recerca
bibliogràfica sí que és automatitzable, mentre
que per a la ciència extensiva solament ho és
parcialment. Aquest punt requereix un
tractament en més profunditat, i és el que
oferirem a continuació.
Finalitats intrínseques i finalitats
instrumentals
En filosofia sol fer-se la distinció entre dos
tipus de valors (o finalitats): els intrínsecs i
els instrumentals. Els intrínsecs es refereixen
a totes aquelles coses que són valuoses per
si mateixes, per exemple, l’amistat, la salut, la
diversió o la justícia. Els instrumentals es
refereixen a aquelles coses el valor de les
quals depèn de la seva relació amb una cosa
valuosa, ja sigui per obtenir-lo o per
preservar-lo. I és en aquest sentit que els
valors instrumentals també són importants.
Per exemple, un trepant no té valor intrínsec,
sinó que serveix per fer forats en la paret per
penjar quadres i gaudir d’ells. D’altra banda,
43
 Ningú escrivint i ningú llegint: els
generadors de text amb intel·ligència
artificial i la ciència que volem
Per Ariel Guersenzvaig y Javier Sánchez Monedero
el plaer estètic producte de la observació
d’aquests quadres, sí que té un valor
intrínsec. Certament, poc sentit li
trobaríem a la pregunta sobre per què
voldríem obtenir plaer estètic, ja que és
una cosa que és desitjable per si mateixa.
En algunes situacions, una mateixa cosa
pot aglutinar tots dos tipus de valors, és a
dir, pot servir per a alguna cosa i, alhora,
tenir valor en si mateixa. Pensem en
l’amistat. Un amic o amiga pot ajudar-nos
a aconseguir una feina millor o amb una
mudança. Alhora, l’amistat té valor en si
mateixa, i el valor de tenir amics i amigues
no depèn del fet que un amic ens serveixi
per a alguna cosa. Si comparem el valor de
l’amistat amb el trepant comentat
anteriorment, la diferència és evident: un
trepant qualsevol té poc o cap valor més
enllà de servir-nos per fer forats en la
paret o la fusta.
El cas de les matemàtiques pot servir-nos
per il·lustrar aquesta diferència en més
profunditat. Les matemàtiques se solen
dividir en pures i aplicades. La primera
44
inclou àmbits com l’àlgebra, la geometria
o l’anàlisi matemàtica. De les persones
que es dediquen a les matemàtiques
pures es diu que tenen un interès in se, i
que la fan per se: en si mateixa i per si
mateixa, no com un mitjà per a alguna
cosa. És a dir que algú que investiga
«grups finits» ho fa amb un interès
intrínsec, per exemple abstreure
propietats rellevants, amb independència
que aquests descobriments serveixin o
no per a alguna aplicació pràctica
posterior. Naturalment, és perfectament
possible que algun descobriment o teoria,
per més abstracta que sigui, pugui
eventualment servir per a alguna cosa. El
central aquí, no obstant això, és la
modalitat en la qual s’aborda l’estudi, que
no depèn d’un per a alguna cosa
posterior. Contràriament, en les
matemàtiques aplicades sí que trobem
aquest per a alguna cosa. Per exemple,
en l’àrea de les matemàtiques industrials,
el focus rau en la resolució de problemes
d’interès industrial, com ara optimitzar
l’eficiència energètica en edificis
mitjançant simulació numèrica.
desenvolupar les nostres pròpies idees,
Aquesta diferència entre matemàtiques
augmentant així la nostra capacitat de
pures i aplicades és una idealització, i el
pensament crític i creativitat, que és
que trobem en la pràctica és que, també
quelcom amb valor intrínsec. Per sobre de
en les matemàtiques aplicades,
tot, una bona recerca bibliogràfica situa el
matemàtics i matemàtiques estan
nostre treball dins d’un espai de diàleg
interessades en la pràctica de la
matemàtica com una fi en si mateixa.(4) La continu amb els nostres parells i els qui
ens van precedir. Al seu torn, ens permet
resolució d’un problema relacionat amb un
trobar referents i posicionar-nos dins d’un
sistema geotèrmic de calefacció bé pot
corrent acadèmic, la qual cosa pot tenir i
tenir una aplicació pràctica, però la pròpia
té efecte en la nostra identitat i en els
tasca de resolució del problema i l’activitat
valors i creences que adoptem com a
intel·lectual requerida per manipular idees
individus. En altres paraules, si bé alguns
complexes, fer abstraccions i formalitzar
aspectes de la recerca bibliogràfica són
solucions són, en si mateixes, alguna cosa
instrumentals (és a dir, que serveixen per a
que val la pena fer i que li dona sentit a la
alguna cosa), hi ha molts altres que tenen
matemàtica com a professió.
una importància que és independent de la
El valor intrínsec de la recerca seva aplicació o utilitat pràctica
bibliogràfica immediata, sinó que són intrínsecs a la
pràctica de la ciència en la seva modalitat
extensiva.
Ahora Ara que hem aclarit la diferència
entre les finalitats intrínseques i les
instrumentals, tornem a la recerca Igual que ocorre amb la matemàtica
aplicada, que mai és merament
bibliogràfica. La realització d’una recerca
instrumental, veiem que una cosa
bibliogràfica excedeix la dimensió
aparentment modesta com la recerca
instrumental, ja que ens ajuda a adquirir i
bibliogràfica també està connectada
complementar un vocabulari amb el qual
45
 Ningú escrivint i ningú llegint: els
generadors de text amb intel·ligència
artificial i la ciència que volem
Per Ariel Guersenzvaig y Javier Sánchez Monedero
profundament amb les dues classes de
valors: serveix per a alguna cosa i té,
alhora, valor en si mateixa.
A partir d’aquesta constatació, podem fer-
nos una sèrie de preguntes: hauríem
d’automatitzar aquestes tasques
connectades amb el més profund de la
nostra professió i que fins i tot li donen
sentit i la constitueixen?
La resposta no depèn del fet que aquests
sistemes d’assistència a la recerca
funcionin bé o no. Segons la nostra
experiència, Eliciten la seva versió actual
no ofereix millors resultats que els de
Google Scholar, però aquest no és un
aspecte central perquè la qualitat
d’aquests resultats pot millorar en el futur.
Aquí, la qüestió important radica en la
pròpia pràctica acadèmic-científica. Què
ocorre amb els seus valors i finalitats
intrínseques quan s’automatitzen? Què
passa amb el significat i sentit d’aquestes
pràctiques humanes quan els valors
instrumentals desplacen i erosionen
actituds, normes i activitats amb valor
46
intrínsec? Recordem que, en dur a terme
una recerca bibliogràfica, un aprèn i dona
forma als seus pensaments, es qüestiona
a si mateix, i entaula un diàleg d’acords i
disputes amb els qui ens van precedir,
consolida habilitats i desenvolupa altres
noves.
Podem anar més lluny. Què passa quan els
valors intrínsecs que s’obtenen en una
recerca bibliogràfica són reemplaçats per
una resposta provinent d’una espècie
d’oracle i no dels qui componen la
pràctica? Imaginem el millor escenari
possible: una resposta sense errors, sense
contingut inventat («al·lucinacions»),
compilat a partir de fonts actuals i amb
reputació. Suposem llavors que, en el
millor dels casos, mitjançant aquests
sistemes puguem obtenir els vuit articles
més rellevants. Però rellevants per qui? Té
sentit parlar de rellevància com una noció
neutra i universal? Si separem la
investigadora o l’investigador d’aquest
procés de cerca, si els separem d’aquest
diàleg amb les diferents tradicions que té
lloc en fer una recerca bibliogràfica, quines
eines conceptuals tenim per desenvolupar
una noció de rellevància? Com podem
parlar de rellevància sense un subjecte
que imprimeixi significat i compromís en
aquesta fase de la recerca?
El procés de recerca bibliogràfica és part
del procés de construcció d’una
bastimentada conceptual i teòrica per
pensar sobre els temes que investiguem.
Aquestes bastides, al seu torn, no són illes,
sinó que estan connectades amb les
bastides d’aquesta multitud
d’investigadors i investigadores, del
present i del passat, amb els qui
directament i indirectament compartim
pràctiques acadèmic-científiques i amb els
qui ens relacionem mitjançant vocabularis,
tradicions, mètodes, consensos i disputes.
Una part crucial de la recerca bibliogràfica
és, justament, considerar una font per
incloure-la o descartar-la. En quins criteris
i valoracions basem la nostra decisió?
Aquesta tasca és clau en la construcció
d’una hipòtesi o teoria, i no pot ser
automatitzada mitjançant un LLM que
opera sobre la base de regularitats
“
Què passa quan els
valors intrínsecs que
s’obtenen en una
recerca bibliogràfica
són reemplaçats per
una resposta provinent
d’una espècie d’oracle i
no dels qui componen la
pràctica?
estadístiques. Delegar aquesta tasca
ocasiona una enorme pèrdua per a la
pròpia recerca en buidar de significat la
tasca de determinar la rellevància d’una
font i la seva inclusió o exclusió.
No hem d’automatitzar res, doncs? És
impossible optimitzar el procés i fer-lo
més eficient? Clar que podem
automatitzar i optimitzar. Automatitzem la
generació d’una llista de referències amb
un gestor bibliogràfic com Zotero, i
deleguem el control gramatical al
processador de text. Però en cada activitat
que automatitzem, hi ha coses que es
perden i unes altres que es guanyen; en
aquests casos, perdem certes habilitats.
Preparar manualment un llistat en format
APA o corregir la gramàtica requereix més
coneixement i habilitat que usar Zotero o
Word. No obstant això, podem defensar
47
 Ningú escrivint i ningú llegint: els
generadors de text amb intel·ligència
artificial i la ciència que volem
Per Ariel Guersenzvaig y Javier Sánchez Monedero
aquestes automatitzacions perquè
optimitzen el procés i augmenten
l’eficiència sense erosionar de manera
fonamental els aspectes intrínsecs de la
pràctica extensiva de la ciència.
Aquest assaig no és un al·legat en contra
de l’automatització, sinó una reflexió que
busca raonar sobre quines activitats i
tasques poden automatitzar-se i quines
convé no delegar a màquines. Té sentit
automatitzar la generació d’hipòtesis, la
revisió bibliogràfica, el disseny
d’experiments o la discussió dels
resultats? Podem automatitzar certes
parts d’aquests processos? Quines parts i
en quina mesura?
Per a respondre adequadament, hem de
tenir clar què perdem en l’automatització i
què obtenim a canvi. Es tracta d’habilitats i
activitats que val la pena deixar de costat a
canvi d’una cosa més valuosa? O, per
contra, sacrifiquem coses intrínsecament
valuoses a canvi del valor instrumental de
l’eficiència?
48
Les respostes a aquestes preguntes no
poden quedar en mans d’enginyers amb
visions simplistes i «solucionistes» de la
pràctica científica, que la redueixen al
mínim perquè càpiga pels forats d’entrada
i sortida d’un sistema algorítmic. Tampoc
poden quedar en mans de gestors
acadèmics merament interessats en
«indicadors de qualitat». Aquestes
respostes hem de donar-les,
principalment, les persones interessades
en els valors intrínsecs de les pràctiques
científic-acadèmiques, no persones
guiades per mers valors instrumentals.
Som conscients que tot això implica també
un qüestionament radical de la manera en
què comuniquem i avaluem la producció
científica.
Per a concloure, tornem a l’agricultura i a
la ramaderia. Els fertilitzants i els robots
de munyiment no són meres eines, sinó
que són elements tecnològics que donen
forma a una mena de pràctica
determinada. Les tecnologies no són
instruments neutres, sinó que són
“
Volem una ciència de textos
(parcialment) automatitzats per
màquines que després processen i
resumeixen altres màquines i en la qual
ningú llegeix el que escrivim?
maneres de portar certes visions a la
pràctica i, alhora, excloure la realització
d’unes altres. La cria de vedells en gàbies
està renyida amb el pasturatge extensiu, i
el monocultiu, amb l’agricultura sostenible
i resilient. Una cosa semblant pot ocórrer
amb sistemes amb IA com ChatGPT o
Elicit, el disseny i la funcionalitat dels
quals semblen encaixar millor amb els
valors instrumentals de la ciència
intensiva que amb les finalitats
intrínseques de la ciència extensiva. Per
això, pensar en l’eventual adopció i ús
d’aquests sistemes és una bona excusa
per pensar també en la direcció que volem
per a la nostra pràctica acadèmic-
científica. Volem una ciència de textos
(parcialment) automatitzats per màquines
que després processen i resumeixen
altres màquines i en la qual ningú llegeix
el que escrivim? Volem una ciència
intensiva, instrumental i optimitzada per a
la quantitat i l’eficiència o, per contra,
preferim imaginar i realitzar una ciència
extensiva que busqui qualitat qualitativa,
profunditat i que no sigui només un
instrument per a alguna cosa, sinó una fi
en si mateixa?
Agraïments
Els autors agraeixen a Txetxu Ausin i César
Astudillo pels seus valuosos comentaris
sobre un esborrany d’aquest article.
Notes
1. L’agricultura intensiva cerca maximitzar
el rendiment i els beneficis d’un cultiu
mitjançant, per exemple, maquinària
industrial, fertilitzants o reg abundant, la
qual cosa produeix un impacte
mediambiental més gran. L’agricultura
extensiva, per contra, és més respectuosa
amb el medi ambient i cerca una
explotació més sostenible de la terra. Amb
la ramaderia succeeix una cosa semblant,
encara que amb l’agregat de la important
qüestió del benestar animal. Aquest
aspecte és ignorat en la ramaderia
49
 Ningú escrivint i ningú llegint: els
generadors de text amb intel·ligència
artificial i la ciència que volem
Per Ariel Guersenzvaig y Javier Sánchez Monedero
intensiva, que fa un processament fabril
d’éssers vius que viuen en naus i són
alimentats amb enceball, mentre que la
ramaderia extensiva tendeix a buscar
millors condicions per a la cura dels
hàbitats, les espècies i els ecosistemes,
per exemple, mitjançant el pasturatge
lliure segons l’estació.
2. Entesa com una pràctica científica
hipertecnologitzada i accelerada, en la
qual la tecnologia ja no és només el
resultat de l’aplicació del coneixement
científic, sinó que aquesta, alhora,
transforma la pròpia pràctica científica en
tots els nivells, des dels processos fins als
valors.
50
3. Per raons de focus i espai, deixem per
un altre moment la discussió epistèmica-
ontològica sobre la naturalesa d’aquest
coneixement científic intensiu. Per a la
discussió que ens ocupa, assumirem que
la ciència intensiva sí que produeix
coneixement, de la mateixa manera que
l’agricultura i la ramaderia intensives
també produeixen carn, ous i enciams.
4. També convé apuntar que la
matemàtica pura tampoc està exempta de
les pràctiques intensives a les quals ens
hem referit.
Cita recomanada: GUERSENZVAIG, Ariel; SÁNCHEZ
MONEDERO, Javier. Ningú escrivint i ningú llegint: els
generadors de text amb intel·ligència artificial i la
ciència que volem. Mosaic [en línia], juny 2023, no. 199.
ISSN: 1696-3296.. DOI: https://doi.org/10.7238/
m.n199.2309
Ariel Guersenzvaig
Especialista en Ètica del disseny i la
tecnologia, i professor a Elisava,
Facultat de Disseny i Enginyeria de
Barcelona, on dirigeix el màster
Disseny i Direcció d'UX. La seva
investigació acadèmica ha estat
publicada a revistes acadèmiques
com ACM Interactions, AI & Society,
Journal of Design o IEEE Technology
and Society. És autor de The Goods of
Design: Professional Ethics for
Designers (Rowman & Littlefield,
2021). Fa marxada del Comitè d'Ètica
de la Investigació de la Universitat de
Vic-UCC.
Twitter: @interacciones • LinkedIn.
Javier Sánchez Monedero
Investigador distingit al grup de
recerca Aprenentatge i Xarxes
Neuronals Artificials de la
Universitat de Còrdova i investigador
associat al Data Justice Lab de la
Universitat de Cardiff. La seva
recerca actual se situa en l'anàlisi i
el disseny de sistemes intel·ligents
amb aproximacions
interdisciplinàries i de justícia de
dades. Ha publicat en revistes
acadèmiques com Big Data &
Society, Internet Policy Review,
Journal of Machine Learning
Research, Applied Soft Computing,
IEEE TKDE i IEEE TMI, entre
d'altres.
Twitter: @javisamo • Mastodon:
51
 La distribució abductiva
de valors en els catàlegs
digitals
Per Alger Sans Pinillos
Introducció
E ncara que certament l’auge de la IA,
en general, i la transformació progressiva
del paradigma analògic a la realitat
virtual, en particular, han obert reptes
nous i interessants, també han redefinit
els contextos des dels quals mirar de
comprendre problemàtiques clàssiques.
En aquest sentit, es reprèn aquí la
qüestió sobre la discriminació que
esdevé en la classificació del patrimoni,
prenent com a punt de referència
l’experiència del museu virtual. En
particular, s’analitza la manera com els
valors socioculturals defineixen les
categories que després es materialitzen
en la catalogació dels objectes materials
o immaterials exposats.
52
La comparativa entre el museu
tradicional i les seves versions digitals
revela que, en molts casos, la
transferència dels valors socioculturals
que succeeix entre els agents i els
objectes és transversal i, com a mínim,
bidireccional. Es tracta d’una relació
simbiòtica i simultània de la qual
emergeix la dimensió axiològica d’una
societat. Dit en unes altres paraules,
d’una banda, els valors, entesos com
les propietats que fan que un objecte o
fet sigui millor que d’altres des d’un
criteri no quantitatiu, són elements
constituents de l’entorn conegut; i,
d’altra banda, no només són maneres
d’afectar, sinó que també són les
maneres de ser afectats; valorem el
món perquè el món té un valor, és a dir,
el que nosaltres li hem donat.
Des d’aquesta perspectiva, qualsevol
espai, sigui natural o artificial, és
susceptible d’esdevenir distribuïdor de
valors segons la significació individual i
col·lectiva de les activitats que s’hi duguin
a terme. Així doncs, tota experiència és el
fruit de la combinació de la influència que
l’imaginari col·lectiu exerceix sobre les
narratives personals, mitjançant el vincle
existent entre la biografia, la història, la
societat i les seves estructures, juntament
amb la relació inherent entre allò públic i
allò privat (Sans Pinillos, 2023). En breu,
un espai viscut d’aquesta manera combina
els dos factors que defineixen la realitat
social, és a dir, el resultat de la relació
“ La comparativa entre el
museu tradicional i les seves
versions digitals revela que,
en molts casos, la
transferència dels valors
socioculturals que succeeix
entre els agents i els objectes
és transversal i, com a
mínim, bidirecciona
entre els mons personals (microscòpics) i
les estructures socials (macroscòpiques)
(Brewer, 2004). Per tant, experiències
diferents, fins i tot contradictòries, poden
coexistir i definir alhora un lloc.
1. La invisibilització en el museu
tradicional
En aquest sentit, el cas dels museus és
extremadament interessant. Segons recull
el Consell Internacional de Museus
(International Council of Museums –
ICOM– en anglès), un museu és una
«institució sense ànim de lucre, permanent
i al servei de la societat, que investiga,
53
 La distribució abductiva
de valors en els catàlegs
digitals
Per Alger Sans Pinillos
col·lecciona, conserva, interpreta i exhibeix
el patrimoni material i immaterial» (ICOM,
2022). Això es materialitza en el model
predominant del museu, les portes del qual
són obertes a tothom per servir d’espai per
a la contemplació ociosa (Prior, 2006:
509-510) de les col·leccions degudament
conservades. No obstant això, que no hi
hagi restriccions per entrar en un museu no
vol dir que les seves portes no estiguin
tancades per a algunes persones.
A causa del valor que el museu tradicional
genera i gestiona, persisteix encara una
dinàmica elitista que tendeix a ressaltar el
patrimoni que representa el conjunt
majoritari de la societat, per la qual cosa és
habitual que es cometi la manera
específica d’injustícia hermenèutica de
posar en dubte la capacitat epistèmica
d’algunes persones, a causa dels prejudicis
socioculturals a certs col·lectius (vegeu
Fricker, 2007) i, amb això, la seva
invisibilització (no representació) en els
museus. Es tracta d’una injustícia comesa a
dos bàndols, perquè es manifesta tant en
54
l’absència de certs objectes en les
exposicions com en allò exhibit.
No obstant això, qui és el responsable
d’aquesta situació? Tothom i ningú. En
tractar-se d’una circumstància vertebrada
pels prejudicis socialment i culturalment
arrelats, ha de considerar-se com una
manera d’injustícia social (Opotow, 2011),
en el sentit que sorgeix una discrepància
entre el que és, en aquest cas la societat, i
el que hauria de ser, per exemple, l’art. Així
doncs, es comet injustícia en els museus
perquè se sol fer una transició il·lícita
entre el que és l’art i el que ha de contenir
el cànon cultural específic d’una societat.
En aquest ha de es concentren els
compromisos epistèmics amb la norma
del gust imperant, juntament amb la
tradició i la història; tots ells, factors de
diferents ordres que, combinats, tendeixen
a jerarquitzar i justificar l’exclusió. Així
mateix, hi ha altres factors que cal
considerar, com les limitacions de l’espai
físic, que sovint acompanyen els
arguments que defensen els cànons.
2. Invisibilització 5.0: el museu
virtual
El museu virtual, entès com l’espai digital
creat tecnològicament on s’investiga,
col·lecciona, conserva, interpreta i exhibeix
el patrimoni material i immaterial (definició
d’en Vicent Costa, amb qui estic duent a
terme una recerca sobre el museu digital),
podria contribuir a pal·liar les maneres
d’exclusió perpetrades pel «tothom i ningú»
que representen les dinàmiques i prejudicis
socioculturals d’una comunitat. En efecte,
podria creure’s que la digitalització dels
catàlegs, la creació de bases de dades i la
possibilitat d’exposar sense límits espacials
físics hauria de contribuir a no excloure per
qüestions de cànon. No obstant això, l’altra
cara del «tothom i ningú» obliga a un museu
virtual automatitzat, és a dir, sense les
interaccions (vegeu Huhtamo, 2010) que
comporten les injustícies abans
assenyalades i, per tant, exigeix una base
de dades que contingui, si no totes, la
majoria de les obres d’art per tal d’exposar
sense cap mena de prejudici.
El requisit d’una base de dades
d’aquestes característiques hauria de
servir per deixar de banda les decisions
sobre què ha de digitalitzar-se.
Malauradament, aquesta base de dades
no escaparia de la mà de l’ésser humà, ja
que, abans de res, ha de ser creada i, per
això, funcions com l’etiqueta «obra d’art»,
que s’usaria per a la categorització prèvia
al catàleg digital, contindrien les mateixes
nocions socioculturals aplicables en els
museus tradicionals. Dit d’una altra
manera, la dada (per exemple, el quadre
La Primavera d’Arcimboldo) necessita
sempre una classificació, per la qual cosa
l’exclusió d’un objecte en aquesta
hipotètica base de dades universal
implicaria el seu desterrament i oblit,
perquè seria descartat directament sense
comptar amb el mínim reconeixement de
ser exposat sota una altra etiqueta i, així,
disputar un canvi per mitjà del debat i la
discussió.
El problema sobre la relació entre els
elements quantitatius i qualitatius roman
55
 La distribució abductiva
de valors en els catàlegs
digitals
Per Alger Sans Pinillos
encara obert, i afecta la qüestió sobre la
transformació de les normes (el procés pel
qual les coses signifiquen mitjançant algun
mètode de descripció) en regles (els
elements que constitueixen la vida
interior). Aquest problema adopta la forma
següent: cap escala definida pot
representar completament el judici de
valor o la dimensió psicològica d’un agent
(Sans Pinillos, 2023). Així mateix, com s’ha
vist, els cànons i tradicions tendeixen a
generar entorns que condueixen a cometre
diverses maneres d’exclusió. Així doncs,
davant la impossibilitat d’eludir les
decisions, una estratègia viable és
reprendre el problema sobre la
responsabilitat del «tothom i ningú», i
considerar ara la interacció com a eix
central per evitar els casos d’exclusió. Per
a aquest propòsit, s’introdueix a
continuació la noció del raonament
abductiu com a mecanisme de distribució
d’informació axiològica en informació
descriptiva com el catàleg digital.
56
3. Distribució abductiva de la
informació axiològica als catàlegs
digitals
L’abducció pot definir-se com la inferència
hipotètica, desencadenada davant
situacions o fenòmens que no poden
abordar-se mitjançant els recursos
epistèmics clàssics, per la qual cosa la seva
validesa recau en la seva plausibilitat per
determinar cursos d’acció per a la recerca.
Com a tal, l’abducció és un procés no
arbitrari de generació i selecció d’hipòtesi, i
també el producte final abduït que serveix
per gestionar les diferents experiències
que, a causa de la seva novetat, són
percebudes com a sorprenents o
desconcertants (Thagard, 1988; Gabbay i
Woods, 2005; Aliseda, 2006).
Hi ha, en aquest sentit, un compromís amb
la veritat, amb el qual l’abducció transforma
el coneixement fiable en propostes
interessants i noves (Sans Pinillos i Estany,
2023). Dit d’una altra manera, l’abducció és
una inferència «potenciadora del
coneixement» (knowledge-enhancing)
perquè genera hipòtesis capaces
d’adquirir força en la mesura en què són
compartides i acceptades per raons que
sovint escapen a les epistèmiques, com
ara la seva bondat o durada (vegeu
Magnani, 2017, pàg. 90), i ofereixen, en
conseqüència, noves veritats.
Des d’aquesta perspectiva, el catàleg
digital podria esdevenir artefacte moral
inert (Sans Pinillos, 2021, pàg. 348) amb
la funció de distribuir els valors inherents
en les accions dels usuaris. Ja s’ha
esmentat que un ús aïllat pot exacerbar
els efectes d’exclusió que actuen en els
museus tradicionals, per la qual cosa la
potència de la capacitat distributiva
axiològica hauria d’estar estretament
“ El mateix context
interactiu
predisposaria a una
actitud més perceptiva
a considerar les
qüestions morals
subjacents al projecte.
relacionada amb les diverses
valoracions que una comunitat faria dels
objectes susceptibles de ser introduïts
en el catàleg. Precisament pel fet de
conviure més d’un punt de vista, cada
proposta resistiria a passar del seu estat
hipotètic a la seva inclusió en el catàleg
i, fins i tot llavors, tota decisió d’inclusió
o exclusió romandria en estat
provisional constant.
A més a més, el mateix context
interactiu predisposaria a una actitud
més perceptiva a considerar les
qüestions morals subjacents al projecte.
En aquest sentit, com ocorre en
qualsevol interacció, aquests elements
57
 La distribució abductiva
de valors en els catàlegs
digitals
Per Alger Sans Pinillos
podrien desencadenar reaccions
mediades per diferents constrictors
conductuals (per exemple, la imitació)
que, alhora, podrien generar sentiments
fraternals entre els participants en
l’elaboració del catàleg, per la qual cosa
l’elitisme inicial preexistent en les
deliberacions sobre art podria
gradualment dissoldre’s i barrejar-se amb
altres consideracions més afins a crear un
entorn més amable per a tothom amb
propostes paral·leles i creatives per
satisfer totes les inquietuds.
Conclusions: els usuaris
defineixen l’entorn
L’objectiu principal d’una institució al
servei de la societat és que no posi en
perill la integritat moral de les persones.
La idea d’un catàleg digital comunitari
autoregulat durant el seu
desenvolupament és un projecte
organitzat on, sense imposar un cànon o
tradició en particular, s’ofereix un espai
per al desenvolupament ple dels usuaris.
L’ús social generalitzat d’aquest catàleg
58
podria reduir certes injustícies esmentades
en aquest treball perquè:
a) El catàleg es desenvoluparia tot
considerant la realitat social de la
comunitat que l’elabora.
b) L’autoregulació obliga a assenyalar i
esmenar les injustícies comeses, així com a
mantenir en estat provisional qualsevol
exclusió.
En aquest sentit, l’abducció emergeix com
el mecanisme idoni per explicar el procés
pel qual els valors subjacents en tota acció
converteixen el catàleg en un dispositiu
distribuïdor de valors: el resultat de la
validació de certs supòsits (regla) per mitjà
de l’experiència (cas) pot desencadenar
una hipòtesi (abducció) que guiï les nostres
accions i potenciï la nostra visió ètica de la
societat en què vivim. En aquest sentit, el
valor moral atribuït a determinades accions
des d’una perspectiva social i cultural pot
predisposar l’agent a assumir una actitud
quan les practica en contextos determinats.
No obstant això, l’espai deliberatiu i la
consideració de tota exclusió com a
hipòtesi en constant revisió només
serveix per a les obres d’art visibilitzades
en la discussió i per prevenir les
injustícies explícites. Així doncs, cal
pressuposar que és impossible
desprendre’s totalment dels prejudicis
socialment i culturalment arrelats, de
manera que no sembla haver-hi manera
de garantir una base de dades que no
sigui involuntàriament injusta. Per tant,
cal un disseny de catàleg digital que no
només assenyali els casos d’injustícia,
sinó que també visibilitzi els col·lectius
exclosos, per exemple, tot mostrant
permanentment les discussions o
propostes minoritàries.
L’avantatge d’un catàleg d’aquestes
característiques és que contribuiria tant al
projecte del museu virtual com al model
del museu tradicional. Amb la seva deguda
integració, el catàleg digital podria exercir
d’espai de deliberació paral·lel, constitutiu
en la resistència, dels cànons imperants i
reflectir així totes les minories, i
representar els sentiments divergents i
transgressors que, a més a més, també
formen part de la societat.
59
 La distribució abductiva
de valors en els catàlegs
digitals
Per Alger Sans Pinillos
Bibliografia
ALISEDA, Atocha (2006). Abductive
reasoning: Logical investigations into
discovery and explanation. Springer.
BREWER, John D. (2004). «Imagining the
sociological imagination: The biographical
context of a sociological classic». The British
Journal of Sociology, vol. 55, pàg. 317-333.
DOI: https://doi.org/10.1111/
j.1468-4446.2004.00022.x
FRICKER, Miranda (2007). Epistemic
Injustice: Power and the Ethics of Knowing.
Oxford: Oxford University Press.
GABBAY, Dov; WOODS, John (2005). A
practical logic of cognitive systems: The reach
of abduction: Insight and trial, vol. 2.
Elsevier.
HUHTAMO, Erkki (2002). «On the origins of
the virtual museum».A: Parry Ross (ed.).
Museums in a digital age, pàg.. 121-135.
Londres: Routledge.
OPOTOW, Susan (2011). «Social Injustice».
En: Daniel J. Christie (s.f.). The Encyclopedia
of Peace Psychology. DOI: https://doi.org/
10.1002/9780470672532.wbepp256
MAGNANI, Lorenzo (2017). The abductive
structure of scientific creativity. An essay on
the ecology of cognition. Springer.
60
PRIOR, Nick (2006). «Postmodern restructurings».
A: Sharon Macdonald (ed.). A companion to
museum studies, pàg. 509-524. Wiley. Alger Sans Pinillo
SANS PINILLOS, Alger; ESTANY, Anna (2023).
Investigador postdoctoral en Filosofia de la
«Concerning the Epistemology of Design: The Role
of the Eco-Cognitive Model of Abduction in
Ciència a la Università degli Studi di Pavia. Les
Pragmatism». Philosophies, vol. 8, n. 2, pàg. 33. seves investigacions recents versen sobre els
MDPI AG. DOI: http://dx.doi.org/10.3390/ fonaments del razonament abductiu i el
philosophies8020033 pragmatisme, la dimensió axiològica inherent als
espais i els fonaments biològics i socioculturals
SANS PINILLOS, Alger (2022). «Distribución
de la creativitat.
abductiva de los valores culturales: El proyecto de
Alejandría».A: Anna Estany; Mario Gensollen
(eds.). Diseño Institucional e Innovaciones Facebook: Alger Sans Pinillos.
Democráticas, pàg. 333-352. Mèxic: Universitat Twitter: @dionysianunhold.
Autònoma de Barcelona-Universitat Autònoma www.algersanpin.com.
d’Aguascalientes. ORCID: https://orcid.org/0000-0002-8817-7286.
SANS PINILLOS, Alger (2023). «Abductive
Irradiation of Cultural Values in Shared Spaces:
The Case of Social Education Through Public
Libraries». En: Lorenzo Magnani (ed.). Handbook of
Abductive Cognition. Cham: Springer. DOI: https://
doi.org/10.1007/978-3-031-10135-9_51
THAGARD, Paul (1988). Computational philosophy
of science. MIT Press.
Cita recomanada: SANS PINILLOS, Alger. La
distribució abductiva de valors en els catàlegs digitals.
Mosaic [en línia], juny 2023, no. 199. ISSN: 1696-3296.
DOI: https://doi.org/10.7238/m.n199.2308
61
 mosaic

62