Preguntes sobre la IA
Deia Pablo Picasso que els ordinadors no li interessaven perquè tenien respostes, però no podien fer preguntes. Si us hi fixeu bé, fer preguntes és una capacitat genuïnament humana. Amb la Intel·ligència Artificial a això mateix, té moltes respostes, però algú li ha de plantejar les preguntes, no té la curiositat per poder-les generar. Per això, la IA no podrà substituir mai les persones, quan les persones siguin necessàries. És a dir, quan el que s’hagi de menester sigui creativitat, pensament crític o empatia.
La IA, la tecnologia en general, no és ni bona ni dolenta per se. I, sobretot, tampoc és neutra. Si té efectes positius o negatius en la societat dependrà en bona mesura de l’ús que en fem, sí, però també de com s’ha ideat. Potser alguna vegada us han plantejat una pregunta, per mi irresoluble: què ha de fer un tren que si segueix per la via atropellarà un grup de persones i si se’n desvia n’atropellarà una de sola. Això, una màquina tampoc ho sabrà si algú no li ho diu abans. Jo mateixa no he escrit aquesta columna amb IA perquè, per a obtenir un resultat decent, m’hauria costat més donar-li les ordres que fer-la de bell nou.
Els grans models de llenguatge com ChatGPT o Deep Seek, la IA que utilitzem quotidianament, són un reflex de la nostra societat, no la fan pas millor, però podrien fer-la pitjor si no tenim clar que no són neutres, ni tenen la raó absoluta, ni la seva paraula és dogma de fe. De fet, s’alimenten dels textos de la xarxa i d’aquí que les respostes siguin, en general, racistes i masclistes, el que s’anomena biaix algorítmic. En podeu fer la prova, demaneu les deu obres imprescindibles de la literatura universal, us generarà una llista en què tot seran homes. Si en formular la pregunta, en canvi, recordeu a la màquina que també hi ha dones escriptores, us hi inclourà Mary Shelley, Virginia Woolf o Jane Austen que abans havia deixat fora.
Picasso no estava errat quan es fixava en les preguntes més que en les respostes. Dependrà de les nostres preguntes si deixem que la IA perpetuï els mals del nostre món o li anem indicant com els ha de corregir. No és casualitat que una de les veus amb més coneixements i més crítiques amb la IA, l’enginyera etíop Timnit Gebru, sigui dona i negra, la veu de la consciència contra el biaix algorítmic.
