Pocs artefactes moderns han colonitzat les nostres converses de manera tan fulminant com la IA.
Reconec que, escèptic amb la seva introducció, jo també en soc usuari habitual. No fer-ho seria una estupidesa, tot siga dit.
Però, i si més que utilitzar una nova eina estiguérem al preludi d’un nou tipus de vida?
Açò és, amb molts matisos, el que s’han plantejat a la Universitat de Luxemburg. En un enginyós estudi, recentment realitzaren un examen on van sotmetre ChatGPT, Grok i Gemini a una sèrie de sessions de psicoanàlisi, on emularen un estudi psicoterapèutic, per identificar símptomes psiquiàtrics i trets de personalitat d’aquests models d’IA.
Sorprenentment, o no, al llarg de les quatre setmanes que durà l’experiment i amb variacions entre proves, els models d’IA mostraren patrons de resposta consistents i recognoscibles, fet que alguns investigadors interpretaren com una possible simulació d’estats emocionals.
Encara que qüestionat per altres especialistes, l’estudi ha generat una interessant pregunta. Podrien els models d’IA acabar tenint una consciència sobre si mateixos?
Rosant amb preguntes més pròpies de la ciència-ficció que de l’acadèmia, aquest estudi em portà a la lectura d’una obra d’un dels pares de la ciència-ficció moderna, com és Isaac Asimov i la seva novel·la Jo, Robot.
En aquesta antologia formada per nou contes, Asimov ens descriu un futur, distòpic?, on unes màquines primerament molt arcaiques acaben sent pràcticament indistingibles dels éssers humans, el que genera un seguit de qüestions ètiques sobre el paper que l’evolució tecnològica pot tenir a les nostres societats.
Asimov, per solucionar aquests conflictes, formulà les famoses tres lleis de la robòtica, que permetria garantir que la robòtica sols afavorís el benestar de la humanitat. Aquestes lleis serien:
Primera Llei: un robot no farà mal a un ésser humà o, per inacció, permetrà que un ésser humà sofrisca mal.
Segona Llei: un robot ha de complir les ordres donades pels éssers humans, a excepció d’aquelles que entraren en conflicte amb la primera llei.
Tercera Llei: un robot ha de protegir la seva pròpia existència en la mesura en què aquesta protecció no entre en conflicte amb la primera o la segona llei.
Malgrat això, la lectura de Jo, Robot, deixa entreveure que ni tan sols una benintencionada intervenció tecnològica escapa de situacions inesperades que acaben produint conseqüències moralment qüestionables.
Així doncs, aplegats fins aquest punt, dues preguntes em ressonen per dins. És possible que acabem tenint obligacions morals respecte d’entitats artificials? Són les màquines capaces d’actuar com una espècie de “deu” omnipotent i savi?
Respondre a la primera qüestió demana endinsar-se en un debat acadèmic que, en grans trets, es divideix en tres grups.
El primer grup apostaria per la tesi de la “viabilitat jurídica”: si personatges jurídics com empreses o les ONG tenen drets, per què no els bots? La consciència del robot és irrellevant; el que compta és la utilitat d’aquesta ficció legal. Un segon grup, en canvi, prefereix posar el focus en graduar la responsabilitat: la moralitat no és un tot o res, i si un sistema és capaç d’aprendre de l’experiència i corregir la seva conducta, en certa manera ja mereix una consideració moral. Finalment, la darrera d’aquestes tesis advoca per un ús merament instrumental d’aquestes eines, advertint que humanitzar les màquines devalua la dignitat humana i dilueix la responsabilitat dels seus creadors.
Tot i que comparteixo la urgència d’exigir comptes als creadors dels robots, no podem descartar una evolució autònoma que no sols possibilités sinó que requerís dotar de drets entitats com les IA. Al cap i a la fi, durant segles vam tractar els animals com a mers esclaus instrumentals. No obstant això, l’evolució de la consciència col·lectiva determinà que la possibilitat de dominar un animal no et feia irresponsable del seu benestar o destí.
D’igual manera, i encara que, a diferència dels animals, no tenim cap evidència que les IA siguen éssers sentits, una evolució algorítmica que fera que els bots es convertiren en instruments autònoms exigiria la seva conversió en subjectes de dret, amb la corresponent exigència de respecte de la seva dignitat. Ignorar aquest fet implicaria assumir els beneficis de crear entitats cada vegada més complexes sense afrontar les conseqüències morals derivades d’aquesta evolució.
Potser, si més no, el problema actual no és tant si les IA arribaran algun dia a merèixer drets, sinó com la seva progressiva humanització està ja transformant la forma en què els éssers humans entenem l’autoritat, la responsabilitat o inclús la veritat. Com més autonomia o racionalitat atribuïm a aquests sistemes, més fàcil resulta delegar en ells decisions que tradicionalment exigien judici humà.
Quants de nosaltres acudim a ChatGPT perquè ens conteste, en la seva aparent saviesa i neutralitat, un dubte qualsevol?
Quanta gent, a Twitter (o X), confia més en la pregunta “Grok, és real”?, que en les opinions dels periodistes?
Lògicament, en els temps de desinformació en què vivim, els ciutadans busquem desesperadament l’objectivitat i neutralitat que les màquines prometen, sense ser conscients que, igual que els periodistes responen a una línia editorial, també les IA responen a la voluntat algorítmica dels seus creadors, estan tan allunyades de l’objectivitat, tal volta més perquè no té límits morals, que qualsevol de nosaltres.
En conseqüència, en aquest període de “naixement” de les IA, la societat comença a atribuir autoritat a sistemes que no entén, confonent tecnologia amb objectivitat, menysvalorant els interessos i principis propis dels creadors de les IA. Per aquest motiu és especialment important remarcar el perill de la suposada neutralitat artificial, la qual pot acabar sent una de les il·lusions més convincents del nostre temps.
De fet, contraintuïtivament, com més objectiva acabi semblant una IA, més necessari esdevindrà continuar recordant els interessos, límits i decisions dels seus creadors. En definitiva, més necessari resultarà recordar que l’objectivitat artificial no deixa pas de ser una perillosa il·lusió.
