Hi ha dissenys que solament tenen un objectiu nociu. Independentment de l’usuari, l’objecte s’ha projectat per fer quelcom dolent o qüestionable. I així, en «Tot el que pot fer-se, ha de ser fet?», vaig justificar la conveniència de traslladar el focus de l’artefacte al disseny. Vaig posar exemples a l’àmbit militar, també al de l’urbanisme i les infraestructures.
I en el dels algoritmes, elements fonamentals en l’actual expansió de l’automatització? Què comparteix l’algoritme amb l’acer? Ambdós són elements essencials en el disseny d’enginys amb una diversitat d’usos, funcions i objectius. L’acer és matèria primera del disseny d’estructures civils o de potent armament destructiu. Els algoritmes ho són de l’anomenada intel·ligència artificial (IA). Les instruccions detalladament seqüenciades perquè els programadors es comuniquen amb els processadors. I ja distingí en l’anterior peça entre dissenys algorítmics que substitueixen l’ésser humà automatitzant feines repetitives manuals o intel·lectuals, i altres algoritmes que prenen decisions automatitzades que involucren el moll de la naturalesa humana, qüestionant la seua dignitat i els seus drets.
Pensat i Dret
Al canal de YouTube de la Facultat de Dret de la Universitat de València he trobat aquest vídeo de la sèrie Pensat i Dret. El missatge inicial: pràcticament la totalitat de drets fonamentals poden ser afectats per la IA. Els tres professors que intervenen en comenten alguns. La mateixa concepció i funcionament de la IA, contínuament alimentada amb les nostres dades, viola el dret a la seua protecció. També els biaixos que contenen les dades i els dissenys dels algoritmes —descrits per la literatura especialitzada, i que ja comentí en aquesta peça— lesionen el dret a la no discriminació. Ana Montesinos, professora titular de Dret Processal, adverteix que si la IA és usada en els processos judicials poden menyscabar-se alguns drets inclosos en el dret a la tutela judicial efectiva: a la defensa, a la contradicció, a la igualtat d’armes, a la motivació d’una sentència, o a la presumpció d’innocència (IA per a avaluar el risc de reincidència d’un acusat). La manca de transparència dels algoritmes, i els seus biaixos, contradiuen l’aura d’objectivitat que sembla envoltar les accions i decisions d’una màquina, i justifiquen l’advertiment de Montesinos.
Adrian Todolí, professor titular de Dret del Treball també percep discriminació en els biaixos que poden contindre els algoritmes de selecció de personal, ja que una gran proporció de currículums de candidats no són mai vistos per avaluadors humans. En l’àmbit del treball, Todolí veu qüestionat el dret a la salut quan es deixen en mans d’algoritmes la fixació i el control dels ritmes i les càrregues de treball, en substitució de la feina que faria un cap de planta en una empresa. Gonzalo Pardo, professor de Ciència Política, posa l’èmfasi en el dret a la pròpia imatge que les noves eines IA poden violentar, servint a la manipulació de missatges, generant i propagant falsedats, agredint la mateixa democràcia liberal.
Delegant en la IA
Ja fa dècades, l’atenció telefònica al client fou posada en mans d’algoritmes que et guien per successius menús d’opcions. Hui ja hi funcionen agents automatitzats (chatbots) entrenats per a conversar en llenguatge natural i capaços d’atendre’ns com si foren operadors humans. No descansen, 24 hores, 7 dies a la setmana, i poden substituir moltíssims teleoperadors humans, on encara en queden. Un amic meu, recentment, s’adonà que estava parlant amb un agent IA de la companyia elèctrica. Es fixà que sonava un teclat, segurament per augmentar la sensació del client de ser atés per un operador humà. Afegir aquest efecte, innecessari, no és un ornament innocent. Les empreses tecnològiques que competeixen en la cursa de la IA tenen interés a humanitzar-la. Un tret que, segurament, coopera en facilitar la seua acceptació.
Amb pas ferm, sense pauses, sempre per endavant dels intents de regulació —on n’hi ha— la societat va delegant funcions en la IA. He citat l’atenció al client. També l’atenció mèdica, amb aplicacions IA, per exemple, que ofereixen teràpia psicològica personalitzada. La IA ja ret alguns usos en l’àmbit judicial-policial, i alguns films i sèries de ficció exploren altres que, probablement, esdevindran. S’imposa la idea que hem de delegar en la IA una important habilitat humana com és la redacció de textos, sense parar atenció que escriure està íntimament relacionat amb pensar, i aquesta habilitat l’hauríem de preservar. La reproducció del diner (el diner-deute hegemònic) solament és possible amb el creixement continu del deute(1). Doncs bé, hui en dia, al casino del diner, on els posseïdors es barallen pels rèdits de la seua reproducció, la IA algorítmica negocia de forma automatitzada una part grossa de les operacions… La delegació de funcions en la IA avança i conquereix molts sectors d’activitat humana.
La més ambiciosa de les delegacions
Faig un salt, però, a la més ambiciosa: la substitució de la democràcia liberal per un sistema de govern i organització social coparticipat per la IA. Un projecte que presenta llibertat i democràcia com a conceptes antagònics, incompatibles. Grans empreses tecnològiques controlen el desenvolupament de la IA. Amb la societat entregada, s’han fet amb les regnes i possibiliten un revifament de l’anarquisme de propietat privada, l’objectiu del qual és minimitzar l’estat buidant-lo de serveis públics. Arturo Gradolí, filòsof i informàtic, col·laborador de Diari La Veu, descriu el que està ocorrent com a tecnoabsolutisme(2). L’economiste Yanis Varoufakis, ministre grec de finances en el govern progressista de SYRIZA, com a tecnofeudalisme(3). Ambdós conceptes adverteixen del retorn a formes de govern predemocràtiques, actualitzades al nostre temps i amb IA de protagonista.
————-
(1) Vegeu, per exemple, «La màquina de l’interés. Conseqüències» de la sèrie sobre la naturalesa del diner.
(2) Al llibre Tecnoabsolutisme global. La intel·ligència artificial i el risc de col·lapse social (2026).
(3) Al llibre Tecnofeudalisme. El sigil·lós successor del capitalisme (2024).
