Acabí la darrera peça «Automatització» traient a relluir el paper dels algoritmes en l’actual moment de la tecnologia computacional. El terme s’ha fet popular en els mitjans de comunicació paral·lelament al d’intel·ligència artificial.
Excessos
La tecnologia sempre ha anat per endavant i la humanitat s’hi ha adaptat. Elogis n’ha merescut, però també ha provocat recel i crítiques. En la revolució industrial n’hi hagué respecte del tren de vapor, entre altres motius, per la pol·lució i el soroll. I revoltes contra els industrials que instal·laven telers que substituïen mà d’obra forçant acomiadaments i salaris a la baixa. El primer cas, i des de la perspectiva actual, una exageració; hui en dia, els milers de milions d’enginys cremant combustibles fòssils representen un greu problema. En el segon cas es discutia la desigual distribució dels beneficis derivats del progrés tecnològic. La crema de combustibles fòssils exemplifica molt bé els excessos en què incorre la humanitat. I tot apunta que, sota el guiatge de la lògica capitalista, l’excés continuarà fins a esprémer la totalitat de les reserves accessibles. També l’ús dels plàstics, un excés que du problemes ambientals i sanitaris.
Quant a l’automatització, hi ha excés tecnològic en la invasió d’àmbits que limiten amb els drets i la dignitat dels humans. Un terreny perillós construït sobre l’acumulació i processament indiscriminat de les nostres dades amb múltiples propòsits, inclòs el control i la vigilància, i el rendiment econòmic. La nova aristocràcia tecnològica en sap traure profit.
«Els algoritmes són neutrals», una generalització inadequada
Derivat del nom del savi persa del segle IX, Muhammad ibn Mussa al-Khwarizmi, algoritme (també algorisme) és un conjunt ordenat i finit d’operacions per a resoldre un problema o executar una tasca. Les instruccions que aprenem a escola per a sumar fraccions, una recepta de cuina o una partitura musical, són algoritmes. En medicina també s’hi apliquen algoritmes en la presa de decisions clíniques, sistematitzant seqüencialment el procediment. L’actual fama dels algoritmes, però, deriva de la informàtica.
Un computador és una màquina algorítmica. Els programes informàtics són algoritmes. Les seues parts bàsiques: l’entrada de dades, el processament i la sortida de resultats. L’increment exponencial de la potència de còmput, paral·lel a la miniaturització dels components dels processadors, permet arribar a velocitats increïbles de processament. I així, la computació es basa en la força bruta, en els centenars de milers de milions d’operacions que els equipaments actuals poden fer per segon.
L’enunciat «Els algoritmes són neutrals» és una generalització inadequada que no distingeix entre diferents escenaris. La raó és que no és el mateix substituir l’ésser humà en feines repetitives mitjançant programes computacionals dirigits per algoritmes, que reemplaçar-lo en tasques que impliquen jutjar situacions i prendre decisions que involucren i interessen directament al mateix ésser humà.
No és el mateix un algoritme que supervisa un procés de fabricació industrial «decidint» operacions en funció de circumstàncies, previstes o imprevistes, que altres algoritmes que seleccionen, filtren o personalitzen la informació que arriba als usuaris de xarxes socials, automatitzen processos de selecció de personal o intervenen en una nova àrea, creada en l’esfera policial i judicial, anomenada criminalitat predictiva, per exemple.
Algoritmes automatitzats que repercuteixen directament sobre l’ésser humà
Els tipus i les fonts dels biaixos que introdueixen aquests algoritmes estan descrits en la literatura especialitzada. Alguns apareixen en l’entrada de dades, en les ingents quantitats de dades que són la matèria primera d’entrenament sobre la base dels quals els algoritmes fan prediccions o recomanacions. Les tendències que puguen mostrar les dades d’entrenament es reprodueixen o amplifiquen en la sortida de resultats. Per exemple, els algoritmes de les xarxes socials condueixen (i encapsulen) als usuaris per seqüències de visualitzacions basades en la història de les seues visualitzacions. Amb l’objectiu d’atrapar els usuaris perquè romanguen navegant en la mateixa aplicació, sembla que afavoreixen la polarització de la societat.
Un altre exemple. En els EUA el sistema judicial usa un programa algorítmic per a predir la probabilitat de què un acusat siga reincident. Es va descobrir que les prediccions contenien un biaix racial que reproduïa el de les dades històriques d’entrenament del programa. Dades històriques que contenen cert biaix racial del comportament de la policia cap a la població negra. I així, el nombre d’acusats negres reincidents era bastant menor que la predicció del programa, i en el cas dels acusats blancs passava el contrari.
Com poden ser neutrals si responen a dissenys planificats?
El disseny dels algoritmes segueix les directrius establertes per qui té capacitat d’escollir-les. També les lleis. La Constitució espanyola permet l’estatització de deutes privats. Per contra, la Constitució de l’Equador, per exemple, ho prohibeix. El contingut de les lleis respon a uns objectius prèviament escollits.
El disseny dels algoritmes també depén dels objectius dels dissenyadors. Ho exemplificaré amb les criptomonedes. L’algoritme de BITCOIN està dissenyat perquè els posseïdors de potents equips computacionals competeixen per minar bitcoins; cada minat concret se l’endú qui primer resol un trencaclosques criptogràfic. L’algoritme d’una altra criptomoneda, la JUNA, molt modesta, i que no té l’atenció dels mitjans, està dissenyat perquè tots els membres d’aquesta moneda coprodueixen la mateixa quantitat de junes, equitativament, sense competir. Diàriament, s’anoten en el moneder electrònic de cadascú dels membres. Diner-mina i diner-coproduït. Dos conceptes, dos algoritmes. Sobre la JUNA i BITCOIN vaig escriure un bon manoll d’articles en la sèrie sobre la naturalesa del diner, ací a Diari La Veu. N’enllace un, que vaig titular «La juna. Preguntes freqüents».
Els algoritmes comparteixen amb els protocols, o les lleis, una certa aura de distanciament i inaccessibilitat, que els protegits de la crítica, controvèrsia o reprovació. El sentit comú està sent modelat per acceptar la presència i evolució d’un tipus d’algoritmes que poden agredir els drets i la dignitat dels humans. Sol argumentar-se que són més eficients, i eviten discussions i debats, llargs i sovint irritants, que amb els algoritmes esdevenen superflus. La proclamada neutralitat dels algoritmes propaga la idea que poden ser més justos, imparcials, impertorbables en les seues decisions i recomanacions, que els emocionals i corruptibles humans. L’argument erra perquè falla la premissa de la neutralitat.
