Una obra essencial per comprendre el paper cada vegada més central dels algoritmes en la nostra societat. L’autor ens guia a través d’una reflexió profunda i crítica sobre les implicacions ètiques d’aquests algoritmes.
Ja sabem, gràcies a Arthur C. Clarke, que qualsevol tecnologia prou avançada és indistingible de la màgia. Les coses que es poden fer avui amb un mòbil passarien quasi per màgia fa vint anys. La intel·ligència artificial està més de moda que mai: ha suscitat darrerament debats sobre qüestions ètiques i morals relacionades amb la manipulació d’imatges i la confiança en la informació visual. Nombrosos representants del món gràfic han manifestat el seu malestar pel risc que la seua activitat quede obsoleta en un futur proper.
El que hi ha al darrere de la màgia de la intel·ligència artificial és l’algoritme, que de manera molt sintètica se sol definir com una seqüència finita i ordenada de passos o instruccions que permeten dur a terme una tasca específica o resoldre un problema, a partir d’una sèrie de dades, i L’ètica Algorítmica és una obra essencial per comprendre el paper cada vegada més central dels algoritmes en la nostra societat. L’autor ens guia a través d’una reflexió profunda i crítica sobre les implicacions ètiques d’aquests algoritmes en diversos aspectes de la vida quotidiana.
Aquesta tecnologia és un instrument al servei de la humanitat o està començant a dictar els nostres destins? Els algoritmes poden influir en les preferències i les eleccions dels ciutadans, i manipular les seves emocions sense que n’hi haja consciència.
Francesc Torralba és filòsof i teòleg, i autor d’un gran nombre d’assaigs de temàtiques diverses, que tracta des d’una perspectiva filosòfica i que mira d’integrar la riquesa de l’herència judeocristiana i els corrents filosòfics moderns i contemporanis, amb especial interès en els aspectes ètics. La novetat, potser, d’aquest llibre és el fet de posar en relació l’ètica i el món de la tecnologia i de la ciència, i cal dir que el resultat és francament notable.
El llibre aborda l’omnipresència creixent dels algoritmes en els nostres entorns socials, des dels mercats financers fins als mitjans de comunicació i les xarxes socials. Aquesta tecnologia és un instrument al servei de la humanitat o està començant a dictar els nostres destins? Els algoritmes poden influir en les preferències i les eleccions dels ciutadans, i manipular les seves emocions sense que n’hi haja consciència. Aquests sistemes poden introduir biaixos injustos i reforçar les desigualtats socials ja existents. Això suggereix la necessitat urgent d’establir regulacions ètiques i garanties de transparència per protegir els drets i les llibertats individuals.
Es ressalta la necessitat del consentiment voluntari dels clients i la transparència en l’ús de les dades, tot subratllant la importància que aquest consentiment siga explícit i informat.
La robòtica ocupa una part important del llibre. Les criatures animades creades per l’home han estat des de sempre objecte de fascinació. Recordem la faula de Pigmalió, en què un escultor es va enamorar profundament de la seva pròpia creació: una estàtua de marbre d’una dona tan perfectament bella que la considerava el seu ideal femení. Isaac Asimov, en la seua sèrie de contes sobre robots —dits “positrònics”, possiblement perquè el positró, antipartícula de l’electró, predit en 1928, que obria tot un univers d’antimatèria, es prestava a estimular els somnis dels escriptors, tot com avui ho fa la mecànica quàntica— establia que aquests estaven governats per les tres lleis de la robòtica, lleis que els impedien de provocar danys als humans.
¿Poden els robots adquirir capacitat moral i drets, tot reconeixent la dificultat de definir i aplicar aquests conceptes en el context de les màquines? El que és clar és que no tenen sentiments ni autoconsciència. Però aquesta diferència amb nosaltres, podrà ser superada alguna vegada? ¿Pot ser que l’autoconsciència sorgesca com una propietat espontània, emergent en el moment en què la complexitat neuronal abasta un cert nivell. Hi ha només una diferència de grau entre nosaltres i les màquines?
En diversos apartats s’aborda la qüestió de la protecció de les dades personals en l’era del big data. Hi destaca la importància de considerar les dades personals i el seu tractament amb la finalitat indicada en la recopilació inicial. A més, s’hi ressalta la necessitat del consentiment voluntari dels clients i la transparència en l’ús de les dades, tot subratllant la importància que aquest consentiment siga explícit i informat.
No cal triar entre ser tecnooptimista o tecnopessimista, més aviat cal buscar una tercera via integradora que ens permeta gaudir dels avantatges de la tecnologia, tot minimitzant-ne els riscs.
Finalment, s’hi estudia el concepte de mort numèrica, que es refereix a la conservació de les dades digitals després de la mort d’una persona i la possibilitat de mantenir una forma d’immortalitat digital, amb algunes aplicacions ja existents que permeten interactuar amb els perfils de persones difuntes, alhora que es considera la qüestió legal i ètica entorn de les dades digitals després de la mort i s’explora el potencial de les empreses per mantenir viva la presència digital d’una persona després de la mort.
Per acabar: el llibre exposa més qüestions i interrogants que no solucions —almenys no solucions categòriques. Al contrari, aporta suggeriments, confronta posicions diferents i diverses opinions i criteris respecte dels problemes que suposa el desenvolupament exponencial del món digital. No cal triar entre ser tecnooptimista o tecnopessimista, més aviat cal buscar una tercera via integradora que ens permeta gaudir dels avantatges de la tecnologia, tot minimitzant-ne els riscs.
