Kitabı oku: «Jo, robot, et governo»

Per què tenim por de la intel·ligència artificial (IA)?

El brillant advocat Stephen Byerley és el favorit en la campanya electoral per a l’alcaldia de Nova York. Tot és perfecte en aquest candidat kennedià: la seva formació, els seus postulats progressistes, la seva intel·ligència, la seva fotogènia… Però precisament això desperta suspicàcies en un món atemorit amb la possibilitat que els robots es facin amb el govern del món. I si Byerley fos un robot androide? Se l’hauria de desemmascarar o hauríem de confiar que una intel·ligència no humana, superior, ens governés? Aquesta és la trama d’«Evidència», un dels contes de Jo, Robot, el primer llibre publicat per Isaac Asimov.

La raó de començar una reflexió sobre intel·ligència artificial amb Asimov és múltiple: l’any 2020 hem commemorat el centenari del naixement de l’autor. Així mateix, podríem afegir que el 2020 ha fet 70 anys de la publicació del llibre Jo, Robot. I pel que fa a la traducció al català, també ensopeguem amb una xifra simbòlica. La versió catalana de Jo, Robot es va editar un orwellià 1984. Xifres rodones, any literari, relectura obligada.¹

Portada de la traducció catalana de Jo, Robot, d’Isaac Asimov.

Per a la protagonista de Jo, Robot, la robopsicòloga Susan Calvin, que Byerley sigui un robot no és una qüestió rellevant. Que el futur governant de la ciutat (de La ciutat) sigui un organisme biològic o un artefacte informàtic no li provoca dilemes morals. És més, prefereix un govern regit per una intel·ligència artificial, més que per una d’humana:

«M’agraden els robots. M’agraden bastant més que no pas els éssers humans. Si fos possible de crear un robot capaç de ser un funcionari civil, em penso que faria la feina el millor possible. Segons les Lleis de la Robòtica, fóra incapaç de fer mal a la gent, incapaç de la tirania, de la corrupció, de l’estupidesa, de ser pacial. I després d’haver servit durant un termini considerable, abandonaria el càrrec, encara que fos immortal, perquè li seria impossible de fer mal als humans deixant-los saber que un robot els havia governat. Això fóra ideal.»

Tots nosaltres voldríem tenir l’optimisme de Susan Calvin, però més aviat tendim a visions apocalíptiques. Encara que siguem usuaris cecs de dispositius smart, ens en proclamem desconfiats. Els processos matemàtics de la intel·ligència artificial són deterministes: a més de ser una intel·ligència superior a la nostra, la IA pot negar la nostra llibertat.

On es troba l’arrel d’aquesta sospita? Potser en l’etimologia mateix de la paraula. No en va el terme «robot» prové del txec «robota» («servitud o treball forçat»). El terme es va popularitzar a partir de 1920, gràcies a l'obra de teatre R.U.R. (Rossumovi univerzální roboti, o en català, Robots universals Rossum), escrita pel dramaturg txec Karel Čapek. Vet aquí que el 2020 també és el centenari del neologisme «robot».

Primera representació de l'obra de teatre R.U.R. (Rossumovi univerzální roboti), escrita pel dramaturg txec Karel Čapek. Foto lliure de drets (enllaç 1 i enllaç 2)

Però més enllà de l’imaginari literari, hi ha realitats inapel·lables. És el cas de SyRI (System Risk Indication). El 2014, les autoritats d’Holanda van començar a usar aquest algoritme per a la detecció del frau en els ajuts socials. SyRI s'alimentava de dades de la policia, d'hisenda, del sistema sanitari, de l'institut nacional de l'atur i d'altres organismes públics. La seva missió era identificar els individus amb més probabilitats de frau en ajuts i subvencions de l’Estat. SyRI no té forma d’androide, però és un sistema d’intel·ligència artificial que decidia i executava polítiques assistencials del país. Stephen Byerley en estat pur: Jo, Robot, et governo...

Una coalició d'organitzacions de juristes, de protecció de drets civils, de consumidors i d'afectats per malalties mentals van denunciar l'ús de SyRI per part de les autoritats. No només rebutjaven la violació de la intimitat digital dels ciutadans dels Països Baixos. També acusaven l’Administració d’usar SyRI de forma sistemàtica en zones amb alta proporció de pobresa, immigració i minories ètniques.

La qüestió va arribar a la 74a Assemblea General de l'ONU, celebrada del 7 d'octubre al 20 de novembre de 2019. Philip Alston, relator especial per a la pobresa de l'ONU, va presentar l'Informe sobre pobresa i drets humans. En ell, s'abordava l'anomenat «Estat del benestar digital» i s'advertia del risc que corren alguns països en delegar a algoritmes les decisions en polítiques socials. La implementació d'una administració smart pot generar noves exclusions i injustícies.

El febrer de 2020, l’ús de SyRI i l’amenaça que comporta van ser vetats per un tribunal neerlandès. "SyRI no respecta la privacitat del ciutadà i vulnera l'article 8 de la Convenció Europea de Drets Humans". L'objectiu legítim d'evitar abusos en els ajuts assistencials té efectes no desitjats – i més perjudicials que el delicte que persegueix. Estigmatitza i discrimina la ciutadania.

La distòpia de robots governant les nostres vides ja no és una fantasia literària. És una realitat efectiva, si bé en aquest cas anul·lada per un tribunal. És necessària, imprescindible, una regulació d’aquesta nova realitat que assigni drets, estableixi responsabilitats i arbitri procediments de resolució de conflictes. Amb el desenvolupament tecnològic recent, han aparegut uns éssers artificials que poden governar la nostra societat, revolucionar el sistema productiu i alterar profundament les correlacions de poder.

¹El 2005, es va estrenar el film I, Robot, amb un guió molt allunyat del llibre, que va passar sense pena ni glòria. Potser perquè 2005 és una xifra que no admet moltes càbales, la pel·lícula no té cap interès.