Entrevista a Carme Torras

La tecnologia és addictiva. Ho comentava Carme Torras i Genís (Barcelona, 1956) en una de les ­seues conferències, en les quals acostuma a alertar de la necessitat d’una perspectiva ètica a l’hora de dissenyar robots. Professora d’investigació de l’Institut de Robòtica i Informàtica Industrial (centre mixt del Consell Superior d’Investigacions Científiques i la Universitat Politècnica de Catalunya), actualment dirigeix un equip de recerca en robots assistencials per a ajudar les persones amb mobilitat reduïda o deteriorament cognitiu a realitzar tasques quotidianes com vestir-se o alimentar-se.

Matemàtica de formació, se’n va anar a fer un màster en ciències de la computació a la Universitat de Massachusetts, als Estats Units. En tornar, es va doctorar en Informàtica a la Universitat Politècnica de Catalunya i va consolidar una trajectòria investigadora per la qual ha rebut nombroses distincions, que van des del Premi Rafael Campalans de l’Institut d’Estudis Catalans, la Medalla Narcís Monturiol de la Generalitat de Catalunya al mèrit científic i tecnològic i el Premi Julio Peláez a les dones pioneres en ciències, fins a les més recents, com el Premi Nacional d’Investigació Julio Rey Pastor en l’àrea de matemàtiques i tecnologies de la informació i les comunicacions, i el Premi Nacional de Recerca de Catalunya.

A més, Carme Torras conrea la literatura. En ella les ciències i les lletres no són dos mons separats. Ben al contrari, són passió i devoció. Mai ha entès aquesta distinció i fins i tot es va arribar a matricular en Filosofia i Lletres en la Universitat Nacional d’Ensenyament a Distància (UNED), on va cursar diversos anys. La literatura, afirma, li permet reflexionar sobre els reptes ètics que acompanyen el desenvolupament de la ciència i la tecnologia. Té publicades diverses novel·les, com ara Pedres de toc (Columna, 2003), La mutació sentimental (Pagès Editors, 2008), Miracles perversos (Pagès Editors, 2012) i Enxarxats (Males Herbes, 2017) i ha participat en nombrosos reculls de contes, com Científics lletraferits (Mètode, 2014) o, els més recents, Barcelona 2059 (Mai Més, 2021) i Somia Philip Marlowe en xais elèctrics? (Alrevés, 2021).

L’entrevista es realitza en línia i des de tres ciutats diferents: València, Leicester (Regne Unit) i Barcelona, des d’on ens atén Carme Torras. La pandèmia ha contribuït a normalitzar les trobades virtuals que, si abans eren l’excepció, han acabat sent la norma.

Som una societat cada vegada més tecnificada però aquesta pandèmia ens ha mostrat, entre altres coses, que l’assistència als nostres majors encara té un gran marge de millora més enllà dels aspectes tecnològics. Quin ha de ser el paper de la robòtica en aquest context?

Al nostre laboratori intentem fer robots que ajudin a donar de menjar i a vestir-se a les persones que tenen petites restriccions de mobilitat perquè puguin continuar sent autònomes. Durant la pandèmia hem pogut fer, a més, entrenament cognitiu a persones que tenen una deficiència mental lleu, del tipus Alzheimer, amb la Fundació ACE, que atén questa malaltia. Després d’uns mesos van obrir el centre i vam portar el robot que utilitza el mateix tauler de joc que fan servir els terapeutes per a diagnosticar i fer un seguiment de la malaltia. Per exemple, cal posar nombres en ordre creixent o decreixent, que poden anar –depenent de la discapacitat– d’una xifra a tres, es pot complicar… I el robot proporciona la mateixa ajuda que donaria un terapeuta. És a dir, si veu que la persona no se’n surt, li diu «està en aquesta línia», «és de color vermell», fins i tot hi ha un nivell d’ajuda en què li agafa la peça i la col·loca. També l’anima: «molt bé», «tu pots»… Vam veure que, abans de posar la peça, si algunes persones dubtaven miraven la terapeuta i si aquesta els feia que sí amb el cap, la posaven i si deia que no, s’ho pensaven. Doncs, el robot fa el mateix, si està bé fa una confirmació. Si no, tanca els ulls.

I això substituiria la figura del terapeuta o seria perquè entrenen de forma autònoma?

En alguns centres només poden disposar d’un terapeuta per a vint pacients i si poguessin tenir aquesta opció… No cal gran cosa, amb un braç amb un cap n’hi ha prou… I a banda, el sistema pot enregistrar l’evolució del malalt al llarg de mesos. La capacitat d’emmagatzemar dades del robot és major que la del terapeuta.

I el fet que la gent gran és la generació menys entrenada en tecnologia, és un obstacle o se supera?

Nosaltres anticipàvem que tindrien una mica de por o que no entendrien què estava passant i va ser al revés, els va encantar, i això que quasi tot eren persones majors de setanta anys! També és possible que, com que en la pandèmia van estar tant de temps sense massa estímuls, allò fos com una alenada d’aire nou.

Són molt cars aquests robots? Podrien implementar-se?

El que hem fet servir nosaltres és un dels que ja teníem, que és un robot mòbil, amb rodes, un braç, una càmera, tota una sèrie de sensors i, sí, aquest val 50.000 euros. Però no faria falta tant, com he dit. I pensem que aquests robots no els utilitzaria una sola persona, sinó que es farien servir en centres per a molts pacients. Amb altres aplicacions que estem fent, com la de donar de menjar, ja hi ha petits dispositius que són com una mena de llum articulat, i aquests valen només 7.000 euros. El que fem és equipar-los amb una càmera que «vegi» quan el malalt obre la boca –que vol dir que vol menjar–, i llavors el braç l’alimenta. Aquesta aplicació és un win-win, guanyen els cuidadors, que a l’hora del menjar no donen abast, i també les persones que no tenen mobilitat als braços perquè governen la màquina ells mateixos. És una aplicació que em sembla que aviat estarà generalitzada perquè dona una autonomia important a la persona.

De tota manera, aquesta interacció entre robots i humans genera moltes expectatives, però també temors per si ens resten cada vegada més autonomia com a individus.

Sí, és clar, però això passa amb les màquines en general. Ningú recorda ja els números de telèfon, per exemple. Tota la tecnificació comporta que hi ha capacitats que les fa la màquina. La meua idea és que utilitzem les màquines per a les tasques en què aquestes són més capaces i ràpides i ens reservem les que requereixen capacitats humanes com la creativitat, l’empatia, l’experiència de vida, etc. Jo veig que anem cap a una simbiosi més que a una substitució. No crec en això de la singularitat i que les màquines acabaran dominant el món. Crec més en la combinació de capacitats de les persones i de les màquines.

«Més que a una substitució, anem cap a una simbiosi entre màquines i humans»

En aquesta utopia que les màquines s’encarreguen de les tasques més repetitives hem de tenir en compte que, en el sistema laboral, hi ha persones que fan aquestes feines. Com ho fem perquè tothom puga entrar en la part aquesta de la feina més creativa? Com ho solucionem des del punt de vista educatiu?

A mi m’agrada pensar que no són llocs de treball sinó unes tasques determinades perquè cada vegada més és una robòtica col·laborativa: la màquina fa les feines més pesades i l’humà les de supervisió o de control fi. Ara aquesta és la tendència de la robòtica industrial. De tota manera, aquesta col·laboració amb la màquina requereix una qualificació superior. Per tant, és veritat que hi ha feines que acabaran desapareixent. Però hi ha feines que no estan catalogades com d’alt nivell i que no desapareixeran, perquè sempre cal una part d’empatia, com, per exemple, les cures humanes.

Al Regne Unit, com que el Brexit hi ha dificultat l’accés dels immigrants, el país s’ha estancat. Per exemple, en alguns supermercats falten els productes a les lleixes perquè no en tenen als magatzems, falten camioners… En aquesta utopia de les màquines també pot passar.

Per a aquest cas de les lleixes buides tenim un projecte amb una empresa per fer aquest tipus de tasques, també per a fer caixes amb les compres en línia. Això ho acabaran fent robots perquè és agafar d’aquí i d’allà i fer la caixa per a enviar. Moltes d’aquestes tasques s’acabaran mecanitzant.

Aquesta divisió de tasques ha estat un dels arguments de l’empresari Elon Musk a l’hora de presentar el seu projecte de robot humanoide fa uns mesos. Com acull la comunitat científica aquests anuncis?

Hi ha molt poca informació de com serà aquest robot. Sembla que ha usat tota la part de percepció del cotxe autònom en el robot, però no he trobat gaire informació. A més, jo en els humanoides aquests no hi crec gaire. Crec més en el robot electrodomèstic, que fa determinades tasques i que no cal que sigui més antropomòrfic del necessari. No cal dotar-lo de cames si ha d’anar per una superfície llisa, no cal que tingui una cara amb molta expressivitat si només ha d’ajudar a vestir… No és la imatge dels robots de les pel·lícules, sinó una eina més.

Aleshores, la robòtica va més per aquí, per l’electrodomèstic que per l’androide? Es mira més la funció que no la forma?

Per a mi, sí, perquè, a més, si se’ls hi dona gaire forma humana poden enganyar els nens i les persones grans. En els nens el desenvolupament de l’empatia s’està formant i si es relacionen tant amb una màquina se’ls pot passar el període d’aprenentatge. Una persona gran, si no té un cuidador humà, té el problema de l’aïllament.

Potser en la robòtica assistencial els límits estan més clars, però què ocorre amb el cas de la robòtica militar?

És el principal perill. Totes aquestes armes de destrucció autònomes com els drons, que poden tenir d’objectiu un determinat tipus de persona, ho trobo horrorós. I no sols jo, eh? Tota la comunitat d’intel·ligència artificial i robòtica n’està molt preocupada. Hi ha una campanya, que es pot consultar al web «Stop killer robots», a la qual s’ha adherit moltíssima gent. Gairebé hi ha unanimitat en la comunitat científica excepte, és clar, els que treballen en investigació militar, en agències com DARPA.

Fent d’advocats del diable, la investigació militar no fa també avançar la investigació civil? Pot tenir un aspecte positiu en aquest sentit?

Sí, és clar, i viceversa. Per exemple, moltes de les coses que es desenvolupen en visió artificial no estan fetes de cara a aplicacions militars, però després s’hi utilitzen. La investigació sempre té això, que la pots utilitzar en un sentit o en altre. Però jo sí que veig la gran amenaça. En aquest sentit, la sèrie Black mirror ho exemplifica molt bé. I ja ni sent militar. Hi ha un episodi, «Hated in the nation», en què teledirigeixen abelles [robòtiques] perquè ataquin determinades persones. Ho trobo brutal.

I a banda de manifests i campanyes com la que ha mencionat, què més es pot fer?

S’ha demostrat que és complicadíssim. Hi ha organismes que han fet unes guies del desenvolupament ètic dels robots. Per exemple, l’Institute of Electrical and Electronics Engineers (IEEE) durant dos o tres anys organitzà diversos comitès d’ètica específics per a cada entorn –educatiu, sanitari, governamental– i obert a aportacions, perquè no és el mateix legislar al Japó que a Europa. Aleshores es van trobar que els governs van acceptar molts aspectes [d’aquesta iniciativa], però els van fer reduir i treure la part militar perquè allí no hi havia manera de posar-se d’acord. Llavors ara s’ha editat un mínim d’aquests principis, sense aquesta part. Això és molt dur de pair perquè és com que va per altres vies. Està molt bé això de la robòtica social, la intel·ligència artificial, posar certes normes, però el tema militar no es pot tocar, no?

Pel que fa a legislar per a cultures diferents, hi ha un estudi relacionat amb els cotxes autònoms en què preguntaven a qui salvarien de morir atropellat i les respostes eren diferents, depenent de la zona. Per exemple, als països asiàtics salvaven més la gent gran i a Europa protegíem abans la vida dels nens. Quan arribem a l’ètica de les màquines, haurem de tenir ètiques diferents? Les lleis de la robòtica d’Asimov seran diferents segons el país on s’apliquen?

Jo crec que hi ha uns principis bàsics que serveixen universalment però després n’hi ha d’altres, no només per a cada país, sinó per a cada circumstància. No és el mateix un robot en l’àmbit educatiu que en l’àmbit assistencial. Una cosa és fer els principis bàsics i una altra, el reglament en cada cas. De fet, la Comunitat Europea, en intel·ligència artificial, ha fet també un document de guia i cada país està adaptant-lo. Vull dir, que es particularitza.

Foto: Jordi Play

Pel que fa a l’aprenentatge automatitzat en les màquines, fins a quin punt la complexitat humana es pot traduir en algoritmes?

És un tema interessant i que té un doble vessant. Hi ha aspectes positius com, per exemple, el Google Translator, on la gent va proposant canvis de paraules depenent del context i el programa ho va aprenent. Per altra banda, hi ha el cas de Microsoft, que va posar un xatbot, Tay, a Twitter perquè anara aprenent del que li deia la gent en aquesta xarxa social i al cap de setze hores el van haver de donar de baixa perquè va acabar sent nazi, sexista, insultava… És terrible! Penses que estem a mercè del que faci la gent, que, de vegades, és molt poc conscient de la importància de les seues contribucions a les xarxes. Una de les meues dèries quan faig docència en ètica de la tecnologia és que la gent prengui cons­ciència, perquè de vegades es fa de manera inconscient, dels biaixos de tota mena que s’introdueixen [en la programació], bé per desconeixement o perquè no es trien bé les dades de les quals aquests programes aprenen.

Parlant de Twitter i xarxes socials, quin paper han pogut tindre els algoritmes i els bots en la desinformació sobre la pandèmia?

No crec que sigui cosa dels bots. L’origen és sempre humà. En tot això de les pseudociències hi ha col·lectius que ho patrocinen. La xarxa el que fa és globalitzar-ho i reforçar-ho. Ara hi ha gent que treballa en intel·ligència artificial per detectar notícies falses, per combatre això; hackers bons, els white hackers.

Un debat de la pandèmia ha estat si s’havia de censurar determinats perfils que estan desinformant. Si donem el poder a algun algoritme o sistema que ens permeta netejar les xarxes, no acabarem silenciant més del compte?

Per això sempre diem que és important formar, però des de l’escola primària. És a dir, abans estudiàvem un altre tipus de coses –valors cívics, etc.– que estan molt bé, però ara també se’ls hauria d’estimular el pensament crític des de petits: que no es creguin tot el que llegeixen, que busquin i que tinguin criteri per poder distingir… jo crec que és factible.

«La tecnologia crea el problema i després intenta solucionar-lo»

Si vols ser crític has de saber com funciona el pensament. És un dels problemes dels nostres sistemes d’ensenyament, que separen les ciències de les lletres.

És horrorós. A la Universitat Po­li­­tècnica de Catalunya, que és on estic jo, no hi ha programes d’humanitats, és clar. I ara han posat en marxa un conveni amb la Universitat Oberta de Catalunya perquè els estudiants d’enginyeria puguin cursar algunes assignatures i els hi compten com a crèdits, perquè es volia introduir continguts d’humanitfats a les carreres però no tenien manera de fer-ho. Això va ser una iniciativa que va estar molt bé. Es necessita aquesta complementarietat, però les infraestructures no estan enfocades així.

La seua novel·la La mutació sentimental, de fet, s’empra també com a material docent per a reflexionar sobre l’ètica.

Als Estats Units, als graus d’enginyeria industrial i informàtica ja fa anys que es fan assignatures d’aquesta mena. I les impartien amb textos filosòfics que per als alumnes de tecnologia resultaven una mica abstractes. Fa uns anys alguns professors van començar a utilitzar novel·les d’Isaac Asimov, de Ray Bradbury i de Philip K. Dick per motivar una mica més l’alumnat. Jo sempre, al final de les meves intervencions, parlo de la importància de l’ètica i cito la novel·la. En un congrés on vaig participar hi havia una persona de MIT Press entre el públic i em va dir: si traduíssim aquesta novel·la, ens faries uns materials per a aquesta assignatura? I jo, és clar, emocionada, vaig fer aquests materials. I s’han utilitzat molt, em consta. S’ha de comprar la novel·la, però el material auxiliar és gratuït si ets professor. Aquí, Pagès Editors va fer una cosa semblant adaptada per a secundària. I també és gratuït.

Reflexionant sobre l’ètica, la restauració o millora de les nostres capacitats mitjançant implants tecnològics en el cos humà és una realitat en diversos àmbits. On són els límits?

Els límits? De moment, s’intenta aplicar el principi de precaució. Allò que no se sap quines implicacions pot tenir, no fer-ho, tot i que sempre hi ha els que s’ho salten. Jo trobo que posar límits al desenvolupament tecnològic és impossible. És a dir, tot allò que es pot fer, s’acaba fent. Per això jo ho contraresto amb formació. Hi ha qui diu «per pal·liar discapacitats, és fantàstic». Però, per exemple, [Oscar] Pistorius corre més [amb les pròtesis] que aquells que no tenen discapacitat. En un relat que he escrit plantejo la dualitat entre que la tecnologia siga externa o interna al cos. És clar, jo em dedico als robots, perquè ens ajudin des de fora, però després hi ha els transhumanistes que pensen que ens posarem xips per a tot: per augmentar la memòria, de traducció per poder entendre qualsevol idioma… Ja tenim implants coclears, que per a la gent que té sordesa està molt bé, però la frontera entre pal·liar una discapacitat i el que és una millora sempre és molt fàcil de travessar.

Aleshores, el futur està més en la part externa? I quines són les principals dificultats que veu de barrejar biologia i màquina? És possible tal i com ho veiem a les pel·lícules sobre el futur?

Pel que fa al cos, ja s’ha aconseguit, perquè ja existeixen les mans mecàniques que s’implanten i que s’activen amb els propis nervis. És una cirurgia superfina però que s’ha aconseguit. A mi el que em fa por és quan ja entres a tocar el cervell. Hi ha aplicacions molt positives com, per exemple, els implants que posen a les persones que tenen Parkinson, que els permeten desbloquejar-se. Això ho trobo una meravella. El guany és tal que si tenen algun inconvenient, doncs estaria justificat. Però anar més enllà… a les novel·les jo plantejo coses així però, és clar, no és igual.