Xarxes socials i companyia robòtica

Tecnología, ciència i ciència-ficció

Les tecnologies de la informació s’han instal·lat en la nostra quotidianitat i vehiculen cada vegada més les relacions laborals i personals, quan no les substitueixen. Aquesta creixent interacció amb màquines planteja un seguit de qüestions sobre les quals no hi ha experiència, i tampoc una predicció fiable per saber com influiran en l’evolució de la societat. Això ha propiciat la confluència de tecnociència i humanitats en un debat ètic que comença a donar fruits, no sols amb l’establiment de normatives i estàndards, sinó també amb iniciatives educatives, tant de docència universitària com de millora professional i formació d’opinió pública. Sovint la ciència-ficció hi representa un paper especulatiu destacat, que ressalta els pros i contres de possibles escenaris futurs.

Paraules clau: xarxes socials, robòtica assistencial, ètica, ciència-ficció, ciències i humanitats.

Les xarxes i els robots esdevenen «socials»

La invenció d’internet i la irrupció dels telèfons mòbils han propiciat l’aparició de les xarxes socials, un fenomen gens fàcil de preveure fa tan sols un parell de dècades. Com tampoc ho era que els robots sortissin de l’àmbit estrictament laboral per donar pas als anomenats robots socials, que cada vegada veurem més en entorns quotidians: assistint persones amb discapacitats i persones grans, fent de recepcionistes o dependents en centres comercials, com a guies en fires i museus, actuant com a companys de joc de joves i adults, i, fins i tot, exercint de mainaderes i mestres de reforç.

«Les noves tecnologies informàtiques i robòtiques incideixen en el cercle social i de relació entre les persones»

Les tecnologies informàtiques i robòtiques representen un pas més en la transformació social que va començar amb la revolució agrària i va continuar amb la revolució industrial, però hi introdueixen una diferència qualitativa. Ja no es tracta merament de mecanitzar feines pesades i repetitives al camp i a les fàbriques, o que els electrodomèstics alliberin temps que les persones puguin utilitzar de manera més creativa i plaent. La diferència és que aquestes noves tecnologies incideixen en el cercle social i de relació entre les persones, és a dir, entren en l’esfera de les emocions i dels sentiments.

Això fa aflorar un seguit de qüestions ètiques que no tenia sentit plantejar per a altres tipus de màquines. Per exemple, una persona malalta podria creure que el robot que la cuida es preocupa realment pel seu benestar i delegar-li totes les decisions. O un nen podria pensar que el seu company robòtic és un veritable amic. Un ordinador portàtil de feina sabria quan i on l’usuari ha estat més productiu i podria compartir aquesta informació amb altres dispositius per optimitzar-ne el rendiment o bé per a altres finalitats, amb el consentiment de l’usuari o sense. Per no parlar de la capacitat de manipulació dels anomenats influencers i dels possibles mals usos de la gran quantitat d’informació que compartim a les xarxes socials.

Oportunitats i perills a les xarxes socials

Un influenciador (en anglès, influencer) és aquell capaç d’influir en el procés de decisió d’una altra persona. Es pot influir sobre la gent per obtenir poder i, viceversa, es pot utilitzar el poder per influenciar. Internet ha representat un gran canvi en les pautes de persuasió, ja que ha multiplicat les possibilitats d’influència posant-la alhora a l’abast de qualsevol persona. Michael Wu, un expert en anàlisi de xarxes socials, ha identificat sis factors que determinen la capacitat d’influència (Wu, 2012). D’una banda, aspectes genèrics com la credibilitat de l’influenciador i l’audiència que té, i, de l’altra, aspectes lligats al receptor de la influència: la confiança que li mereix l’influenciador, la rellevància de la informació, així com la seva oportunitat en el temps i l’espai (factors que en anglès es coneixen com a «the right person, information, time, and place»). Pel que fa als dos primers, no existeixen ni influenciadors universals ni mitjans de comunicació generals. Un influenciador ho és només en el seu domini d’expertesa i a través del canal adequat. L’oportunitat temporal del missatge és decisiva, ja que està demostrat que hi ha només una finestra d’or (golden window) en què el destinatari està interessat a prendre una decisió i obert a considerar diverses opcions. Aquesta finestra es detecta per accions que l’usuari realitza, com ara afegir-se a un grup temàtic o bé fer una pregunta en un fòrum. De fet, la pretensió no és convertir-se en un bon influenciador per se, sinó teixir una xarxa d’influenciadors establerts que faci arribar oportunament cada missatge als destinataris adequats.

A poc a poc, els anomenats robots socials van arribant als nostres entorns quotidians, com a assistents a persones grans o amb discapacitats, guies a fires i museus o fins i tot com a mainaderes i mestres de reforç, entre altres usos. A dalt, sessió de prova amb persones grans del robot Eldertoy, orientat a fer treballar els aspectes psicosocials, afectius i cognitius dels usuaris. / Unitat de Cultura Científica de la Universitat d’Oviedo – FICYT

Els influencers han esdevingut poderosos creadors d’opinió, de vegades amb conseqüències negatives com la propagació de notícies falses i la introducció de biaixos en processos electorals. És possible regular la seva capacitat d’influència sense atemptar contra la llibertat d’expressió? Sovint ens sentim manipulats pels anuncis personalitzats amb què ens bombardegen tota mena d’aplicacions, però els lliurem càndidament els nostres perfils. En especial els joves, que massa vegades no són conscients dels possibles mals usos de la informació que comparteixen a les xarxes, que pot ser utilitzada per a l’assetjament escolar, per a xantatges i intimidacions, o senzillament pot jugar en contra seva a l’hora de buscar feina. La majoria d’atacs informàtics i amenaces a les xarxes es fan des de l’anonimat i, és clar, tenen un abast molt superior al que podria donar-se en el món físic.

Però aquests perills no han d’emmascarar les immenses possibilitats que ofereixen les xarxes. Per exemple, per al treball col·laboratiu. Pensem en els bancs de temps, en què professionals diversos bescanvien els seus serveis, o el traductor de Google, que, després de realitzar una traducció, pregunta a l’usuari si té suggeriments de millora, els quals incorporarà a la seva estadística per anar per feccionant traduccions semblants futures. També són destacables els jocs d’impacte social com el cèlebre Evoke, que insta jugadors de tot el món a resoldre reptes, especialment de les comunitats d’Àfrica. S’anima els participants a aprendre sobre els països en desenvolupament, actuar sobre la base d’aquest coneixement i utilitzar la creativitat per imaginar un bon futur per al planeta. A través de la narració d’un còmic com a línia argumental, els jugadors han de completar desafiaments com ara la lluita contra la fam al món, l’ús d’energies renovables, la potenciació del paper de la dona o dissenyar un pla d’accés igualitari a l’aigua potable. Per aconseguir l’objectiu, els jugadors poden utilitzar «superpoders» com són la col·laboració, la valentia, l’enginy i l’emprenedoria. Altres jocs d’aquest tipus són A force more powerful (“Una força més poderosa”), en què els jugadors han d’empescar-se estratègies de resistència pacífica per superar situacions d’opressió en una comunitat, o Participatory Chinatown (“Chinatown participativa”), que pretén ajudar els residents d’aquest districte de Boston a millorar el desenvolupament futur del seu veïnat. Molts d’aquests jocs permeten als usuaris aprendre sobre problemes socials, però, fins ara, n’hi ha pocs que hagin aconseguit resultats mesurables en el món real.

Quines directrius cal seguir per dissenyar un joc que pugui conduir a un canvi social? Swain (2007) suggereix les següents: definir amb precisió els resultats esperats, integrar experts en la matèria, associar-se amb organitzacions afins, construir una comunitat sostenible, abordar problemes que no tinguin unes regles clares, mantenir la integritat periodística, mesurar la transferència de coneixements, i fer que siguin divertits.

«Alguns temes abordats en les obres d’Asimov, Dick o Bradbury han cobrat actualitat amb el desenvolupament dels robots socials»

Tanmateix, la majoria de videojocs busquen només l’entreteniment sense apel·lar a l’interès genuí dels jugadors per resoldre problemes. Segons dades de l’Associació de Software d’Entreteniment, un jove americà de 21 anys ha passat una mitjana de 10.000 hores jugant a jocs d’ordinador; això equival a cinc anys de feina a raó de quaranta hores per setmana. No és estrany que sorgís la idea de treure rendiment a aquesta gran quantitat d’hores que s’inverteixen jugant. Luis von Ahn i Laura Dabbish van ser els primers a dissenyar jocs atractius que, com a subproducte, solucionaven problemes o generaven dades que permetien entrenar algorismes d’aprenentatge automàtic (Von Ahn i Dabbish, 2008). Un exemple és el joc ESP, que ha donat lloc a l’etiquetatge d’imatges de Google. En presentar-los una imatge, els jugadors han de teclejar els noms dels objectes que hi veuen tan de pressa com puguin; les coincidències del jugadors determinen les millors etiquetes i també els rànquings amb què s’assignen les recompenses. La velocitat mitjana d’etiquetatge és de 233 etiquetes per hora i el temps de joc, 91 minuts. En el disseny del joc s’han aplicat diverses estratègies per motivar els jugadors: límits de temps, nivells d’expertesa, llistes de puntuacions màximes per categoria, i aleatorietat en les successions d’imatges presentades. També s’han implementat mecanismes per assegurar la qualitat de l’etiquetatge resultant, així com per evitar fraus (per exemple, que diversos usuaris es posin d’acord per obtenir el màxim nombre de coincidències sense ser fidels al contingut de les imatges).

Taller per a ensenyar xiquets a programar el robot NAO (Softbank Robotics). / Stephe Chin

Aquest tipus de jocs, batejats com a jocs amb propòsit, han donat lloc a la ludificació, tan estesa avui. En aquest àmbit sorgeix la pregunta: és èticament acceptable dissenyar jocs o qualsevol tecnologia amb l’objectiu de crear addicció i treure’n profit?

Si tradicionalment l’evolució tecnològica ja anava sovint per davant de l’anàlisi de les seves implicacions socials, ara que les innovacions són constants i s’integren en un obrir i tancar d’ulls en la quotidianitat, podríem dir que estem assistint en temps real a un experiment d’abast mundial, sense estudi previ. És difícil predir, de manera fonamentada, la influència que la hiperconnectivitat i la creixent interacció amb màquines tindran en l’evolució de la societat, de l’economia i en la vida de les persones. Per això, quan s’intenta establir un debat ètic, sovint es recorre a la ciència-ficció. Si no es disposa de models acurats que permetin fer prediccions fiables, una opció raonable és imaginar diferents escenaris futurs possibles i discutir-ne els pros i els contres per formar-nos un criteri ben argumentat.

Hi ha diverses obres de ficció que tracten amb encert qüestions de caire afectiu, psicològic i social lligades a la tecnologia informàtica, i n’afavoreixen la discussió. Destacaria la sèrie Black Mirror, la pel·lícula Her i la novel·la The lifecycle of software objects (“El cicle de vida dels objectes de programari”), per esmentar-ne algunes. Jo també he volgut contribuir al debat amb la novel·la Enxarxats (Torras, 2017), que toca alguns dels temes esmentats més amunt, com les estratègies de persuasió que apliquen els influencers i el disseny de jocs d’ordinador amb impacte cívic, però també d’altres relacionats com la internet de les coses, els problemes afectius derivats de l’excessiva exposició a companyia mecànica, o la creació d’un avatar compilant les nostres contribucions a la xarxa que ens garanteixi una certa immortalitat digital (Bearne, 2016). A banda de la trama de ficció de la novel·la, en un apèndix s’inclouen enllaços a webs i resums d’articles per als lectors que vulguin saber-ne més.

«És èticament acceptable dissenyar jocs o qualsevol tecnologia amb l’objectiu de crear addicció i treure’n profit?»

En conjunt, són eines que tenim a l’abast i que, en poc temps, poden capgirar la reputació d’una persona, transformar un barri, modificar el mercat de treball i les relacions no només laborals, sinó també familiars i afectives, o canviar el que s’entén per l’herència que deixa una persona en morir, que ara inclou el rastre digital. Cal tenir present que cada contribució a la xarxa té una repercussió i que els programes que aprenen de les persones, com el traductor esmentat abans, traslladen la responsabilitat del seu bon o mal funcionament dels programadors als usuaris. En aquest sentit, és reveladora l’experiència que va fer Microsoft de posar a Twitter el xatbot Tay, basat en tècniques d’aprenentatge automàtic, i que en menys de 24 hores va haver de ser retirat pels seus comentaris racistes i misògins, que havia après conversant amb humans en un xat (Hunt, 2016).

Robots socials i acostament dels tecnòlegs a les humanitats

Fa mig segle es van instal·lar els primers robots industrials en cadenes de producció del sector automobilístic per realitzar tasques repetitives o perilloses, sovint engabiats per raons de seguretat i després de ser programats per personal expert. Actualment la necessitat de mà d’obra s’ha desplaçat de les fàbriques cap als sectors de salut i de serveis, i s’estan dissenyant robots capaços de realitzar tasques variades en entorns humans i de ser instruïts per persones no expertes.

Aquests robots, qualificats de «socials», són producte d’un seguit d’avenços en mecànica, processat visual i acústic, control adaptatiu, computació i intel·ligència artificial (Torras, 2016), que fan possible la seva interacció amigable i segura amb persones, un aspecte crític i de considerable dificultat tècnica, especialment quan aquesta interacció comporta contacte físic. Un dels majors reptes actuals és proveir-los de capacitat d’aprenentatge perquè puguin adaptar-se a usuaris diversos i entorns canviants, així com fer front a situacions imprevistes. Els avenços en aquesta direcció donaran lloc sens dubte a robots més útils i versàtils, però al seu torn intensificaran el debat sobre si s’ha de dotar els robots de més autonomia i capacitat per prendre decisions, no només en contextos crítics com el militar i el mèdic, sinó també en els àmbits assistencial i educatiu. Com esmentàvem a la introducció, un ancià amb un lleu deteriorament cognitiu podria creure que el robot que el cuida es preocupa realment pel seu benestar i delegar-li totes les decisions. O un nen massa aferrat al seu company robòtic podria no desenvolupar la capacitat d’empatia.

Sovint es recorre a la ciència-ficció per a tractar d’establir un debat ètic sobre la influència que la hiperconnectivitat i la creixent interacció amb màquines tindran en l’evolució de la societat. Hi ha diverses obres que tracten amb encert qüestions de caire afectiu, psicològic i social lligades a la tecnologia informàtica, i n’afavoreixen la discussió. Un exemple seria la pel·lícula Her (dreta), en què el protagonista s’enamora d’un sistema operatiu informàtic. La sèrie Black Mirror també ha explorat aquest tema en alguns dels seus capítols, com per exemple «Nosedive» (“caiguda en picat”, esquerra), en què les persones s’avaluen les unes a les altres constantment mitjançant una aplicació mòbil, i aquesta puntuació influeix directament tant en el seu estatus econòmic com social. / Annapurna Pictures, Warner Bross; Zeppotron, House of Tomorrow

Per abordar aquest tipus de qüestions, la comunitat robòtica s’ha acostat a les humanitats i s’han posat en marxa nombroses iniciatives en dues grans àrees: la regulació legal i l’educació ètica. Pel que fa a la primera, institucions com el Parlament Europeu, el South Korean Robot Ethics Charter, la IEEE Standards Association o la Standard Institution de la Gran Bretanya estan elaborant normatives per als dissenyadors, programadors, i usuaris de robots.

La via de l’educació ètica és d’ampli espectre i abasta des de textos per a estudiants de secundària fins a cursos online p er a l g ran p úblic, p assant p er m aterials per a l’actualització dels professionals i, sobretot, llibres i articles per a formació universitària. Associacions tan prestigioses com l’Institut d’Enginyers Elèctrics i Electrònics (IEEE, per les seves sigles en anglès) i l’Associació de Maquinària Computacional inclouen en els plans d’estudis per a les carreres d’enginyeria i informàtica una assignatura d’ètica aplicada a la tecnologia, on cada vegada més es tracten temes d’ètica en robòtica, una matèria que s’ha batejat com a roboètica (Lin, Abney i Bekey, 2011; Veruggio, Operto i Bekey, 2016). Els aspectes més debatuts són els que afecten els àmbits militar i mèdic, juntament amb els de privacitat, responsabilitat legal i fractura digital. Les qüestions de caire afectiu, psicològic i social, com les esmentades més amunt, només ara comencen a plantejar-se amb l’auge de la robòtica assistencial.

«Una persona malalta podria creure que el robot que la cuida es preocupa realment pel seu benestar i delegar-li totes les decisions»

També aquí, com abans en l’àmbit d’internet i les xarxes socials, quan s’intenta establir un debat ètic o impartir un curs sovint es recorre a la ciència-ficció. Alguns dels temes abordats en les obres clàssiques d’Asimov, Dick o Bradbury, com les tres lleis de la robòtica, les mainaderes mecàniques o les rèpliques humanoides, han cobrat actualitat amb el desenvolupament dels robots socials. També pel·lícules i sèries recents permeten debatre temes de roboètica i són utilitzades en cursos, tant en línia com presencials. Voldria destacar la sèrie Real humans –en què robots d’aparença gairebé humana conviuen amb les persones i sovint entren en competència amb elles–; la pel·lícula Els substituts (Surrogates en la seua versió original) –en què cada ciutadà té un avatar que controla des de casa i a través del qual es belluga per la ciutat i es relaciona amb altres persones–, així com la novel·la The windup girl (“La noia mecànica”)–en què un robot adquireix consciència que ha estat construït per servir a les persones i es pregunta pels seus drets i deures–. La pel·lícula Un amic per a en Frank (Robot and Frank en anglès) –que mostra la relació entre un home gran, Frank, i el seu robot cuidador– mereix una menció especial pel seu realisme i valor pedagògic, i ha servit de base per a un curs en línia del lloc web Teach with movies, entre d’altres.

En el context de l’ensenyament universitari, la meva novel·la La mutació sentimental (Torras, 2008) ha estat traduïda a l’anglès amb el títol The vestigial heart (Torras, 2018) i publicada juntament amb uns materials ètics per impartir un curs sobre ètica en robòtica social i intel·ligència artificial. L’objectiu és proporcionar directrius útils per als estudiants i professionals (dissenyadors de robots, fabricants i programadors), així com per als usuaris finals i el públic en general. Es tracten sis grans temes: com dissenyar l’assistent «perfecte»; la importància de l’aparença i la simulació d’emocions per a l’acceptació dels robots; la robotització en els àmbits laboral i educatiu; el dilema entre la presa de decisions automàtica i la llibertat i dignitat humanes, i la responsabilitat civil relacionada amb la programació d’una «moral» en els robots. L’elaboració de cada tema està basada en escenes de la novel·la, que tracta d’una societat futura en què cada persona té el seu assistent robòtic i en què recobra la vida una adolescent de la nostra època a qui criogenitzaren perquè patia una malaltia incurable. El conflicte amb els humans futurs, que han estat criats per mainaderes artificials, han après de mestres robòtics i comparteixen treball i oci amb humanoides, està servit.

La ficció també ha tractat qüestions ètiques suscitades per la introducció dels robots socials a la vida quotidiana. Per exemple, en la pel·lícula Un amic per a en Frank, el fill d’un home jubilat decideix comprar-li un robot cuidador per a no haver d’estar tan pendent del seu pare, cada vegada més afectat per la demència senil. Frank va desenvolupant afecte i confiança cap al robot, i la situació planteja diferents reaccions i reflexions en el seu entorn. / Stage 6 Films

Conclusió

La creixent interconnectivitat entre persones a les xarxes socials i amb tot tipus de dispositius i robots en la vida quotidiana planteja un seguit de reptes –tant d’investigació tecnocientífica com d’humanitats i ciències socials– amb un elevat potencial per marcar el futur, i que estan propiciant un interessant debat social i ètic.

«Els programes que aprenen de les persones traslladen la responsabilitat del seu bon o mal funcionament dels programadors als usuaris»

A tall d’exemple, algunes de les qüestions considerades són: com evitar que xatbots i robots siguin confosos per éssers vius i els col·lectius més vulnerables dipositin en ells tota la confiança i hi deleguin les decisions? L’excessiva exposició dels infants a companyia mecànica els dificultarà desenvolupar l’empatia i altres capacitats afectives? En el cas de dades mèdiques o de seguretat, quan ha de prevaler el bé comú sobre la privacitat de les dades personals? Com compatibilitzar la presa de decisions automàtica amb la llibertat i dignitat humanes? És lícit dissenyar dispositius o programes perquè creïn addicció i dependència? Com evitar que aquests siguin usats per controlar les persones? Cal limitar el poder i l’abast de manipulació dels anomenats influencers? Com pal·liar la fractura digital, i altres fractures socials que se’n deriven?

La filosofia, la psicologia i el dret estan aportant perspectiva i coneixement previ al debat, mentre que la ciència-ficció permet especular lliurement sobre possibles escenaris futurs i el paper que els tocarà representar a l’ésser humà i a la màquina en aquest pas à deux en què estem irremissiblement lligats.

REFERENCIAS

Bearne, S. (2016, 14 de septiembre). Plan your digital afterlife and rest in cyber peace. The Guardian. Consultado en https://www.theguardian.com/media-network/2016/sep/14/plan-your-digital-afterlife-rest-in-cyber-peace

Hunt, E. (2016, 24 de marzo). Tay, Microsoft’s AI chatbot, gets a crash course in racism from Twitter. The Guardian. Consultado en https://www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter

Lin, P., Abney, K., & Bekey, G. (2011). Robot ethics: The ethical and social implications of robotics. Cambridge, MA: MIT Press.

Swain, C. (2007). Designing games to effect social change. En A. Baba (Ed.), Proceedings of the 2007 Digital Games Research Association Conference (pp. 805–809). Tokio, Japón: Digital Games Research Association.

Torras, C. (2008). La mutació sentimental. Lleida: Pagès Editors.

Torras, C. (2016). Service robots for citizens of the future. European Review, 24(1), 17–30. doi: 10.1017/S1062798715000393

Torras, C. (2017). Enxarxats. Barcelona: Males Herbes.

Torras, C. (2018). The vestigial heart. A novel of the robot age. Cambridge, MA: MIT Press.

Veruggio, G., Operto, F., & Bekey, G. A. (2016). Roboethics: Social and ethical implications of robotics. In B. Siciliano, & O. Khatib (Eds.), Handbook of robotics, 2nd edition (pp. 2135–2160). Berlín-Heidelberg: Springer.

Von Ahn, L., & Dabbish, L. (2008). Designing games with a purpose. Communications of the ACM, 51(8), 58–67. doi: 10.1145/1378704.1378719

Wu, M. (2012, 15 de septiembre). My chapter on influencers. Lithium Community. Consultado en https://community.lithium.com/t5/Science-of-Social-Blog/My-Chapter-on-Influencers/ba-p/8213

© Mètode 2018 - 99. Interconnectats - Tardor 2018

Professora d’Investigació del CSIC. Institut de Robòtica i Informàtica Industrial (CSIC-UPC), Barcelona.