Factor X.Elon Musk, conseller delegat de les empreses Tesla i X (abans Twitter), parla amb altres delegats durant el primer dia de
IA (intel·ligència artificial) és la paraula de l’any en anglès segons el diccionari Collins . Els últims mesos, darrere del teló de les guerres a Gaza i Ucraïna, de l’intent rus de recuperar les fronteres de la Unió Soviètica, el perill que el conflicte de l’ Orient Mitjà es converteixi en una conflagració global, l’explosió migratòria i la perspectiva que Donald Trump torni a ser president dels Estats Units, ha estat un dels grans temes de debat tant en fòrums internacionals com en xerrades informals de sobretaula.
Els robots ens trauran les feines? La IA ens robarà les dades bancàries i la identitat? Serà capaç de manipular les eleccions (més del que ja ho estan) i subvertir el procés democràtic?
Diagnosticarà i curarà malalties? Els mecanismes de reconeixement facial ja són un instrument per discriminar les minories? Revolucionarà l’educació? Desencadenarà guerres, ciberatacs i conflictes nuclears? Posarà fi a la humanitat?
Convocats pel primer ministre britànic, Rishi Sunak, polítics d’una trentena de països, científics i empresaris del sector de l’alta tecnologia estan reunits entre ahir i avui a Bletchley Park, la mansió de la campanya anglesa on es van desxifrar els codis secrets alemanys durant la II Guerra Mundial, per plantejar –com en una novel·la de George Orwell o una pel·lícula de Stanley Kubrick– els pros i els contres, i sobretot els perills, de la IA, i intentar establir les bases d’una jurisdicció i un marc regulatori. Tasca de moment impossible, ateses les diferències que ja van quedar paleses en la sessió inaugural entre com veuen l’assumpte els Estats Units, la Xina, la Unió Europea, els filòsofs, els magnats de les xarxes socials i els gegants de Silicon Valley.
“Es tracta de la primera cimera global d’aquesta naturalesa, cosa que suposa un gran pas endavant –va declarar Sunak–. S’estan desenvolupant models avançats d’intel·ligència artificial sense mecanismes adequats de supervisió per part de reguladors globals, una qüestió que cal afrontar amb urgència”. El primer ministre vol que el Regne Unit faci d’ intermediari per establir unes regles del joc universalment acceptades abans que empreses com ara Google i OpenAI posin en marxa la nova generació d’IA. “La humanitat podria fàcilment perdre el control de la tecnologia si no es fixen els mecanismes de control necessaris, cal actuar ja”, va assenyalar.
L’agenda original s’ha ampliat per incloure l’impacte sobre educació, sanitat i serveis públics
Però un altre polític britànic, Nick Clegg, exdirigent liberaldemòcrata i actual “president d’assumptes globals” de Meta, va restar importància als perills dels nous sistemes d’IA i va dir que s’exagera. “Estem parlant –va assenyalar– de models de llenguatge molt complexos, sofisticats i versàtils que consumeixen moltes dades i requereixen una gran capacitat, però en si mateixos no saben res, no tenen autonomia i coneixement propis, només interpreten la informació que els humans els proporcionem. Cal evitar les especulacions futuristes de ciència-ficció”. L’interès de la seva empresa és evitar un zel regulador.
La cimera la va inaugurar el vice primer ministre britànic, Oliver Dowden, que va exposar la necessitat de prendre mesures perquè la IA no es faci servir per manipular processos electorals, desinformar i crear realitats paral·leles mitjançant vídeos i àudios. “Hi ha diverses esferes de risc per a la societat, i hem de lluitar-hi d’una manera proporcional, pragmàtica i seriosa”, va afirmar.
Michelle Donelan, secretària d’Estat per a Innovació, Ciència i Tecnologia, va adoptar un to més optimista i va opinar que “la IA té el potencial de ser una extraordinària força benèfica, amb un potencial il·limitat per estimular el creixement econòmic i el benestar social, millorar l’educació i els serveis públics i diagnosticar de manera prematura malalties com el càncer”. “Però els nous sistemes també comporten perills, que hem de prevenir junts”.
La primera jornada de la cimera es va dedicar a analitzar la
seguretat de la IA, i la segona
–avui– estarà centrada a fer-ne un “ús responsable”. Originalment, la reunió tenia previst versar només sobre els riscos dels nous sistemes per a la seguretat nacional, els ciberatacs i el disseny d’armes biològiques, però al final s’han incorporat a l’agenda temes com l’impacte sobre la sanitat, l’educació i la generació d’imatges d’abusos sexuals de menors. Avui hi haurà una intervenció del primer ministre Rishi Sunak, i un debat entre ell i el polèmic multimilionari Elon Musk, que es divulgarà en directe via streaming a través d’ X, la plataforma de l’empresari tecnològic. El polític tory , de 43 anys, vol demostrar d’aquesta manera la seva modernitat, i destacar les diferències generacionals amb el seu rival laborista Keir Starmer, de 60.
El tema central són els possibles atacs cibernètics i els perills de la IA per a la seguretat nacional
Musk desitja portar la tecnologia fins a les seves últimes fronteres, des dels cotxes sense conductor fins als viatges espacials, però posa el límit en la intel·ligència artificial, malgrat que inverteix molts diners en les empreses pioneres del sector. Ha dit que es tracta d’una “amenaça existencial per a la humanitat”, i l’ha comparada amb un pacte amb el diable que podria significar la seva perdició.
Un memoràndum del Govern britànic, coincidint amb la cimera, indica que “cal desenvolupar el potencial de la IA però d’una manera responsable, les empreses del sector han de tenir mecanismes per retirar del mercat productes potencialment nocius,
i fer servir experts en seguretat que detectin vulnerabilitats en
els seus sistemes i s’assegurin que no són atacats”. De les paraules als fets hi ha molta distància,
però els experts recorden que el futur de la humanitat pot dependre de qüestions com les que ara es debaten.