L’alerta i el rum-rum provocat per les manifestacions catastrofistes d’aquests darrers dies dels CEO de les grans IA, Sam Altman (OpenAI) i Dario Amodei (Anthropic), alimenten les opinions de tota mena i les pors dels éssers humans de ser atrapats, molt aviat, per la intel·ligència no humana. És a dir, per la Intel·ligència Artificial.
Personalment, de seguida vaig pensar en l’encíclica Magnifica humanitas que el Papa Lleó XIV va publicar el 25 de maig i que he tingut la sort de llegir aquest estiu. Una lectura que, tot s'ha de dir, recomano a tothom, sigui quin sigui el seu pensament, creença o religió, ja que posa al centre de tot el debat la dignitat humana.
Més enllà del fet que teòlegs i estudiosos d’arreu assenyalen que aquesta encíclica s’inspira en la Doctrina Social de l’Església, el més interessant i pertinent és que argumenta amb molta cura i sense embuts sobre els perills de la IA. I ho fa cuidant sempre la importància de preservar de totes totes la dignitat de la persona.
L’encíclica denuncia la conversió de la vida personal i les relacions en meres dades explotables; adverteix del poder inèdit de les plataformes per perfilar, predir i orientar els comportaments humans, fet que amenaça la llibertat individual i la capacitat de decisió crítica; descriu la tendència a la uniformització cultural, la supressió de la diversitat i l'eliminació del diàleg real a través de les xarxes mitjançant la imatge bíblica de la Torre de Babel; i critica els algoritmes que premien només allò que genera visibilitat o polèmica, de manera que creen bombolles d'opinió que reforcen el conformisme, la polarització i la mentida. Alerta, a més, del risc de posar l'eficiència tecnològica per sobre del valor de la vida humana, del treball i del benestar social. Alhora, adverteix sobre la capacitat de la IA generativa per crear contingut fals (deepfakes) o hipersexualitzat, cosa que devalua la recerca de la veritat i la confiança. Per això, als ulls del Papa, les decisions ètiques, socials i especialment en àmbits com el militar, amb l’ús d'armes autònomes, han de romandre sota el control i la responsabilitat de les persones i en cap cas dels algoritmes, per evitar problemes i riscos reals per a la pervivència dels éssers humans.Així, quan vaig escoltar Amodei advertir públicament sobre el risc d'una IA que pugui escapar al control humà o ser utilitzada per a la creació d'armes biològiques i ciberatacs a gran escala, o Altman subratllant reiteradament com la IA és una amenaça per a la persuasió personalitzada, la desinformació massiva i els deepfakes capaç de fer trontollar el conjunt de les institucions democràtiques, vaig pensar que l’encíclica havia posat el dit a la llaga d’un tema tan complex com perillós i esfereïdor.
En aquest sentit, la coincidència entre el diagnòstic del Papa Lleó XIV –que per cert també és matemàtic– i les declaracions de líders tecnològics com Altman i Amodei posa de manifest una anticipació i una modernitat poc habituals en els documents pontificis. I mentre la primera, l’encíclica, preconitza una mena d'abstinència tecnològica, els segons, els CEO, no n'estan tan allunyats, ja que demanen aturar les màquines i alentir els avenços de la recerca en el món de la IA.
De fet, l’encíclica i les reflexions dels líders de la IA ens mostren un diàleg directe amb la frontera del desenvolupament tecnològic. És a dir, que Magnifica humanitas ofereix un marc ètic humanista a les mateixes preocupacions que expressen els creadors de Silicon Valley, on l’ésser humà és el sòcol.