Ara que tenim el Papa a prop gaudint de les arquitectures modernistes de la quasi obscena, estèticament parlant, Sagrada Família, m’agradaria comentar la seva primera encíclica. A Magnifica humanitas, el papa Lleó XIV ha declarat que la intel·ligència artificial, tal com l’entenem avui, s’assembla més a un nou Leviatan digital que a una eina de progrés. El pontífex ens convida a "desarmar la IA", advertint contra un "tecnofeixisme" que, lluny de servir-nos, ens ha de convertir en els seus súbdits més obedients.
Aquesta envestida vaticana no surt del no-res, s’alinea amb corrents crítics molt elaborats lluny dels postulats catòlics tradicionals. Shoshana Zuboff, en el seu interessant assaig The Age of Surveillance Capitalism, ens recorda que ja no som clients, sinó la matèria primera d’una extracció massiva d’excedent conductual. No només ens observen per vendre’ns sabates, modifiquen el nostre comportament fins que la nostra llibertat sembla una simulació. Evgeny Morozov parla del fet que el nostre solucionisme tecnològic acaba privatitzant la feble infraestructura social. Mentrestant, Cathy O'Neil, a Weapons of Math Destruction, ens alerta que aquests algoritmes opacs, sota una capa d'objectivitat matemàtica, no són neutres, sinó que són màquines de perpetuar biaixos que exclouen els més vulnerables.
Però és Slavoj Žižek qui ens colpeja amb la veritat més incòmoda, la IA no és una entitat aliena que ens roba la voluntat, sinó el mirall perfecte del nostre propi buit. Segons Žižek, el perill no és que les màquines comencin a pensar, sinó que nosaltres externalitzem el nostre esperit. Hem convertit el pensament en una activitat externa i mecànica, deixant de ser subjectes amb desig per esdevenir espectadors passius del nostre propi procés cultural.
El cercle es tanca amb crueltat, la IA ens exclou precisament en el moment en què ens fa més eficients. En el seu marc algorítmic, la imprevisibilitat humana, aquella petita incompetència, el desig irracional que ens definia, esdevé un soroll que cal eliminar. Žižek ens adverteix que no ens hem de preocupar perquè les màquines s’humanitzin, sinó perquè nosaltres estem esdevenint autòmats, reductibles a patrons de dades previsibles. La màquina no necessita la nostra llibertat, només el nostre rastre. Imagineu un moment que, per anar més ràpida i ser més efectiva, una institució redacta lleis o reglaments amb la IA, les revisa amb la IA i li demana a la IA com els pot aplicar. On queda la part humana? On cal la nostra expertesa? En aquest procés estem excloent el nostre paper dins la nostra cultura. Perquè aquests documents redactats han de servir finalment per a regular persones. El papa demana responsabilitat, però em sumo a Žižek conscient que el gran repte és recuperar el dret a ser imprevisibles, humans i, sobretot, a no ser el producte de ningú.
