Una IA, pot ser ‘bona persona’?

El proppassat dia 21 d’abril, vaig tenir el plaer de moderar la taula rodona Reptes de la intel·ligència artificial avui a Andorra, activitat organitzada per la Societat Andorrana de Ciències i que va comptar amb la participació dels amics Jordi Herrera, Anna Cortés, Carles González i Òscar Serrano. El públic va ser prou nombrós, tenint en compte que era un divendres a la tarda, cosa que és especialment d’agrair, i va poder sentir com els ponents debatien sobre diferents temes. Un entre ells va ser el títol d’aquest article: Una intel·ligència artificial pot ser una ‘bona persona’?
La qüestió és potser més profunda d’allò que podria sembla en un primer moment. En efecte, si s’estan creant programes que es volen presentar com a entitats dotades d’intel·ligència artificial, semblaria que ha de ser perquè acabin relacionant-se amb els humans. Aplicant un deix de ciència-ficció, podríem anar fins a pensar que abans o després es podrien integrar dins la societat humana. Ara bé, nosaltres ens relacionem de maneres molt estranyes. Iniciem contactes amb desconeguts i, de fet, com més nombrosa és la nostra societat més imprescindible esdevé aquesta habilitat. Penseu com seria la nostra vida si tan sols poguéssim tenir tractes amb aquell cercle més íntim que forma el nostre nucli familiar. Sense tenir alguna manera de presentar-se a persones que no coneixem encara, seria impossible formar noves amistats. Difícilment ens podríem integrar en empreses o organismes sense ànim de lucre. La política seria una quimera. I, naturalment, el comerç es trobaria greument impedit, ja que es fonamenta en una sèrie de relacions amb persones que no sempre es coneixen prèviament.
Ara bé, com que tampoc ens podem dedicar mitja vida a endegar la història personal i els costums de cada persona nova que coneixem abans de tractar amb ella, això vol dir que a l’hora de fer coneixement amb una persona nova, inicialment solen fer-li un mínim de confiança. Confiem que aquesta persona desconeguda no ens resultarà del tot antipàtica i impossible de tractar –si més no, ho fem en un moment inicial. Fins i tot, pot ser que ho assenyalem donant-nos la mà, com se sol fer en moltes cultures veïnes. Al contrari, el fet de no voler-ho fer seria un senyal inequívoc de la presència d’un problema en les nostres relacions. Aquesta formalitat –gairebé un ritus– és tan integrat dins els nostres costums, que forma la base del nostre comportament sobretot dins l’àmbit comercial.
Quan les intel·ligències artificials vulguin interactuar més sovint amb els humans, haurem de trobar la manera de fer com implementar algun costum semblant. Si fem relacions comercials amb una IA, com li donarem la mà, sobretot si és una entitat incorpòria? Seria massa demanar que siguem nosaltres, els humans, que canviem de maneres de fer. Al contrari, haurà de ser la IA, o els seus constructors, qui hauran de mirar d’adaptar la màquina a la societat humana, i no la inversa. Altrament, sense aquest contacte inicial no hi haurà cap motiu perquè les persones acceptem d’iniciar una relació amb una entitat sobre la qual, en el fons, no tenim cap idea si comparteix o no els nostres valors. La IA és capaç de mentir? Pot tenir aquesta voluntat, o encara pitjor, la d’estafar-nos? Són dubtes raonables que el nostre subconscient de simi no deixarà de plantejar.
Durant la taula rodona, es va dir que les IA són simples eines o manifestacions dels humans que les han construït. Sens dubte és així, si més no de moment. És així perquè la IA d’avui en dia no té coneixement ni voluntats pròpies –i, precisament per aquest motiu, jo per un li nego que sigui realment intel·ligent. Les formes d’IA que existeixen actualment són simples màquines, màquines certament complexes, però que tan sols semblen intel·ligents sense ser-ho realment. I ens podem recordar que, com qualsevol eina, en realitat amb qui estem tractant no és la màquina sinó el seu amo humà.
Els lectors interessats podran trobar aviat la gravació íntegra de l’acta al canal de la SAC a YouTube, https://www.youtube.com/channel/UCAFSz_S5KAZUm-qOcaI7A0A.