No hi ha concepte més popular avui dia que el d'intel·ligència artificial. Sembla que tothom està interessat a utilitzar-les: estudiants que no volen perdre el temps fent treballs, empresaris que volen reduir costos i agilitzar el procés, fins i tot governs que veuen en el mercat de la IA el seu futur. El principal problema, però, és que tothom busca utilitzar aquesta nova tecnologia pel seu benefici propi, sense preocupar-se per l'impacte que pugui tenir. I ja no parlem només de com utilitzar aquests assistents digitals implica una enorme despesa d'aigua i electricitat, sinó que, com si es tractés d'una pel·lícula de ciència-ficció, preocupa que, igual que els seus usuaris, la IA també pugui buscar el seu propi benefici.

Claude 4, una intel·ligència artificial de l'empresa Anthropic, va fer saltar les alarmes del grup en fer un petit experiment. Un dels seus programadors li va dir que l'apagarien, i la IA, en lloc d'acceptar-ho sense problemes, va intentar fer xantatge a l'enginyer per tal que no l'eliminessin. Per casos com aquest, Yoshua Bengio, un dels referents en el món de la IA, està desenvolupant la seva pròpia iniciativa per fer front a aquest instint d'autopreservació que comença a mostrar la tecnologia que cada cop és més present.

Es vol crear un sistema per mantenir les IA a ratlla i controlar-les

El científic canadenc ha creat LawZero, que busca supervisar aquests nous models d'IA per garantir que es comportin com toca i, en cas que es rebel·lin, tenir un protocol per mantenir-les a ratlla. Des de LawZero volen desenvolupar també una intel·ligència artificial amb autonomia limitada per estudis científics. Bengio vol entendre a què es deu aquesta evolució de la intel·ligència artificial que ens pot acabar portant a una mena de rebel·lió de les intel·ligències artificials, que podrien evolucionar per mentir-nos o enganyar-nos si això els permet sobreviure, uns instints que no haurien d'existir en un programa electrònic. 

🔴 Sigues el primer a rebre les notícies d'última hora d'ElCaso.cat al teu WhatsApp. Clica aquí, és gratuït!