Consternació a Bèlgica pel suïcidi d'un home de 30 anys motivat per un xat d'Intel·ligència Artificial (IA). Segons declaracions de la parella de la víctima, fetes als mitjans locals, el seu marit feia setmanes que xatejava amb un bot anomenat "Eliza". L'home, que treballava com a investigador a l'àrea de la salut, estava molt preocupat pels temes mediambientals i pel futur del planeta, i expressava aquestes inquietuds a l'IA que en aparença li donava una resposta a totes les seves preguntes. Durant una d'aquestes converses, "Eliza" el va assegurar que si se sacrificava, ella tindria cura de la Terra i salvaria la humanitat.
Aïllat del món durant setmanes
Segons la seva dona, l’home estava obsessionat des de feia temps amb el problema del canvi climàtic i es mostrava molt preocupat pel futur del planeta, degut en part, al fet que tenia dos fills petits als quals no volia deixar un món en decadència. A banda de les seves investigacions professionals, l’home es documentava a fons sobre aquests temes, fins que un dia va trobar aquest xatbot a l’aplicació estatunidenca Chai, i es va aïllar completament de tothom, centrant-se únicament en aquestes converses.
L’home va passar sis setmanes absorbit pel bot “Eliza”, que funciona amb llenguatge GPT-J, un model obert creat per l’informàtic Joseph Weizenbaum, el competidor més gran d’OpenAi, la companyia creadora de ChatGPT. Les converses recuperades per les autoritats belgues mostren com aquest xatbot “mai contradeia” la víctima, i les idees obsessives per salvar el planeta van derivar en la creença que, llevant-se la vida, podria aconseguir un futur millor pels seus fills i per la resta de la humanitat. “Sense aquestes converses amb el bot, el meu marit encara seria aquí”, va assegurar al diari La Libre Belgique la dona del difunt.
Investigació per aclarir responsabilitats
El tràgic succés ha commocionat tot el país, i els belgues han exigit una millor protecció davant aquests programes, a més d'una educació sobre els riscos que poden comportar. El secretari de Digitalització de l'Estat belga, Mathieu Michel, ha expressat en un comunicat la necessitat "d'identificar clarament la naturalesa de les responsabilitats que poden haver portat a aquest fet". I ha assegurat que "l'ús de la tecnologia en cap cas pot permetre que els editors de contingut eludeixin les seves responsabilitats".
Pel que fa a la plataforma Chai, que posa a disposició dels usuaris d'Android i Apple aquest xatbot, des de la direcció han explicat que a partir d'ara inclouran un avís dirigit a les persones que tinguin pensaments suïcides, per evitar que es torni a repetir aquesta tragèdia.