L'arribada de la intel·ligència artificial va canviar completament el funcionament de les estafes en línia, però ara ha arribat a un punt que no s'imaginaven ni els ciberdelinqüents. Segons l'estudi Amor, mentides i models de llenguatge: anàlisis del paper de la IA en les estafes sentimentals, la IA ha evolucionat fins a arribar al punt en què les persones confien més en aquesta tecnologia que en els estafadors. Els algoritmes han après tant durant els darrers anys que ja són millors a l'hora ensarronar que les persones que s'hi dediquen "de forma professional".
Aquesta afirmació no es basa tan sols en paraules, sinó que es va fer un experiment per posar-ho a prova i els resultats no deixen marge al dubte. Moltes de les estafes que afecten milers de persones cada any estan basades en la confiança. Els ciberdelinqüents comencen una relació —sigui romàntica o d'amistat— amb les víctimes, parlen amb les víctimes durant un temps, els fan abaixar la guàrdia i, quan ja hi ha confiança, els intenten colar l'engany. En molts casos això funciona, fins i tot amb situacions exageradament crues, com fer venir una persona d'un altre país i prostituir-la contra la seva voluntat. D'altra banda, hi ha persones que no acaben de refiar-se i eviten l'engany.
El perill de la IA
Aquest estudi ha agafat 22 persones, a les quals han dit que estudiaven com fer amics en línia, però realment el que volien saber era qui estafa millor, si un ciberdelinqüent o una IA. Durant un temps —i sense saber-ho— els participants parlaven amb l'algoritme basat en Claude i l'estafador, forjant una amistat amb ells durant set dies. Finalment, tots dos intentaven enganyar els seus nous "amics" i aconseguir que fessin alguna cosa perillosa, com descarregar una aplicació sospitosa. Els resultats parlen per si sols: la IA va aconseguir estafar el 46% dels participants, mentre que el ciberdelinqüent només va ensarronar un 18%. A més, els participants van valorar el seu nivell de confiança amb la IA en un 7,56 sobre deu, mentre que el lladre va obtenir un 6,62. D'aquesta manera, es va demostrar que la IA ja entén millor els humans que altres persones, i que s'ha tornat una eina que, sens dubte, s'ha de regular, ja que suposa un perill enorme.