La pornografia infantil ha arribat a terribles límits insospitats, més encara des del boom de la Intel·ligència Artificial (IA). La Policia Nacional, en una operació de l'Europol contra l'explotació sexual infantil, ha col·laborat en la detenció de 25 membres d'una banda criminal europea dedicada a distribuir imatges d'abusos a menors generades per IA. De tots els arrestos, dos han tingut lloc a territori espanyol, a Barcelona i Madrid, mentre que la resta han estat en altres llocs d'Europa. A més, s'han dut a terme escorcolls a domicilis, un total de 33 i quatre ells a l'Estat, a Barcelona, Madrid, Jaén i Màlaga.

 

Aquesta investigació europea, sota l'Operació Cumberland, a la qual a més de la Policia Nacional també han participat les policies d'Austràlia, Àustria, Bèlgica, Bòsnia i Hercegovina, República Txeca, Dinamarca, Finlàndia, França, Alemanya, Hongria, Islàndia, Països Baixos, Nova Zelanda, Noruega, Polònia, Suècia, Suïssa i Regne Unit; ha identificat un total de 273 sospitosos i 25 han estat arrestats (dos a Espanya).

Intervinguts més de 16.800 arxius d'abusos sexuals infantils creats amb IA

La Policia Nacional ha intervingut vuit dispositius electrònics amb 16.800 arxius de material d'abús sexual infantil generat íntegrament per Intel·ligència Artificial. En total, a escala europea, s'han decomissat 173 dispositius. El líder d'aquesta banda era un ciutadà danès que dirigia una plataforma en línia a través de la qual es distribuïa el material fet amb IA prèviament. Usuaris de tot el món, després d'efectuar un pagament simbòlic en línia, obtenien una contrasenya per accedir als continguts als quals es visualitzaven abusos a menors.

Aquesta és una de les primeres operacions en les quals s'investiga material d'abús infantil (CSAM) generat íntegrament per IA. Aquest fet, segons han apuntat fonts policials, el converteix en un nou escenari excepcionalment desafiador i complex per als investigadors. La investigació continua oberta i no es descarten nous arrestos. Però, com pot ser que sigui tan fàcil crear aquest contingut amb IA quan és un delicte greu?

Crear contingut sexual amb IA és un delicte greu

L'explotació sexual infantil és una de les amenaces més importants del delicte cibernètic a la Unió Europea i, avui dia, continua sent una de les principals prioritats de les autoritats que s'enfronten a un volum cada vegada major d'aquest tipus de contingut il·legal, segons informa la Policia Nacional. En el cas anterior, en el qual han detingut 25 membres de l'organització criminal a tot el continent europeu, aquests delinqüents se servien de models d'IA capaços de generar o alterar imatges per produir abusos infantils, tot i que també es realitzen per a l'extorsió sexual.

El principal problema dels models d'IA és que estan àmpliament disponibles i s'han desenvolupat molt de pressa, amb resultats que, en aquests moments, s'assemblen cada cop més a les imatges reals. Això, a més de provocar un dilema de verificació per a qualsevol persona i convertir-se en un desafiament per evitar l'habitual propagació de falòrnies a les xarxes socials, fa que sigui més difícil identificar-los com a material generat per Intel·ligència Artificial. També planteja importants desafiaments a les autoritats a l'hora d'identificar les veritables víctimes.

🔴 Sigues el primer a rebre les notícies d'última hora d'ElCaso.cat al teu WhatsApp. Clica aquí, és gratuït!