Usan en EU IA para crear ‘deepfake pornográfica’

Uno de cada 10 menores de EU dice que amigos usan IA para crear desnudos de otros niños, ya han sido arrestados varios estudiantes por crear deepfake pornográficos.

Usan en EU IA para crear ‘deepfake pornográfica’

 

Estados Unidos.

Uno de cada 10 menores de edad de Estados Unidos dice que sus amigos y/o compañeros de clase han usado la inteligencia artificial (IA) para generar imágenes con desnudos de otros niños, según una encuesta publicada este agosto por Thorn, organización sin fines de lucro cuya misión es defender a los niños del abuso sexual.

La encuesta, realizada en línea entre el 3 de noviembre y el 1 de diciembre de 2023, hizo preguntas a mil 40 menores de entre 9 y 17 años sobre material de abuso sexual infantil y "experiencias dañinas en línea".

El estudio señala que han monitoreado durante cinco años la frecuencia con que los niños comparten imágenes explícitas de otros compañeros sin su consentimiento. "En 2023, el 7% de los menores informó haber compartido imágenes sexuales de otra persona, pero casi el 20% informó haber visto imágenes íntimas de otras personas compartidas sin consentimiento", anota el estudio.

En su última publicación, 'Perspectivas de los jóvenes sobre la seguridad en línea, 2023', la organización señala que "los métodos que utilizan los jóvenes para producir y compartir imágenes explícitas están evolucionando".

"Con herramientas de IA generativa a su alcance, los jóvenes están creando desnudos deepfake de sus compañeros. Si bien la mayoría de los menores no cree que sus compañeros de clase participen en este comportamiento, aproximadamente uno de cada 10 menores informó que conocía casos en los que sus compañeros lo habían hecho", apunta el estudio.

Además, el estudio anota que uno de cada 10 entrevistados optó por no contestar a la pregunta.

En EU ya han arrestado a varios estudiantes por crear deepfake pornográficos. En una escuela secundaria del estado de Washington varios estudiantes fueron investigados por usar una "aplicación para desnudar" a sus maestros y compañeros de clase.

Mientras que en una escuela de Florida, la Policía detuvo a dos estudiantes de secundaria por crear desnudos de sus compañeros usando inteligencia artificial.

"Al comprender los riesgos que enfrentan los niños en línea, podemos desarrollar sistemas para protegerlos contra los daños introducidos por las tecnologías que avanzan rápidamente", recalca la organización.

Con respecto a otras experiencias de los menores, en 2023, más de la mitad (59%) de los menores informaron haber tenido una experiencia en línea potencialmente dañina, y más de uno de cada tres menores informaron haber tenido una interacción sexual en línea.

"Uno de cada cinco preadolescentes (de 9 a 12 años) informó haber tenido una interacción sexual en línea con alguien que creía que era un adulto", añade el artículo.