El lado oscuro de la IA: abuso sexual infantil y deepfakes en internet
Advierten sobre el aumento de imágenes de abuso sexual infantil generadas por inteligencia artificial.
ESTADOS UNIDOS.- La proliferación de imágenes de abuso sexual infantil en internet es un problema alarmante que podría empeorar debido al uso de herramientas de inteligencia artificial capaces de crear imágenes manipuladas. Expertos en el tema, pertenecientes a la Internet Watch Foundation con sede en el Reino Unido, han advertido sobre la necesidad de que los gobiernos y las empresas tecnológicas tomen medidas rápidas para controlar esta situación antes de que las agencias policiales se vean desbordadas y el número de víctimas potenciales se incremente significativamente.
Ver nota:
Estudiante trans golpea a su compañera en secundaria de Oregon
Un caso sin precedentes ocurrió en Corea del Sur en septiembre, donde un hombre fue condenado a dos años y medio de prisión por utilizar inteligencia artificial para crear 360 imágenes de abuso sexual infantil, según el Tribunal del Distrito Busan. Incluso hay casos en los que los propios niños utilizan esta tecnología en contra de sus compañeros. En una escuela del suroeste de España, la policía está investigando un caso en el que aparentemente unos adolescentes usaron una aplicación de teléfono celular para crear imágenes en las que sus compañeros aparecen desnudos.
Este informe pone de manifiesto un lado oscuro de la inteligencia artificial, una tecnología que permite al usuario describir en palabras lo que desea producir, ya sea un correo electrónico, una novela, una obra de arte o un video, y el sistema se encarga de elaborarlo. Si no se toman medidas, la avalancha de deepfakes de abuso sexual infantil podría abrumar a las agencias policiales encargadas de rescatar a niños convertidos en personajes digitales ficticios. Los abusadores también podrían utilizar estas imágenes para seducir o coaccionar a nuevas víctimas.
Según los analistas de la Internet Watch Foundation, se ha detectado una demanda masiva de imágenes de niños famosos en línea, así como la creación de imágenes de niños que han sido abusados en el pasado. Esta organización, que lucha contra el abuso sexual infantil en internet, comenzó a recibir informes de imágenes generadas por inteligencia artificial a principios de este año. Esto llevó a una investigación en la llamada dark web, una parte encriptada de internet accesible solo a través de herramientas que proporcionan anonimato.
Los analistas descubrieron abusadores que intercambian estas imágenes, que son extremadamente realistas, y algunos incluso intentan lucrar con ellas. Es crucial tomar medidas urgentes para combatir este problema y proteger a los niños de la explotación sexual en línea.
