Crece la alarma en los colegios, entre los padres, sobre todo, por esos grupos de Whatsapps, gestionados por alumnos, en los que se incluye a menores de edad de entre 12 y 14 años y donde se distribuye contenido pornográfico.

Ha ocurrido, de momento, en Madrid y en San Sebastián. En este último, por cierto, las imágenes sexuales eran de carácter muy violento y la Ertzaintza no descarta que ese material se hubiera generado a través de inteligencia artificial.

¿Cómo podemos atajar esta realidad como padres? ¿Y la Policía? ¿Tiene medios para controlar esta situación? ¿Qué papel juega la Inteligencia Artificial en todo esto? Son algunas de las preguntas que nos hacemos aquí en COPE y a las que tratamos de dar respuesta.

No son casos aislados, recordemos el suceso de hace dos meses en Almendralejo, en Extremadura. Allí una treintena de niñas adolescentes han visto como su imagen se distribuía a través de redes sociales y grupos de WhatsaApp, pero modificada con inteligencia artificial para que fueran de contenido sexual.

Hay 26 menores investigados por la fiscalía de Badajoz. 5 de ellos son menores de 14 y son inimputables, pero al resto, cuando la investigación avance, se les podría exigir responsabilidades penales. La propia Fiscalía ha alertado de un incremento absolutamente exagerado de la difusión de pornografía infantil en la red en los últimos años.

“Material que se difunde muy fácilmente porque a través de la red pueden llegar a cientos de miles de personas en segundos, y no en nuestro país, a nivel mundial… Hay una preocupación muy seria a nivel de la Unión Europea” es lo que nos ha contado Elvira Tejada, fiscal de Sala de la Unidad de Criminalidad Informática y en COPE explica que el uso de Inteligencia Artificial para la creación de estos contenidos no está demasiado extendido porque es algo nuevo, pero se teme que se dispare y sirva para engordar -aún más- este negocio al que es difícil ponerle coto.

¿Cómo debemos actuar ante un caso así?

¿Qué hacer si nos encontramos en una situación así? Como en los colegios de Madrid o San Sebastián, o un suceso como el de Almendralejo. Pues como explica a COPE el especialista en derecho digital Borja Adsuara, “lo importante es denunciarlo ante la agencia de protección de datos… si ha sido a través de grupos de WhatsApp son más complicadas porque son conversaciones privadas”.

Hay que alertar, por tanto, a las autoridades, y confiar en ellas, aunque dar con los delincuentes tecnológicos no es nada fácil, pero Elvira Tejada, admite que las fuerzas y cuerpos de seguridad están muy bien preparadas, pero también comenta que es un desafío permanente por culpa de la evolución tan acelerada de la tecnología.

Cada vez hay más facilidades, y más consumo de pornografía por parte de los menores. Según un estudio en el que han participado varias ONGs, en España, el 50% de los niños de 11 a 13 años, ha visto pornografía en internet, mientras que el 75% de los padres piensa que sus hijos jamás han tenido contacto con estos contenidos inapropiados para la infancia.

La IA en el punto de mira

Y los expertos coinciden: hay una relación directa entre el uso de las nuevas tecnologías y el aumento en el consumo de la pornografía. Alejandro Villena es director clínico y de investigación en la Asociación Dale Una Vuelta y ha remarcado que “un acceso más temprano a la tecnología, favorece un mayor uso de la pornografía… cuanto antes demos un dispositivo a nuestros adolescentes, más fácil y más accesible tendrán el consumo de pornografía”.

Y desde luego aquí la inteligencia artificial preocupa también a los profesionales como Alejandro, porque si podemos crear lo que queramos de manera virtual, no va a haber límite en el contenido. Aumenta el consumo de pornografía en los menores de edad. Aumentan los delitos sexuales en menores de edad. Y las nuevas tecnologías, la inteligencia artificial, etc; no están solucionando los problemas, los están agravando.