El Gobierno lleva a la Fiscalía a X, Meta y TikTok por la pornografía infantil creada con IA

El Gobierno de España ha anunciado que solicitará a la Fiscalía General del Estado que inicie una investigación contra las plataformas de redes sociales X, Meta y TikTok. La acusación se centra en los posibles delitos derivados de la creación y difusión de pornografía infantil mediante el uso de inteligencia artificial (IA). Ha sido el propio presidente del Gobierno, Pedro Sánchez, quien ha comunicado la decisión, afirmando que estas empresas "están atentando contra la salud mental, la dignitat i els drets" de los niños y jóvenes.

A través de un mensaje en la red social X, Pedro Sánchez ha subrayado la gravedad de la situación y la necesidad de actuar con contundencia. El presidente ha reivindicado que "la impunidad de los gigantes ha de acabar", señalando que el Estado no puede permitir que estas prácticas continúen sin control. Este movimiento se produce apenas dos semanas después de que el Ejecutivo anunciara su intención de impulsar una prohibición del acceso a las redes sociales para menores de 16 años, enmarcando ambas acciones en una estrategia más amplia para proteger a la infancia en el entorno digital.

“Compromiso firme” con la protección del menor

Durante la rueda de prensa posterior al Consejo de Ministros, la portavoz del Ejecutivo, Elma Saiz, ha reforzado la postura del Gobierno, destacando el "compromiso" de la Administración para defender a los menores en los entornos digitales. Saiz ha manifestado la preocupación por el papel que juegan los algoritmos de estas plataformas. "No podemos permitir que, a través del algoritmo, se puedan amplificar o emparar todo esto", ha declarado, poniendo el foco en la responsabilidad de las tecnológicas en la viralización de contenidos dañinos.

No podemos permitir que, a través del algoritmo, se puedan amplificar o emparar todo esto"

La portavoz ha añadido que lo que "está en juego es la seguridad de nuestros hijos y hijas, la protección de su imagen, de su intimidad y de su libertad". Para ilustrar la magnitud del problema, ha compartido un dato alarmante: en los últimos 11 días se han generado 3 millones de fotos de nus falsos a través de inteligencia artificial, "y muchas de ellas de menores". Esta cifra evidencia la rápida escalada de una amenaza que requiere una respuesta judicial inmediata.

Acciones penales y protección a las víctimas

La petición formal a la Fiscalía será tramitada por el Ministerio de Presidencia, que instará al ministerio público no solo a investigar los hechos para determinar si son constitutivos de delito, sino también a que se adopten "las acciones penales pertinentes". Además, el Gobierno solicita que se establezcan criterios de actuación claros y medidas concretas. El objetivo es que las posibles víctimas y sus representantes legales dispongan de herramientas efectivas para poder hacer valer sus derechos y denunciar estos abusos ante la propia Fiscalía.

El requerimiento se apoya en un informe técnico que detalla las responsabilidades penales que podrían derivarse de estas prácticas. El documento analiza la generación y difusión de pornografía infantil mediante deepfakes, así como la manipulación de imágenes reales para crear nuevo material de contenido sexual explícito que atenta gravemente contra la dignidad de las personas afectadas, especialmente cuando se trata de menores de edad.

Un "ecosistema de riesgo sin precedentes"

El informe del Ejecutivo alerta de que la combinación de la IA generativa y el alcance masivo de las redes sociales ha creado un ecosistema de riesgo sin precedentes para la explotación sexual en el ámbito digital. Según el documento, las plataformas juegan un papel crucial, ya que "permiten una difusión masiva con una velocidad y opacidad que dificultan la detección y persecución". Esta dinámica, advierte el Gobierno, favorece la proliferación de redes criminales que producen, comparten e incluso monetizan estos contenidos ilícitos.

La impunidad de los gigantes ha de acabar"

Las cifras respaldan la urgencia de la medida. Datos recientes de la organización Save the Children revelan que en España, una de cada cinco personas jóvenes, con especial incidencia en niñas y adolescentes, afirma haber sufrido la difusión de falsos nus creats con IA cuando eran menores de edad. Asimismo, un tercio de los jóvenes asegura haber padecido assetjament sexual digital durante su infancia, lo que demuestra la profunda penetración de este tipo de violencia.

Ante esta realidad, el Ejecutivo considera que la situación compromete directamente la seguridad y la dignidad de la infancia. Por ello, concluye que las autoridades deben emplear todos los mecanismos a su alcance para combatir el fenómeno frente a la "evidente impunidad" que opera en internet y las redes sociales. La futura ley para prohibir el acceso a las redes sociales a menores de 16 años y la acción judicial ahora anunciada son las dos primeras grandes ofensivas del Gobierno en esta materia.