Lorenzo Cotino (AEPD) advierte sobre la IA: lo que empieza como una broma puede acabar en delito

La eclosión de aplicaciones de inteligencia artificial (IA) que permiten generar imágenes y vídeos a partir de una simple fotografía, que se acentúa en vacaciones o en reuniones familiares como las que propicia la Navidad, ha desatado todo un debate sobre las implicaciones de esta tecnología. En una entrevista en COPE, el presidente de la Agencia Española de Protección de Datos (AEPD), Lorenzo Cotino, ha pedido cautela y ha advertido que, aunque estas herramientas pueden parecer divertidas, también tienen "un lado oscuro" que puede lesionar derechos fundamentales. En un contexto marcado por polémicas como la publicación de fotos sexualizadas de menores fabricadas por la IA Grok, Cotino subraya la importancia de ser conscientes de los peligros.  

Riesgos visibles e invisibles

El presidente de la AEPD distingue entre dos tipos de amenazas. Por un lado, los riesgos visibles, que no son nuevos pero que la IA ha potenciado. Estos incluyen la capacidad de "denigrar, ridiculizar o sexualizar a personas", con un impacto mayor si se trata de colectivos vulnerables como menores o mayores. Cotino recuerda que subir imágenes de terceros sin permiso, especialmente si pueden estigmatizar o desvelar la intimidad, es una práctica que ya existía con las redes sociales pero que ahora alcanza una nueva dimensión.

Estamos perdiendo el control, lo estamos subiendo a una plataforma y estamos alimentando los sistemas de IA"

LORENZO COTINO

Presidente de la Agencia Española de Protección de Datos (AEPD)

Por otro lado, existen riesgos invisibles, que surgen incluso si el contenido generado no se publica. Al subir una imagen a una de estas plataformas, "estamos perdiendo el control", afirma Cotino. El usuario alimenta los algoritmos de la IA con sus datos e imágenes, a menudo sin ser consciente. "Estamos subiendo datos del menor para un sistema de inteligencia artificial que va a aprender de esos datos", alerta el experto, quien añade que también se abren las puertas a potenciales quiebras de seguridad y a la pérdida de control sobre la información personal.

Consecuencias legales y responsabilidades

Lo que empieza como una "ingenua broma" en un círculo cerrado de amigos puede trascender al ámbito laboral o profesional y "acabar molestando y mucho y cometiendo ilegalidades", advierte Cotino. El uso de la imagen de una persona sin su consentimiento puede derivar en una denuncia civil, una reclamación ante la Agencia de Protección de Datos o, en los casos más graves, constituir un delito. "Imaginemos la generación de pornografía con inteligencia artificial, pues muy posiblemente eso sería delito", ejemplifica.

Fácil, fácil no hay nada hoy en día con la complejidad que tiene el mundo digital"

LORENZO COTINO

Presidente de la Agencia Española de Protección de Datos (AEPD)

Ante estos hechos, el rol de la AEPD es, en primer lugar, la concienciación de los usuarios. En segundo lugar, la agencia recibe reclamaciones y, si detecta indicios de delito, deriva el caso a la Fiscalía, la policía o las autoridades judiciales. Cotino también apunta a la responsabilidad de las propias plataformas, en línea con el reciente recordatorio de la presidenta de la Comisión Europea, Ursula von der Leyen. "Las plataformas de IA tienen algunos frenos o capas de seguridad y han de extremarlas. No puede ser que una persona pueda pedir que se genere un vídeo pornográfico y que no se active un mecanismo de seguridad". 

Cómo actuar y proteger a los menores

El presidente de la AEPD lanza un mensaje especial a los padres, que a veces son los primeros en exponer a sus hijos compartiendo sus imágenes. Aconseja vigilar que los contenidos no salgan del círculo familiar y tener presente que, aunque el vídeo generado no sea dañino, se están subiendo datos de un menor a un sistema de IA. Su consejo final es claro: "Que disfrutemos de estas herramientas, que son muy positivas, pero tengamos prudencia antes de subir datos e imágenes especialmente de terceros.  

Si una persona es víctima de un deepfake o de la difusión de un vídeo ofensivo, Cotino recomienda ponerlo en manos de las autoridades policiales y de la Fiscalía. Además, la AEPD dispone de un Canal Prioritario para solicitar la retirada urgente de contenidos sensibles. Sin embargo, admite que lograr una eliminación efectiva no es sencillo: "Fácil, fácil no hay nada hoy en día con la complejidad que tiene el mundo digital". Confía, no obstante, en que la plena implementación del nuevo Reglamento de Servicios Digitales (DSA) de la UE agilice estos procesos.

Sin embargo este reglamento no se aplica aún plenamente en España donde está pendiente de la aprobación de una ley que habilite a la Comisión Nacional del Mercado de la Competencia (CNMC) a actuar y facilitar que tanto el Gobierno como los ciudadanos puedan denunciar. También a la espera de su aprobación en el Congreso, el anteproyecto de la ley orgánica de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, que actualiza la ley de 1982 para mencionar específicamente las “ultrasuplantaciones realizadas con inteligencia artificial” y, por la vía penal,  el proyecto de ley de protección de los menores en entornos digitales.  Las dos reformas  necesitan conseguir una mayoría absoluta en el Congreso, algo complicado con la aritmética parlamentaria actual.