Borja Adsuara, experto en derecho digital: "Si son conscientes de que están difundiendo imágenes falsas que pueden perjudicar a la persona deben retirarlas y si no..."

Cada vez es más habitual encontrarse con vídeos o imágenes generadas por inteligencia artificial mientras se navega por las redes sociales, un fenómeno que diluye la frontera entre lo real y lo falso. Tal y como se ha analizado en el programa 'Herrera en COPE' con Alberto Herrera, esta situación plantea serios interrogantes sobre en qué cambia una sociedad cuando ver ya no es creer. Un ejemplo de ello es lo que le ha ocurrido al creador de contenido Manu Rivas, quien dedicó un vídeo a una 'influencer' que resultó no existir.

Un 'amor' generado por IA

El 'tiktoker' Manu Rivas ha compartido su propia experiencia tras intentar contactar con una supuesta 'influencer' que captó su atención en redes. 

"Primera vez que le he tirado la caña a alguien en esta red social, primera vez. Pues es inteligencia artificial", confesaba asombrado. La frustración del joven, que se dedica profesionalmente a las redes, evidencia la sofisticación de estos engaños. "Si esto le pasa a una persona joven que se dedica a las redes sociales, imagínese a los que no estamos tan familiarizados", ha reflexionado Alberto Herrera.

La dificultad para el ojo humano es real. 

En una prueba realizada en la calle por el equipo de 'Herrera en COPE', los ciudadanos han mostrado enormes dificultades para distinguir entre una fotografía real y otra creada con IA. Aunque algunos aciertan, nadie logra ver la distinción con claridad, lo que demuestra que somos una presa fácil para las bromas pesadas, la propaganda, los bulos y las estafas.

El negocio del engaño digital

Pero, ¿quién crea estas imágenes y con qué objetivo? El experto en tecnología Jorge Morla ha explicado en el programa que detrás de muchos de estos virales se encuentran las llamadas "granjas de contenido". Estas organizaciones "suben toneladas de vídeos llamativos o sugerentes buscando viralidad para monetizarlo en las visitas de YouTube, de Instagram o de TikTok". Morla ha señalado el caso de dos supuestas guardias civiles en un coche, un vídeo falso que combina "chicas atractivas más la autoridad de la guardia civil" para que la gente interactúe.

Este fenómeno, que Jorge Morla denomina "AI Sloop" o "fango digital que inunda las redes", nos obliga a adoptar una postura mucho más crítica. "Tenemos que estar más atentos que nunca y jamás dar por hecho que una cosa que estamos viendo en la pantalla del móvil es verdad", ha sentenciado el experto.

Regulación y el refugio del periodismo

Desde el punto de vista legal, existen mecanismos de control. Borja Adsuara, abogado experto en derecho digital, ha recordado que el Reglamento de Servicios Digitales obliga a las plataformas a actuar. "Si son conscientes de que se están difundiendo imágenes falsas de una persona que puede perjudicarle, están obligadas a retirarlas", ha afirmado Suárez, y de no hacerlo se enfrentan a multas de "hasta el 6 % de la facturación global".

En este contexto de desinformación, el papel de los medios de comunicación se vuelve fundamental. José Ángel Cuadrado, coordinador digital de COPE y experto en tecnología, ha destacado en 'Herrera en COPE' que el periodismo contrastado es la principal herramienta de defensa. Según Cuadrado, "los medios de comunicación cada vez vamos a ser más necesarios que nunca, y cada vez vamos a ser más refugio".

Para ilustrarlo, Cuadrado ha puesto como ejemplo la reciente difusión de una supuesta imagen de la detención de Nicolás Maduro, que "empezó a correr como la pólvora". El equipo digital de COPE activó sus protocolos con la consigna "ojo, cuidado, vamos a comprobarlo", descubriendo que "esa imagen era falsa". Este proceso de verificación, según el experto, es lo que diferencia a los medios rigurosos y los convierte en un pilar contra los fraudes y las noticias falsas generados por inteligencia artificial.