Manu Rivas, influencer: "Esta niña no puede ser IA, me niego; primera vez que le tiro la caña a una persona en esta red social y es una inteligencia artificial"

El influencer Manu Rivas ha protagonizado un llamativo caso que evidencia los riesgos de la inteligencia artificial generativa. El joven ha confesado en un vídeo de TikTok que intentó contactar con una supuesta modelo que vestía una camiseta del Betis, para descubrir después que se trataba de una imagen generada completamente por IA.

La anécdota, que no ha tardado en viralizarse, ha sido analizada en el programa ‘Herrera en COPE’ por Jorge Bustos y Alberto Herrera, quienes han debatido sobre la creciente dificultad para diferenciar lo real de lo ficticio. El propio Rivas resumía así su sorpresa en la red social: “Primera vez, primera vez que le he tirado la caña a alguien en esta red social, primera vez”.

Primera vez, primera vez que le he tirado la caña a alguien en esta red social, primera vez"

Manu Rivas

Influencer

El reto de distinguir la realidad

Alberto Herrera ha señalado que, si bien la clonación de voz ya era una realidad, la velocidad a la que avanza la generación de imágenes y vídeos es “un poco de miedo”. Según ha explicado, han surgido aplicaciones gratuitas que permiten no solo clonar a una persona y situarla en cualquier contexto, sino también generar un rostro desde cero con un realismo sorprendente.

Este fenómeno ha provocado un aumento de perfiles indistinguibles de la realidad, sobre todo de mujeres jóvenes, que se hacen pasar por personas reales para interactuar con otros usuarios. “Si se lo traga uno de 20, Jorge, ¿nosotros qué hacemos?”, se ha preguntado Herrera, subrayando la vulnerabilidad de la sociedad ante estos engaños.

Para demostrarlo, el colaborador de COPE ha realizado un experimento en la calle, mostrando a varios viandantes dos fotografías: una de una persona real y otra creada con IA. El resultado ha sido revelador, ya que la mayoría de los participantes han sido incapaces de distinguirlas, admitiendo que la tarea era “muy difícil” y que las imágenes eran “literales”.

Un futuro entre humanos y robots

El debate ha ido más allá, planteando las consecuencias de una sociedad que no distingue lo real de lo virtual. “¿Cómo cambia una sociedad que no distingue a simple vista lo que es realidad de lo que no lo es? ¿Cómo se relaciona? ¿Cómo consume información? ¿Cómo hace política?”, ha reflexionado Alberto Herrera. La vieja máxima de “si no lo veo, no lo creo” ha quedado, en su opinión, obsoleta.

Jorge Bustos ha introducido una perspectiva aún más inquietante, sugiriendo que el verdadero peligro no es la confusión, sino la aceptación voluntaria de la ficción. “Lo peor va a ser no que no sepan distinguir la realidad de la ficción, sino que acaben saliendo con una ficción sabiendo que es ficción”, ha afirmado, planteando la posibilidad de que a la gente “les da igual enamorarse de un robot”.

La conversación ha concluido con la promesa de seguir explorando el tema, en concreto, si ya existen aplicaciones que permitan verificar la autenticidad de una foto o un vídeo. Una cuestión que mezcla filosofía y tecnología y que define uno de los grandes desafíos del presente.