¿Dónde están los límites de la IA? El dilema ético de recrear rostros y voces sin consentimiento

La reconstrucción del rostro de Isabel la Católica mediante inteligencia artificial, con un 90% de fidelidad, ha puesto sobre la mesa un debate urgente que va mucho más allá del personaje histórico: ¿hasta dónde puede llegar la IA cuando se trata de recrear personas sin su permiso? La imagen de la reina, que será presentada el próximo mes en la Comisión para su Beatificación, es solo la punta del iceberg de un fenómeno que genera cada vez más inquietud. La preocupación se agrava cuando la recreación no afecta solo a figuras históricas, sino a voces de autores que se reproducen sin autorización o rostros de personas vivas mediante los ´deepfakes´ que circulan por redes sociales.  

Emiliano Blascodoñamayor, vicerrector de Planificación Estratégica y Cultura Digital de la Universidad CEU San Pablo, ha alertado sobre la dificultad de establecer estos límites. "Es muy complicado poner los límites", ha reconocido el experto, quien señala que el caso de Isabel la Católica presenta "muchas aristas éticas" que no pueden ignorarse. El vicerrector ha planteado la cuestión fundamental: "No contamos con el consentimiento de la reina Isabel para poder hacer estas reproducciones". Aunque se trata de un personaje histórico y la recreación parte de bases documentales bien asentadas, insiste en que "esto no se puede tomar como una realidad al 100%", sino como una apariencia basada en fuentes, pero que "no se puede dar como una verdad absoluta en ningún caso".  

Se puede clonar técnicamente un cuadro de Van Gogh con todas sus imágenes, pero "no es real, porque la inteligencia artificial no tiene alma". Esta reflexión plantea una cuestión profunda sobre los límites de la tecnología: "Cuando la inteligencia artificial quiere sustituir lo real, o cuando queremos que nos dé consejos psicológicos o espirituales... hay que tener mucho cuidado", ha advertido.  

 Formación y uso ético: la única solución posible  

Blascodoñamayor ha señalado que la formación es la clave para un uso responsable de esta tecnología. "Hoy en día la inteligencia artificial ha avanzado y nosotros tenemos que hacer desde los medios, desde la universidad, una formación en la que la gente comprenda qué trascendencia tienen", ha explicado el vicerrector del CEU San Pablo. El conocimiento y la divulgación correcta de lo que es la inteligencia artificial son, según el experto, el primer paso necesario para evitar abusos.  

El vicerrector ha subrayado la importancia de seguir las indicaciones que llegan tanto de la regulación de la Unión Europea como de las directrices del Vaticano, donde se promueve "una regulación y un uso ético de la IA que sea antropocéntrica", es decir, que tenga a la persona en el centro y guarde la dignidad y los derechos humanos. Blascodoñamayor también ha alertado sobre otros riesgos ocultos: "Hay sesgos que se reproducen, puede haber intereses comerciales detrás de las ciertas marcas o empresas que promocionan los modelos de inteligencia artificial", advirtiendo sobre la necesidad de aplicar los valores del humanismo cristiano al uso de estas herramientas.  

 El Papa León XIV toma las riendas del debate  

Se espera que el Papa León XIV publique próximamente un documento sobre inteligencia artificial, posiblemente una encíclica que marque el camino de la Iglesia ante este desafío. En su primer libro de entrevistas ya advirtió que "es difícil encontrar a Dios en la inteligencia artificial" y que la Iglesia tiene la obligación de orientar y saber hasta dónde puede llegar esta herramienta. El Pontífice ha dejado claro que no quiere avatares con IA y que este tema es una de las prioridades de su pontificado.  

El debate está servido: entre no retroceder tecnológicamente, y no caer en el extremo de depender de la IA para todo en nuestra vida cotidiana, la Iglesia recuerda que hay una línea roja que no debe cruzarse: la dignidad de la persona humana. Como se ha señalado, la inteligencia artificial puede ser una herramienta útil "como medio", pero "cuando eso se convierte en un fin" es cuando surge el verdadero peligro. La aplicación de valores basados en el respeto a las personas es lo que debe marcar el límite entre el uso responsable y el abuso de una tecnología que avanza más rápido que nuestra capacidad de regularla.