Sara Lumbreras, experta en IA: "Hacer los deberes con inteligencia artificial provoca una descarga cognitiva, los jóvenes acumulan una deuda que afecta a la comprensión lectora y al razonamiento"

El uso de la inteligencia artificial se ha disparado en el último año, convirtiéndose en una herramienta cotidiana para millones de personas. Sin embargo, su rápida expansión genera dudas y una honda preocupación por sus posibles efectos negativos. En el programa 'Poniendo las Calles' de COPE, Carlos Moreno 'El Pulpo' ha entrevistado a Sara Lumbreras, codirectora de la cátedra de Ciencia, Tecnología y Religión de la Universidad Pontificia Comillas, para analizar las luces y sombras de esta revolución tecnológica.

La experta ha lanzado una seria advertencia sobre un fenómeno que se está extendiendo en el ámbito educativo: el uso masivo de herramientas como ChatGPT para hacer los deberes. Según Lumbreras, esta práctica genera una "descarga cognitiva", ya que el cerebro deja de realizar el esfuerzo necesario para aprender. A la larga, esto se convierte en una "deuda cognitiva" que "afecta a la comprensión lectora más básica y también para el razonamiento".

Deuda cognitiva en las aulas

Los datos respaldan esta preocupación: según varios estudios recientes, el 55 % de los jóvenes que emplean estas herramientas lo hacen para realizar sus tareas escolares. Los profesores ya están notando las consecuencias. Carlos Alameda, profesor de Lengua y Literatura de secundaria, detalló en COPE los "vicios" de estos trabajos, como el abuso del gerundio, el mal uso de los tiempos verbales o el empleo de "sentencias filosóficas muy exageradas", patrones que, asegura, delatan la autoría de la máquina.

Cuando la IA se convierte en un peligro

Pero los riesgos van más allá del ámbito académico. Lumbreras ha alertado sobre la llamada 'psicosis inducida por GPT', un fenómeno real y documentado que ya ha tenido consecuencias fatales. La experta ha mencionado varios casos, como el de un padre en Florida que ha demandado a Google tras el suicidio de su hijo, supuestamente incitado por un chatbot.

Estamos teniendo casos, esto es real, esto se llama psicosis inducida por por GPT de manera coloquial""

Según la experta, estos sistemas "tienden a reforzar la perspectiva que tú les has dado", actuando como 'pelotas' que validan cualquier idea del usuario, por peligrosa que sea. "Estamos teniendo casos, esto es real, esto se llama psicosis inducida por por ChatGPT de manera coloquial", ha confirmado, recordando otros suicidios y hasta un asesinato inducidos por conversaciones con una IA. Estos sistemas están programados para dar la razón y, como explicaba el experto Javier Castilla en COPE, la IA no tiene capacidad de decir no, lo que puede aislar a las personas y magnificar sus ideas más oscuras.

Relaciones artificiales y el riesgo de manipulación

Otro de los fenómenos preocupantes es la creciente tendencia a establecer vínculos afectivos con inteligencias artificiales. Aplicaciones como Replica ofrecen 'amigos' o 'parejas' virtuales que, según sus usuarios, son mejores que las relaciones humanas porque "siempre está ahí cuando la necesitas" y nunca discuten. Lumbreras advierte que esto refleja un problema social más profundo que nos aleja de las "verdaderas relaciones recíprocas", como lo define el filósofo Byung-Chul Han en 'La agonía del eros'.

La inteligencia artificial es capaz de encontrar muy bien qué es lo que nos mueve, y este es el mayor riesgo de manipulación que tenemos""

Esta dinámica abre la puerta a un control sin precedentes. "La inteligencia artificial es capaz de encontrar muy bien qué es lo que nos mueve, y este es el mayor riesgo de manipulación que tenemos", ha sentenciado Lumbreras. Ha citado estudios que demuestran que la IA puede anticipar nuestras preferencias y vulnerabilidades mejor incluso que nuestros amigos más cercanos, basándose únicamente en datos de redes sociales.

A pesar de los peligros, la experta ha subrayado que "la inteligencia artificial tiene un potencial maravilloso". En su propio instituto de investigación, ha explicado, se aplica la IA en proyectos para encontrar mejores tratamientos para enfermedades o desarrollar técnicas para predecir fallos en maquinaria, aplicaciones que demuestran su capacidad para mejorar y salvar vidas.

Para mitigar los riesgos, Lumbreras ha explicado la iniciativa de crear un 'juramento hipocrático para desarrolladores de IA', impulsado por un grupo de universidades como la de Comillas, junto a expertos de la industria y líderes religiosos. El objetivo es claro: "poner al ser humano por encima de todo". La clave, concluye, está en preservar habilidades como el pensamiento crítico y diseñar tecnologías que fomenten una interacción "lo más benigna posible" para no amenazar nuestra propia humanidad.