La inteligencia artificial se cuela en las aulas y urge a regular su uso ético: La UNIR lidera una iniciativa europea para guiar el uso de la IA en la educación y evitar los riesgos de una herramienta sin control

La inteligencia artificial (IA) ya se ha instalado en colegios, institutos y universidades. Herramientas como ChatGPT son un recurso habitual para los estudiantes, que las perciben como un compañero de estudios siempre disponible. Sin embargo, este avance tecnológico, que avanza a una velocidad sin precedentes, plantea un doble desafío, por un lado, es una potente herramienta de aprendizaje, pero, por otro, puede convertirse en una fuente de trampas y desigualdades si no se establecen unas reglas claras.

Un marco ético pionero

En este contexto, la Universidad Internacional de La Rioja (UNIR) se ha posicionado como una entidad pionera. A finales de 2023, presentó ante la UNESCO la primera declaración para un uso ético de la inteligencia artificial en educación superior, un documento que sentó las bases para un marco común de actuación. "Cambia todo muy rápido, en cuestión de meses", explica Daniel Burgos, director del Instituto de Investigación de UNIR ITEC y coordinador de la iniciativa ASSAI, quien señala que la rápida evolución de la IA generativa les obligó a revisar y actualizar dicha declaración en menos de un año.

Para Burgos, la clave para garantizar un uso correcto de esta tecnología es combinar dos aspectos fundamentales. "El enfoque ético, desde luego, tiene que estar ahí, pero tiene que combinarse con una regulación", afirma. Según el experto, al final es necesario que todas las partes lleguen a un acuerdo sobre los límites para poder operar de manera conjunta y segura.

Tenemos aquí una herramienta fantástica, pero no olvidemos que es eso, una herramienta tonta"

Daniel Burgos

Director del Instituto de Investigación de UNIR ITEC

El director del Instituto de Investigación de UNIR ITEC insiste en que no se trata de frenar la IA, sino de usarla bien, e insiste en no olvidar su naturaleza, "tenemos aquí una herramienta fantástica, pero no olvidemos que es eso, una herramienta tonta". Burgos la describe como "una calculadora potente" y subraya que, dado que "no vamos a poder pararla", lo fundamental es saber "cómo integrarla adecuadamente para que la herramienta haga lo que nosotros queramos dentro de unos límites".

ASsAI: un proyecto para guiar la IA en la evaluación

Con este objetivo, la UNIR lidera el proyecto europeo ASSAI, una iniciativa que cuenta con socios de alto nivel como las Naciones Unidas, el Consejo de Europa, la UNESCO y gobiernos regionales. El proyecto busca analizar cómo la inteligencia artificial puede aplicarse de manera beneficiosa en un ámbito tan delicado como la evaluación académica.

El proyecto parte de una pregunta fundamental que plantea el propio Burgos: "¿La inteligencia artificial de verdad, de verdad, es buena para aprender y para enseñar o no?". El objetivo, explica, "es lo que queremos ver" para, a partir de ahí, poder transferir ese conocimiento y recomendar políticas que se puedan aplicar en universidades, institutos y colegios.

El experto advierte que la educación es uno de los ámbitos donde más impacto está teniendo la IA y donde más cuidado hay que tener, especialmente tratando con menores. Burgos concluye que es imprescindible alcanzar un acuerdo entre todas las partes implicadas, estudiantes, profesores, padres y administraciones, para orientar correctamente a este "compañero de aprendizaje" que, sin la guía adecuada, entraña riesgos evidentes.