“Los niños están siendo moldeados por algoritmos”: León XIV pide una revolución educativa ante los riesgos de la IA

El papa León XIV ha lanzado una petición contundente que pone en el centro del debate la relación entre los menores y la tecnología: es necesario desarrollar "herramientas para supervisar y controlar la interacción de los niños y niñas con los dispositivos tecnológicos". El pontífice pronunció estas palabras al recibir en el Vaticano a los participantes de un seminario sobre la dignidad de la infancia y la adolescencia en la era de la Inteligencia Artificial. Su mensaje no admite medias tintas: los menores están expuestos a una manipulación invisible que puede condicionar su forma de pensar, decidir y relacionarse con el mundo.

"La IA está transformando muchos aspectos de nuestra vida cotidiana, como la educación, el entretenimiento y la seguridad infantil. El uso de la inteligencia artificial plantea importantes cuestiones éticas, especialmente en lo que respecta a la protección y la dignidad de los menores", explicó León XIV. Pero el Papa fue mucho más allá de una advertencia genérica. El pontífice señaló el peligro específico que preocupa al Vaticano: "los menores son particularmente vulnerables a la manipulación por parte de algoritmos de IA que pueden influir en sus decisiones y preferencias". Esta afirmación describe una realidad que muchos padres intuyen pero no comprenden del todo: cada aplicación, cada red social, cada vídeo recomendado está diseñado por algoritmos que aprenden de los niños y moldean sus comportamientos sin que ellos sean conscientes.

León XIV estableció con claridad dónde empieza la responsabilidad de frenar este fenómeno: "es fundamental que padres, madres y educadores sean conscientes de esta dinámica". El Papa no culpa a las familias, pero sí les pide que abran los ojos ante una amenaza que muchas veces se oculta tras la apariencia inofensiva de juegos, aplicaciones educativas o redes sociales aparentemente inocuas. La tecnología no es neutral, y los adultos deben entender que cuando un niño pasa horas frente a una pantalla, está siendo analizado, clasificado y dirigido por sistemas diseñados para captar su atención y modificar sus preferencias. La supervisión ya no es opcional: es una necesidad urgente para proteger la dignidad y el desarrollo sano de los menores en un mundo cada vez más digital.

 La protección de datos actual no sirve para la era de la IA  

El Papa no dejó toda la carga sobre los hombros de padres y educadores. León XIV fue claro al señalar que "los gobiernos y las organizaciones internacionales tienen la responsabilidad de desarrollar e implementar políticas que protejan la dignidad de los menores en la era de la IA". Y aquí viene la parte más exigente de su mensaje: las leyes actuales han quedado obsoletas. El pontífice pidió expresamente "la actualización de las leyes de protección de datos vigentes para afrontar los nuevos retos que plantean las tecnologías emergentes y la promoción de estándares éticos para el desarrollo y el uso de la IA". En otras palabras, lo que funcionaba hace cinco años ya no funciona hoy.

La realidad es que la mayoría de las legislaciones sobre protección de datos fueron diseñadas cuando la inteligencia artificial era más ciencia ficción que herramienta cotidiana. Ahora, los algoritmos pueden predecir qué contenido mantendrá enganchado a un niño durante horas, qué anuncios influirán en sus deseos de consumo, qué interacciones sociales potenciarán su autoestima o la destruirán. Las empresas tecnológicas acumulan datos masivos sobre los menores sin que existan controles suficientes. León XIV no pide reflexión: pide acción legislativa inmediata. Los gobiernos deben crear nuevas normas que obliguen a las compañías tecnológicas a cumplir estándares éticos rigurosos, que protejan la privacidad de los menores y que limiten la capacidad de los algoritmos para manipular sus mentes en desarrollo.

 Ni las leyes ni los códigos éticos bastan sin formación constante  

Más allá de gobiernos y empresas, el Papa puso el foco en lo que considera la verdadera solución de fondo: la educación. León XIV afirmó que, además de "elaborar y aplicar códigos éticos", "se requiere un trabajo educativo diario y continuo, realizado por adultos" que haga hincapié "en los riesgos que el uso de la inteligencia artificial y el acceso temprano y sin supervisión pueden suponer para las relaciones y el desarrollo de los menores". El pontífice entiende que la batalla por proteger a los niños no se gana solo con leyes escritas en el papel, sino con conversaciones diarias en casa y en las aulas.

El Papa está pidiendo un cambio cultural profundo. No se trata simplemente de poner filtros parentales o limitar el tiempo de pantalla, aunque eso también sea necesario. Se trata de educar a los menores para que comprendan cómo funcionan las tecnologías que usan a diario. De explicarles por qué una red social les muestra ciertos contenidos y oculta otros, qué intereses hay detrás de cada anuncio personalizado, cómo los algoritmos construyen burbujas de información que pueden aislarles de la realidad. Y para eso, los adultos deben formarse primero. León XIV concluyó con una frase que resume toda su visión: "Solo mediante un enfoque educativo, ético y responsable podremos garantizar que la inteligencia artificial sea una aliada en el crecimiento y desarrollo de los menores, en lugar de una amenaza".