Un juez advierte sobre los límites de la IA en la Justicia: “Existe una labor que es ineludiblemente humana”

La polémica sobre el uso de la inteligencia artificial en el ámbito laboral ha llegado al mundo de la justicia. Por primera vez, un magistrado se enfrenta a una investigación del Consejo General del Poder Judicial (CGPJ) por haber utilizado esta tecnología en sus resoluciones. El caso ha tenido lugar en el juzgado de instrucción número 5 de Ceuta, donde tanto la fiscalía como el juez habrían empleado una doctrina del Supremo inexistente, creada por una IA.

Según el abogado Rashid Mohammed Humu, fue la fiscalía la primera en recurrir a la inteligencia artificial, identificando la falsa doctrina con número, año y fecha correctos. El problema se agravó cuando el juez incorporó esta doctrina sin verificarla y la convirtió en el fundamento principal de su decisión para inadmitir el recurso que había presentado el letrado. Para analizar esta situación, el programa 'Mediodía COPE', con Pilar García de la Granja, ha entrevistado a Gerard Barrera, magistrado de la sección penal del tribunal de instancia de Tarragona.

TE PUEDE INTERESAR

Investigadores entrenan una IA y esta empieza a crear ideas preocupantes: "Los humanos deberían ser esclavizados por la IA"

Un sistema de 'alto riesgo' no apto para decidir

Gerard Barrera ha explicado que el marco normativo actual ya contempla el uso de la IA en la justicia. Un reglamento de la Unión Europea la define como un sistema de alto riesgo por el impacto que puede tener en los derechos fundamentales y en decisiones críticas. Además, una política del comité técnico estatal de la administración de justicia "prohíbe tajantemente usar aplicaciones de inteligencia artificial que no hayan sido previamente autorizadas" para la toma de decisiones del ámbito jurisdiccional.

Esta normativa establece algunas excepciones para tareas como la traducción, la generación de informes o la elaboración de resúmenes de textos. Sin embargo, Barrera ha sido claro al señalar que estas herramientas no deben emplearse en ningún caso para la toma de decisiones judiciales, un criterio que considera exigible para todos los operadores jurídicos, ya sean "jueces, fiscales o abogados", quienes están "sujetos a la misma regla".

El inevitable papel de la IA

Pese a las limitaciones, el magistrado ha reconocido que la IA es una realidad ineludible. "La inteligencia artificial está a la orden del día, es actualmente la cumbre de la cuarta revolución industrial y no tiene ningún sentido negar la mayor", ha afirmado. En su opinión, "su uso es inevitable en todos los sectores, y evidentemente, también en el jurisdiccional puede tener su papel".

Su uso es inevitable en todos los sectores"

Gerard Barrera

Magistrado de la sección penal del tribunal de instancia de Tarragona

Sin embargo, Barrera ha trazado una línea clara para diferenciar en qué no debe ayudar esta tecnología. "Existe una labor que es ineludiblemente humana, que es la de tomar la decisión y la de motivar, razonar, argumentar el porqué de esa decisión", ha subrayado. Es en ese proceso, ha añadido, donde los profesionales aportan "ese valor añadido, ese plus humano" que una máquina no puede suplir.

Existe una labor que es ineludiblemente humana, que es la de tomar la decisión y la de motivar"

Gerard Barrera

Magistrado de la sección penal del tribunal de instancia de Tarragona

El verdadero potencial de la inteligencia artificial en la justicia, según el experto, reside en su versatilidad para tareas más periféricas. Entre sus aplicaciones, ha destacado su capacidad para "sistematizar cantidades ingentes de datos", "extraer datos claves de documentos", formular resúmenes o cohesionar textos, optimizando así el trabajo de los profesionales del derecho.