• Lunes, 20 de mayo 2024
  • ABC

COPE

Noticias

¿Elegiría una Inteligencia Artificial destruir a la humanidad para salvar el medio ambiente?

Juan Diego Polo, experto en nuevas tecnologías, explica en La Linterna si una IA podría desarrollar una consciencia similar a la de las personas

¿Elegiría una Inteligencia Artificial destruir a la humanidad para salvar el medio ambiente?
Paco Delgado
@Delgado_LPacoRedactor de COPE

Tiempo de lectura: 3'Actualizado 14:55

Aprender cosas y relacionarlas sobre la marcha con conceptos que ya conocemos es algo que solo los humanos somos capaces de hacer. En los años 80, un grupo de filósofos y científicos señaló que esta capacidad humana era una barrera insalvable para la inteligencia artificial. Sin embargo, 43 años después, dos investigadores aseguran haber sorteado esta barrera.

Un grupo de investigadores de la Universidad de Nueva York y de la Pompeu Fabra, en Barcelona, han publicado esta semana en la revista Nature una investigación que pone en entredicho la idea asentada de que las redes neuronales no son modelos viables de imitación. Y sus conclusiones arrojan una pregunta: ¿son las máquinas capaces de pensar y razonar igual que los humanos?

Juan Diego Polo, experto en nuevas tecnologías, explica en La Linterna que “la Inteligencia Artificial sí puede relacionar conceptos porque, al haber sido entrenada con esos conceptos y con las relaciones de dichos conceptos, le puedes preguntar a la IA: 'perdona, ¿paseo lo relacionas con verano o con invierno?' Y te dirá 'con verano, porque verano lo tengo relacionado con tiempo libre, tiempo libre con vacaciones y vacaciones con verano, de la misma manera que nosotros lo hacemos”.

ctv-nwa-imgenes-web-19



Así, el experto ponía un ejemplo: Cuando un niño pequeño aprende a esquivar un obstáculo, el cerebro tarda muy poco en entender cómo esquivar hacia un lado, hacia atrás o dando un rodeo. Es la habilidad humana de aprender conectando conceptos ya conocidos. Ahora estos investigadores aseguran haber dado con un sistema que es capaz de replicar ese aprendizaje. Hasta este momento, la tecnología lo que hacía, por ejemplo, cuando le dabas la foto de un perro, era comparar esa foto con miles de imágenes parecidas para concluir que, efectivamente, era un perro. Pero no entendía nada, símplemente memorizaba.

Por lo tanto, surge otra pregunta, ¿puede la inteligencia artificial entender como hacemos los humanos o lo que hace es engañarnos cada vez mejor para que pensemos que razonan como nosotros? “De momento, a este nivel, lo único que hacen es engañarnos para que pensemos que tienen conciencia, pero hoy por hoy no es posible, no digo que en 50 años no adquieran conciencia, pero para eso los humanos debemos saber qué es la conciencia”, comentaba Polo a Expósito en COPE.

ctv-p0c-imgenes-web-17



¿Realmente adquieren las IA inteligencia humana?

  • Left6:No existe configuración de publicidad para el slot solicitado

Para comprobar la efectividad de este avance, los investigadores han llevado a cabo un experimento con personas a las que se les pedía aprender el significado de varias palabras y generalizarlo para llevar a cabo instrucciones más complejas. Y los resultados, la verdad, son sorprendentes: Las personas fueron capaces de realizar una generalización correcta en el 80% de los casos, mientras que la Inteligencia Artificial lograba entre el 90 y el 92% de acierto.

Así, advierte Polo que es poco probable que generemos conciencia en la IA: “¿Puede ser que nosotros no sepamos lo que es la conciencia y que, sin querer, construyamos una máquina que se hace consciente debido a nuestra ignorancia? Podría ser, la probabilidad es del 0,0001% pero, hoy por hoy, las máquinas son muy buena en engañarnos, pero no serán conscientes a corto plazo”

Sam Altam, creador de Open AI, lleva tiempo avisando que el siguiente paso de esta tecnología sería inyectarle valores humanos. Por lo tanto, al director de La Linterna le surge una pregunta: “¿Cómo controlamos el avance de esta tecnología para que no se nos vaya de las manos?






¿Eliminaría una IA a la humanidad para salvar el medio ambiente?

Según Polo, si crean un sistema de Inteligencia Artificial y le dan “el poder de tomar decisiones con botones que activan bombas y le decimos '¿qué crees que es mejor para el medio ambiente?' Es posible que una de las respuestas sea eliminar la humanidad”, comenta en los micrófonos de COPE. No obstante, matiza, “de ahí a que nosotros como humanos le demos tanto poder a un ordenador como para conectarlo a herramientas de destrucción masiva... Para eso existe la regulación, debemos regular la IA para que los sistemas que nosotros creamos no tengan la posibilidad de liarla parda”, tranquiliza.

El avance de estos investigadores es innegable. Su trabajo es la diferencia entre memorizar la solución a un problema matemático, y entender los conceptos para dar con la respuesta. Pero está claro que esto necesita una regulación importante para que esta tecnología no caiga en las manos equivocadas. “Y parece obvio que la inteligencia artificial está avanzando más rápido que la legislación prevista para ella”, concluye el director de La Linterna.

Radio en directo COPE
  • item no encontrado

En directo

Directo Herrera en COPE

Herrera en COPE

Con Carlos Herrera

Escuchar