Boletín

IBM usa fotos de redes sociales para entrenar su IA de reconocimiento facial sin el conocimiento de los usuarios

IBM usa fotos de redes sociales para entrenar su IA de reconocimiento facial sin el conocimiento de los usuarios

Europa Press

Tiempo de lectura: 3' Actualizado 14:14

MADRID, 13 (Portaltic/EP)

La base de datos que usa IBM para el desarrollo de su Inteligencia Artificial (IA) de reconocimiento facial contiene fotografías adquiridas de cuentas de plataformas como Flickr sin el consentimiento ni el conocimiento de sus usuarios.

Un reportaje publicado por NBC News ha expuesto que IBM adquiría fotografías de redes sociales sin que los usuarios tuvieran conocimiento de ello para entrenar sus herramientas de Inteligencia Artificial de reconocimiento facial, en su proyecto de investigación Diversity in Faces, y de acceso limitado a académicos e investigadores.

El pasado enero, IBM lanzó una colección de casi un millón de imágenes que se obtuvieron en plataformas de almacenamiento fotográfico como Flickr, que fueron codificadas y anotadas para poder identificar a los sujetos, como explicó uno de los investigadores de IBM, John R.Smith, en una entrada publicada en el blog de la compañía.

Para crear la base de datos, IBM ha tenido "mucho cuidado en cumplir con los principios de privacidad, lo cual incluye limitar la base de datos Diversity in Faces a anotaciones de imágenes disponibles de forma pública y a que solo puedan acceder a ellas investigadores verificados", como explica la compañía en declaraciones a Europa Press.

NBC News ha tenido acceso a la base de datos donde han sido almacenadas estas fotografías, y se ha puesto en contacto con algunos de los fotógrafos a los que pertenecen muchas de la imágenes registradas, sin que ellos lo supieran.

IBM asegura que "las personas pueden optar a salir de esta base de datos". En una publicación de la compañía sobre privacidad relacionada con este proyecto, explica que aquellos usuarios que quieran eliminar sus fotografías de la base de datos deberán escribir un correo con la 'url' de las imágenes que quieran borrar.

Esta publicación también advierte de que si las imágenes han sido usadas en las investigaciones, no se eliminarán de estas, a pesar de no estar ya presentes en la base de datos.

Por su parte, las investigaciones de NBC señalan que el borrado de imágenes de la base de datos no es tan fácil, puesto que no hay información sobre qué imágenes han sido almacenadas, por lo que no se puede saber quiénes se han visto afectados por esto.

Según el reportaje, un fotógrafo con el que han contactado, que ha preferido permanecer en el anonimato y del que había más de mil fotos en la base de datos de IBM, pidió la eliminación de estas mediante su identificador de usuario y la compañía negó su existencia.

Posteriormente, y tras facilitar el fotógrafo varios enlaces a fotografías concretas, la compañía achacó la inexistencia inicial a un fallo en la indización, y procedió a eliminarlas -como explica en las declaraciones facilitadas-. No obstante, las investigaciones de NBC confirman que todavía hay 1.001 archivos pertenecientes a este profesional almacenadas en la base de datos.

Muchos individuos afectados con los que se ha puesto en contacto NBC, como Donald Halbrook, han declarado no estar de acuerdo con que "se utilicen sin notificación previa y sin la oportunidad de revisar cuáles se incluirían". Sin embargo, otros como Guillaume Boppe están de acuerdo con este proceso y han defendido que "si las imágenes de caras que tomé están ayudando a mejorar la inteligencia artificial, reduciendo la detección falsa y, en última instancia, mejorando la seguridad global, estoy de acuerdo".

IBM usa estas imágenes para mejorar su sistema de reconocimiento facial basado en la IA y, así, reducir el margen de error y hacer que sea una tecnología más justa, ya que como se publicaba en un estudio de 'Gender Shades', esta tecnología tiene un margen de error mayor en las mujeres y en los individuos de raza negra.

En este sentido, IBM "lleva comprometida con la creación de tecnología responsable, justa y en la que se pueda confiar durante más de un siglo y piensa que es fundamental esforzarse por la honestidad y la exactitud en el reconocimiento facial", concluyen las declaraciones de la empresa.

Lo más