La advertencia de una experta sobre ChatGPT: "Hay que elegir muy bien qué herramientas de IA utilizamos en la empresa"

La Inteligencia Artificial se ha convertido en una tecnología que está marcando el ritmo del cambio en el entorno empresarial. Según Leonor Juiz, responsable de Servicios Informáticos en la Cámara de A Coruña, la IA "está transformando la forma en la que trabajamos, en la que analizamos la información, tomamos decisiones o incluso las empresas nos relacionamos con nuestros clientes". Cada vez existen más herramientas capaces de automatizar tareas, generar contenidos o mejorar procesos internos, pero su rápida adopción plantea importantes dudas sobre seguridad y legalidad.

El principal riesgo de la IA: la confidencialidad

Ante la pregunta de si es recomendable utilizar herramientas como ChatGPT para introducir documentos confidenciales de una empresa, la respuesta de Juiz es tajante: "Pues no, por supuesto que no". La experta subraya la importancia de la prudencia y el control. "Habría que saber y elegir muy bien qué herramientas utilizamos en nuestra empresa, qué procedimientos queremos automatizar, dónde van a acabar esos datos. Cuando se lo facilitamos a un agente de IA, tenemos que saber dónde están guardados, cómo están controlados, hasta dónde van a llegar y qué uso le vamos a dar también dentro de la empresa", ha señalado.

Eduardo Mosqueira, experto en Inteligencia Artificial: "Las IA están diseñadas para hacernos la pelota, si le insistes en que la 'm' es una vocal, te da la razón"

Para Juiz, el problema no reside en la tecnología en sí misma, sino en la falta de supervisión. "La IA está y ha llegado para quedarse, por lo tanto no se trata de decir, todavía no la estoy usando, no, ya está apareciendo. Y el riesgo no es usarla en sí, sino usarla sin control". En este sentido, ha destacado la necesidad de establecer un marco de gobernanza claro. "Necesitamos tener iniciativas controladas, tener un control del dato, tener unas reglas mínimas en la empresa y sobre todo saber y ser conscientes de que sigue siendo responsabilidad humana y hay un cumplimiento legal detrás de todo esto".

Otro de los peligros asociados a una implementación sin control de la inteligencia artificial es el aumento de la exposición a ciberataques. Según la responsable de servicios informáticos de la Cámara, la IA también está jugando un papel importante en "el nivel de avance de los ciberataques, y por por lo tanto, vamos a tener que protegernos".

Formación y un marco legal como solución

La formación se presenta como un pilar fundamental para una adopción segura. Leonor Juiz ha confirmado que es conveniente para una empresa "invertir tiempo, dinero y formación" en tener herramientas adaptadas. "La formación es muy importante para el uso de cualquier tecnología hoy en día, tenemos que saber cuáles son las herramientas autorizadas, tenemos que tener una revisión humana obligatoria y un registro básico de usos críticos", ha afirmado, concluyendo que la formación "debe de ser constante para poder escalar en este tipo de uso de herramientas".

El uso ético es otra de las grandes preocupaciones, especialmente para evitar la proliferación de "deep fakes" y la desinformación. Para Juiz, la clave es "no caer en el uso de los datos fraudulentos, para eso lo que necesitamos son siempre iniciativas controladas". Con un enfoque adecuado, considera que las empresas pueden "asumir la innovación sin riesgos innecesarios", siempre dentro del cumplimiento legal que marcan normativas como el nuevo Reglamento Europeo de Inteligencia Artificial (AI Act).

Santi García, experto en Recursos Humanos: "La IA es particularmente buena detectando patrones para captar talento, que al final es el tipo de información en la que basamos nuestras decisiones de contratar a alguien o no"

Una jornada para implantar la IA 'sin sustos'

Para guiar a las pymes y autónomos en este proceso, la Cámara de Comercio de A Coruña organiza la jornada gratuita "Implantar la IA sin sustos en la empresa". El evento se celebrará este martes, 24 de marzo en el Club Cámara Noroeste a partir de las 9:30h y su objetivo es ofrecer una hoja de ruta clara para una integración exitosa, abordando de manera práctica los principales riesgos y oportunidades de la IA generativa.

La iniciativa cuenta con la participación de dos ponentes de referencia. Por un lado, Víctor Salgado, socio director de Pintos & Salgado Abogados y uno de los principales referentes en derecho TIC en España. Por otro, Fernando Suárez Lorenzo, presidente del Colegio Profesional de Enxeñaría en Informática de Galicia y vocal del consejo consultivo para transformación digital del ministerio de asuntos económicos y transformación digital.

Esta jornada se desarrolla en el marco del Programa Pyme Digital, una iniciativa de la Cámara de España y las Cámaras de Comercio locales, cofinanciada por el Fondo Europeo de Desarrollo Regional (FEDER). La asistencia es gratuita, pero las plazas son limitadas y se requiere inscripción previa a través de la página web de la Cámara de A Coruña.