Entrevistas

Nuria
_
Lloret:
_
“La
_
falta
_
de
_
planificación
_
al
_
implantar
_
IA
_
en
_
las
_
empresas
_
está
_
generando
_
fallos
_
de
_
seguridad”  

480Academy  ·  Big Data  ·  Ciberseguridad  ·  Inteligencia artificial  ·  Transformación digital

La catedrática y experta en gobernanza del dato e IA analiza en esta entrevista Vídeo Tip los riesgos de adoptar esta tecnología sin un mapa de datos ordenado y con seguridad y formación. 

La falta de un mapa de datos y la seguridad. Son dos de los fallos que está arrastrando la implementación de la inteligencia artificial en las empresas, según Nuria Lloret, catedrática en la Universitat Politècnica de València (UPV) y experta en gobernanza del dato e inteligencia artificial. Lloret analiza en esta entrevista Vídeo Tip 480 cómo las organizaciones están implantando las herramientas de IA, qué riesgos están asumiendo y cuál está siendo el impacto del reglamento europeo AI Act.

Nuria Lloret combina la investigación académica con la experiencia empresarial. Dirige el Observatorio de IA y Diversidad, preside la Asociación de Empresas de Tecnología, Consultoría e Innovación de la Comunitat Valenciana y es vicepresidenta de la Asociación de Empresarias y Profesionales de Valencia. Una entrevista grabada aprovechando su participación en el evento ‘IA en acción’, organizado en octubre por Cuatroochenta y Conpas junto a Zoho en València.

 

“Es fundamental que las empresas tomen la iniciativa y digan: esta es mi manera de implantar la IA en mi compañía, esto es lo que quiero que hagan mis trabajadores y formarlos en el uso responsable de esta tecnología.”

Nuria Lloret, catedrática de la UPV y experta en gobernanza del dato e IA

El riesgo de utilizar IA sin un plan

“Las bases de un uso responsable de la IA están en la gobernanza del dato” advierte Nuria Lloret. Para ello es fundamental tener un mapa de datos, ordenado, saber quién puede utilizar esos datos, cómo de actualizados están y para qué son necesarios. Independientemente del tamaño que tenga la empresa, explica la catedrática, es la garantía de que “la IA funcione bien, pero sobre todo de que no suponga un riesgo”.

Y es que, en las empresas, hay equipos y departamentos que están utilizando herramientas de IA por su cuenta, “a veces ni de pago” y “sin tenerlas integradas dentro de los sistemas de seguridad de la empresa”. Ante esta situación, Lloret defiende la necesidad de tener un plan que priorice primero un mapa de datos, después revise la seguridad de los accesos y, por último, decida qué procesos están maduros para integrar la IA y qué herramientas son válidas para esa automatización o digitalización. “La falta de planificación está generando sobre todo fallos de seguridad, que es lo más peligroso”, concluye la catedrática.

Formación para combatir los sesgos

El Reglamento Europeo de Inteligencia Artificial (AI Act) puede ser un aliado para las empresas, según apunta Lloret, para ayudar a planificar la adopción de la IA “de forma segura y responsable”. La normativa establece la obligatoriedad de tener un mapa de datos con los niveles de riesgo, así como impulsar la formación en el uso responsable de la IA.

Precisamente, la formación es, para la catedrática, también directora del Observatorio de IA y Diversidad, la respuesta a otro de los grandes retos que está abriendo el desarrollo de inteligencia artificial, el de hacer frente a los sesgos. Esta tecnología replica los prejuicios, predisposiciones o desviaciones que tienen los datos históricos con los que se han entrenado. Muchos trabajadores no son conscientes de ello. Por eso subraya que “el tema de la IA no es un tema solo tecnológico, es un tema de cultura, de empresa y de negocio”.

“Hay que ir con control, planificar, analizar los riesgos de mi empresa y, si está preparada digitalmente, priorizar el mapa de datos, la ciberseguridad y la formación".

 

Más entrevistas Vídeo Tip