La falta de un mapa de datos y la seguridad. Son dos de los fallos que está arrastrando la implementación de la inteligencia artificial en las empresas, según Nuria Lloret, catedrática en la Universitat Politècnica de València (UPV) y experta en gobernanza del dato e inteligencia artificial. Lloret analiza en esta entrevista Vídeo Tip 480 cómo las organizaciones están implantando las herramientas de IA, qué riesgos están asumiendo y cuál está siendo el impacto del reglamento europeo AI Act.
Nuria Lloret combina la investigación académica con la experiencia empresarial. Dirige el Observatorio de IA y Diversidad, preside la Asociación de Empresas de Tecnología, Consultoría e Innovación de la Comunitat Valenciana y es vicepresidenta de la Asociación de Empresarias y Profesionales de Valencia. Una entrevista grabada aprovechando su participación en el evento ‘IA en acción’, organizado en octubre por Cuatroochenta y Conpas junto a Zoho en València.
El riesgo de utilizar IA sin un plan
“Las bases de un uso responsable de la IA están en la gobernanza del dato” advierte Nuria Lloret. Para ello es fundamental tener un mapa de datos, ordenado, saber quién puede utilizar esos datos, cómo de actualizados están y para qué son necesarios. Independientemente del tamaño que tenga la empresa, explica la catedrática, es la garantía de que “la IA funcione bien, pero sobre todo de que no suponga un riesgo”.
Y es que, en las empresas, hay equipos y departamentos que están utilizando herramientas de IA por su cuenta, “a veces ni de pago” y “sin tenerlas integradas dentro de los sistemas de seguridad de la empresa”. Ante esta situación, Lloret defiende la necesidad de tener un plan que priorice primero un mapa de datos, después revise la seguridad de los accesos y, por último, decida qué procesos están maduros para integrar la IA y qué herramientas son válidas para esa automatización o digitalización. “La falta de planificación está generando sobre todo fallos de seguridad, que es lo más peligroso”, concluye la catedrática.
Formación para combatir los sesgos
El Reglamento Europeo de Inteligencia Artificial (AI Act) puede ser un aliado para las empresas, según apunta Lloret, para ayudar a planificar la adopción de la IA “de forma segura y responsable”. La normativa establece la obligatoriedad de tener un mapa de datos con los niveles de riesgo, así como impulsar la formación en el uso responsable de la IA.
Precisamente, la formación es, para la catedrática, también directora del Observatorio de IA y Diversidad, la respuesta a otro de los grandes retos que está abriendo el desarrollo de inteligencia artificial, el de hacer frente a los sesgos. Esta tecnología replica los prejuicios, predisposiciones o desviaciones que tienen los datos históricos con los que se han entrenado. Muchos trabajadores no son conscientes de ello. Por eso subraya que “el tema de la IA no es un tema solo tecnológico, es un tema de cultura, de empresa y de negocio”.