Llevamos décadas diciéndole a la gente que no pinche en enlaces sospechosos, que revise el remitente de los correos, que use contraseñas complejas. Y funciona, más o menos, hasta que deja de funcionar. Porque el problema real nunca fue que los usuarios no supieran qué hacer. El problema es que les pedimos que asuman una responsabilidad que no les corresponde.
Con la inteligencia artificial estamos cometiendo exactamente el mismo error. Mientras diseñamos políticas de uso aceptable y organizamos formaciones sobre los riesgos de ChatGPT o Claude, nuestros usuarios instalan addons para Adobe que ya implementan funcionalidades de IA. Y no lo hacen por rebeldes. Lo hacen porque la tecnología se lo permite, porque es sencillo.
Los tres niveles donde falla nuestra arquitectura
Para entender por qué estamos perdiendo esta batalla, hay que mirar más allá de las políticas y centrarse en la arquitectura. Hay tres niveles críticos donde nuestros sistemas actuales fallan estrepitosamente frente a la IA.
Nivel 1: Visibilidad. No puedes proteger lo que no puedes ver. Y ahora mismo, no estamos viendo ni la mitad de lo que ocurre. El 34% de las organizaciones tienen usuarios ejecutando interfaces LLM locales. El 5,5% tiene agentes de IA funcionando en sus instalaciones. ¿Cuántas de esas organizaciones saben que esto está pasando?
Nivel 2: Control de acceso a datos. Este es el fallo más crítico y el menos visible. Las plataformas GenAI permiten crear aplicaciones personalizadas que se conectan directamente con almacenes de datos empresariales. Y en muchos casos, lo están haciendo personas que decidieron experimentar sin pasar por los procesos habituales de TI ni de seguridad.
Nivel 3: Gestión de capacidades autónomas. Y aquí llegamos al verdadero problema. Los agentes de IA autónomos han dejado de ser ciencia ficción. Un agente de IA tiene dos características que deberían hacer saltar todas las alarmas: accede a datos de la organización y ejecuta acciones de forma autónoma.
Cómo debemos diseñar una arquitectura de IA segura
Si el problema es arquitectónico, la solución debe de ser transversal. No se trata de controlar más, sino de diseñar mejor. Y aquí es donde tenemos que dejar de buscar soluciones rápidas y empezar a pensar en transformaciones estructurales.
El primer paso es implementar sistemas de descubrimiento continuo que detecten automáticamente cualquier uso de IA en la organización. No podemos proteger lo que no conocemos, y los inventarios manuales quedan obsoletos en semanas. Pero más importante aún es adoptar una arquitectura de Zero Trust donde la DLP contextual se convierte en la pieza angular. Necesitamos verificar no solo quién accede a los datos, sino qué hace cada aplicación o agente con ellos, implementando controles a nivel de API que entiendan el contexto de cada solicitud.
La trazabilidad se vuelve esencial cuando permitimos decisiones autónomas. Todo esto debe facilitarse mediante plataformas gestionadas que hagan que usar la opción segura sea más fácil que montar algo improvisado. La formación sigue siendo importante, pero debe enfocarse en trabajar directamente con quienes están construyendo cosas con IA, cambiando el mensaje de "no uses esto" a "aquí tienes una forma mejor".
