Shadow AI
En seguridad, el shadow AI es el uso de herramientas de IA dentro de una organización sin aprobación ni supervisión: personas que pegan datos de la empresa en asistentes públicos, equipos que enchufan modelos no autorizados a sus flujos de trabajo. Es el nuevo canal descontrolado de fuga de datos, y es lo que deja anticuada la vieja idea de la prevención de pérdida de datos.
Cómo funciona
El shadow AI es el shadow IT de la era de la IA: capacidad adoptada por las personas más deprisa de lo que el gobierno interno puede aprobarla. Un analista pega una lista de clientes en un chatbot público para que se la resuma, un desarrollador hace pasar código fuente por un asistente de programación no aprobado, un equipo construye un flujo interno sobre la API de un modelo que nadie de seguridad ha firmado. Cada uno es un intento razonable de sacar el trabajo adelante, y cada uno saca datos fuera de los controles de la organización. Como las herramientas son de consumo y viven en el navegador, no dejan rastro en la vigilancia tradicional, construida para el correo y para la transferencia de ficheros, y por eso la exposición es invisible hasta que algo sale a la luz.
Qué sale mal
Desde el punto de vista de la protección de datos, el fallo es una fuga sin ningún evento de exfiltración que cazar. La información sale por un pegado en una caja de texto, no por un adjunto ni por una subida que un control heredado fuera a inspeccionar. Lo que vemos es que los datos que con más probabilidad se pegan son justo los sensibles (la transcripción de un caso de soporte, un contrato, un trozo de código con secretos dentro), porque es con lo que la gente necesita ayuda. Hay además un riesgo aguas abajo: un modelo o un complemento no autorizados son una parte sin revisar de la AI supply chain, y su propia seguridad es desconocida. La organización no puede proteger lo que no ve, y el shadow AI está fuera de la vista a propósito.
Dónde aparece esto en una auditoría
Evaluamos el shadow AI como un problema de gobierno y de exposición, no como una vulnerabilidad técnica de un sistema concreto. Las preguntas son qué herramientas de IA se están usando (autorizadas o no), qué clases de datos están llegando a ellas, y si los controles (navegador, red, endpoint) pueden siquiera observar el flujo. La clasificación de datos es el punto de partida, porque no se puede restringir lo que no se ha etiquetado. La exposición normativa bajo el EU AI Act se anota cuando aplica. Esto forma parte de cómo evaluamos la exposición por IA no autorizada.