El problema que nadie quiere ver

La adopción de inteligencia artificial en entornos empresariales ha avanzado mucho más rápido que las políticas para gestionarla. En muchas organizaciones, los empleados ya usan herramientas de IA con datos de trabajo, sin que exista ninguna política que lo regule ni ningún control técnico que lo supervise.

El riesgo no es hipotético: datos de clientes, información financiera, propiedad intelectual y borradores de contratos han llegado a modelos de IA en la nube sin que las organizaciones lo supieran ni lo autorizaran. Las consecuencias pueden incluir brechas de datos personales notificables bajo el RGPD, pérdida de información confidencial o incumplimiento de acuerdos de confidencialidad.

Cómo se filtran los datos a través de la IA

Los vectores de fuga de información más frecuentes en el uso empresarial de IA son:

  • Herramientas de IA en la nube sin política de uso corporativa: cuando los empleados usan versiones gratuitas o personales de herramientas de IA con datos de trabajo, esos datos pueden usarse para entrenar modelos o quedar almacenados en servidores de terceros.
  • IA integrada en herramientas de productividad: funciones de IA integradas en suites ofimáticas, gestores de correo o CRMs pueden enviar datos a servicios externos sin que el usuario sea consciente de ello.
  • Uso de APIs de LLMs sin acuerdos de procesamiento: equipos técnicos que integran APIs de modelos de lenguaje sin haber formalizado los términos de uso de datos ni revisado las políticas de retención del proveedor.
  • Agentes de IA con acceso excesivo: sistemas diseñados con permisos más amplios de los necesarios, que pueden acceder a información que no se requiere para la tarea que realizan.

Medidas técnicas

Los controles técnicos para reducir el riesgo de fuga de datos a través de IA incluyen:

  • Inventario de herramientas de IA en uso: antes de controlar el acceso, es necesario saber qué herramientas usa realmente el equipo. Muchas organizaciones se llevan sorpresas al hacer este inventario.
  • DLP específico para IA: algunos proveedores de DLP (Data Loss Prevention) ofrecen ya reglas para detectar envíos de datos a endpoints de IA conocidos. Es una primera capa útil, aunque no infalible.
  • Versiones empresariales con garantías contractuales: la diferencia entre usar la versión gratuita de una herramienta de IA y la versión enterprise con acuerdo de procesamiento de datos es significativa desde el punto de vista del RGPD y la confidencialidad.
  • Modelos locales o en infraestructura controlada: para casos de uso con datos especialmente sensibles, los modelos locales o desplegados en la infraestructura propia eliminan la dependencia de terceros externos.
  • Clasificación de la información: si los datos están correctamente clasificados (público, interno, confidencial), es posible establecer reglas de uso que impidan compartir información de alta clasificación con herramientas externas.

Medidas organizativas

Los controles técnicos solos no son suficientes si no están respaldados por medidas organizativas:

  • Política de uso de IA: un documento claro que especifique qué herramientas están autorizadas, bajo qué condiciones y qué tipos de datos pueden usarse con ellas. Debe ser accesible, comprensible y actualizado periódicamente.
  • Formación del equipo: la mayoría de los incidentes de fuga de datos a través de IA no son maliciosos, son consecuencia de que los empleados no entienden los riesgos. La formación específica en uso seguro de IA es una inversión de bajo coste y alto impacto.
  • Proceso de aprobación para nuevas herramientas: cualquier herramienta de IA que vaya a usarse con datos corporativos debería pasar por una revisión mínima antes de su adopción.
  • Gestión de proveedores: los proveedores que usan IA para prestar sus servicios deben evaluarse bajo los mismos criterios que cualquier otro subencargado de tratamiento bajo el RGPD.

El marco de gobierno de IA

Para organizaciones que están adoptando IA de forma más sistemática, la gestión de riesgos aislada no es suficiente. Se necesita un marco de gobierno que defina:

  • Quién toma las decisiones sobre adopción de IA y con qué criterios
  • Cómo se evalúan los riesgos de cada caso de uso
  • Qué datos pueden usarse con qué tipo de herramienta
  • Cómo se monitoriza el comportamiento de los sistemas de IA en producción
  • Cómo se gestiona el ciclo de vida de los modelos y sus actualizaciones

El AI Act europeo añade una capa regulatoria adicional para determinados usos de IA clasificados como de alto riesgo. Aunque su aplicación plena es gradual, las organizaciones que operan en los sectores afectados deben incorporarlo en su planificación.

Empezar por lo más sencillo

No es necesario resolver todos los problemas a la vez. El punto de partida más sensato para la mayoría de las organizaciones es hacer un inventario de las herramientas de IA en uso, aprobar o rechazar cada una con criterio documentado, y comunicar a los equipos qué está permitido y qué no. Ese proceso lleva semanas, no meses, y tiene un impacto inmediato en la reducción del riesgo.

Construir sobre esa base un marco de gobierno más completo es un proceso iterativo. Lo importante es no dejarlo para después: el uso de IA ya está ocurriendo, con o sin política.