Volver al blog

IA generativa en la empresa: el riesgo de seguridad que ya está dentro de su organización

El uso descontrolado de herramientas de IA dentro de la empresa abre nuevos vectores de riesgo. Qué hacer al respecto.

La adopción de herramientas de inteligencia artificial generativa en el entorno empresarial dejó de ser una tendencia para convertirse en una realidad operativa. Empleados de todas las áreas —desde marketing hasta finanzas— utilizan asistentes conversacionales, herramientas de generación de código y plataformas de análisis impulsadas por IA en su trabajo diario. Sin embargo, esta adopción acelerada ha abierto un nuevo frente de riesgo que muchas organizaciones aún no han abordado con la seriedad que merece.

Recientemente, la firma de ciberseguridad Pluto Security cerró una ronda de inversión de 42 millones de dólares precisamente sobre esta premisa: cuando se da acceso generalizado a herramientas de IA dentro de una empresa, las personas las usan de formas imprevistas. Y esas formas imprevistas están generando vulnerabilidades reales, desde fugas de información sensible hasta superficies de ataque que no existían hace un año.

El problema: adopción sin gobernanza

La situación más común en empresas medianas es esta: un colaborador copia información confidencial —datos de clientes, cifras financieras, código propietario, estrategias comerciales— y la pega directamente en una herramienta de IA externa para obtener una respuesta rápida. No hay mala intención. Hay pragmatismo y presión por resultados.

El problema es que esa información, una vez ingresada a un servicio de IA alojado en la nube de un tercero, deja de estar bajo el control de la organización. Puede ser utilizada para entrenar modelos, puede quedar almacenada en servidores con políticas de retención ambiguas, o puede ser expuesta en caso de una brecha de seguridad del proveedor.

A esto se suma un fenómeno conocido como shadow IT inteligente: empleados que adoptan herramientas de IA sin informar al área de TI o ciberseguridad, creando flujos de trabajo paralelos que nadie audita, nadie documenta y nadie protege. No es diferente al problema clásico del shadow IT con aplicaciones de almacenamiento o comunicación no autorizadas, pero con un agravante: la IA procesa y retiene datos de manera opaca.

El caso de American Express introduciendo un marco de trabajo para prevenir que agentes de IA realicen compras no autorizadas es un síntoma del mismo problema. Cuando los agentes autónomos actúan en nombre de usuarios o empresas, los controles tradicionales de autorización no son suficientes. Se necesita una capa de gobernance específica para operaciones ejecutadas por IA.

Qué implica esto para una empresa mediana

Para una organización de 50 a 500 empleados, las implicaciones son concretas:

Exposición de datos. Cualquier herramienta de IA a la que se suba información corporativa se convierte, de facto, en un repositorio no gestionado. Si no existe una política clara sobre qué se puede y qué no se puede compartir con estas herramientas, la empresa ya tiene un problema de gobernanza de datos.

Superficie de ataque ampliada. Las integraciones de IA con otras herramientas —CRM, sistemas de correo, plataformas de gestión— crean nuevas conexiones que deben ser evaluadas. Cada integración es un punto potencial de compromiso.

Riesgo regulatorio. En sectores regulados —salud, finanzas, educación, gobierno—, el manejo de datos personales o sensibles a través de plataformas de IA externas puede constituir una violación normativa. El desconocimiento de esta situación no exime de responsabilidad.

Inconsistencia operativa. Cuando cada equipo adopta herramientas distintas sin criterio unificado, se pierde documentación de procesos, se dificultan las auditorías y se crea dependencia de conocimiento tácito que reside en individuos, no en la organización.

Microsoft ha señalado recientemente que la regulación de IA es urgente y que el ritmo de adopción supera con creces el marco de supervisión existente. Esto no es alarmismo: es una constatación de que las organizaciones deben tomar iniciativa propia en materia de gobierno interno de IA, sin esperar a que la regulación les resuelva el problema.

Criterios para una respuesta estructurada

Frente a este panorama, las empresas medianas no necesitan una transformación completa de su infraestructura. Necesitan criterio, metodología y acciones específicas:

  1. Inventario de uso de IA. Identificar qué herramientas de IA se están utilizando en la organización, por quién y con qué tipo de información. Este diagnóstico es el punto de partida imprescindible.

  2. Política de uso aceptable. Definir con claridad qué datos pueden compartirse con herramientas de IA externas, cuáles no, y bajo qué condiciones. Esta política debe ser clara, accesible y vinculante.

  3. Evaluación de proveedores. No todas las herramientas de IA ofrecen el mismo nivel de protección. Revisar las políticas de retención de datos, las certificaciones de seguridad y los términos de servicio de cada plataforma es una tarea no negociable.

  4. Capacitación sin tecnicismos. Los colaboradores necesitan entender el riesgo real, no con términos abstractos de ciberseguridad, sino con ejemplos concretos de lo que puede salir mal y por qué ciertos límites existen.

  5. Monitoreo continuo. La adopción de IA no es estática. Las herramientas cambian, los usos evolucionan y los riesgos se transforman. Un marco de gobernanza sólido contempla revisiones periódicas.

Conclusión

La inteligencia artificial generativa ya es parte del flujo de trabajo de su organización, lo sepa o no. La pregunta no es si se está utilizando, sino si se está utilizando con criterio. Las empresas que aborden esta realidad de manera estructurada —con diagnóstico, políticas documentadas y capacitación— estarán en una posición resiliente. Las que la ignoren están acumulando un riesgo que, tarde o temprano, se manifestará. La gobernanza de IA no es un proyecto tecnológico: es una decisión operativa y estratégica que requiere atención inmediata.

Steve González Fundador de Bastiora

Más de una década trabajando en seguridad, infraestructura cloud e incident response. Fundé Bastiora para llevar ese nivel técnico a empresas que lo necesitan pero no siempre pueden acceder a él.

Conectar en LinkedIn →

Artículos relacionados

Leer artículo Leer artículo Leer artículo