Shadow AI, el riesgo de usar ChatGPT en el trabajo: cómo pueden filtrarse los secretos de las empresas

Black Hat es una de las conferencias de hackers más importantes del mundo. Durante su edición 2026, diversas conferencias advirtieron sobre los riesgos actuales del uso de la inteligencia artificial, además del marketing que las empresas hacen con ellos. Pero más allá de esto, hay riesgos reales y preocupaciones: el ShadowAI es uno de ellos.Se conoce como Shadow AI el uso de herramientas de inteligencia artificial en el trabajo por fuera de la autorización o la supervisión de las áreas de sistemas y seguridad. Puede ser un programador que pega código interno en ChatGPT para encontrar un error, alguien que sube un contrato a Claude para resumirlo o un empleado que le pide a Gemini que analice una planilla con nombres y datos de clientes.El problema puede aparecer incluso si la empresa contrató uno de esos servicios: un empleado puede abrir el mismo chatbot con su cuenta personal y enviar un documento por fuera de los controles que la organización definió para su cuenta de trabajo.Esto es una gran preocupación que ya está ocurriendo en el mundo real. En 2023, ingenieros de Samsung cargaron código interno en ChatGPT, según un memorando al que accedió Bloomberg. La empresa restringió el uso de estas herramientas ante el riesgo de que el material enviado al proveedor pudiera divulgarse. En enero de 2025 hubo una exposición originada en el propio servicio de IA. Investigadores de Wiz encontraron una base de datos de DeepSeek abierta a internet, con registros de conversaciones y claves internas. DeepSeek cerró el acceso tras el aviso.Netskope, una empresa de seguridad, analizó el tráfico de un grupo de sus clientes entre junio de 2025 y julio de 2026: en una organización típica de la muestra, su informe registró 69 intentos semanales de enviar datos a herramientas de IA en contra de las políticas internas, frente a 44 un año antes. Entre los datos que activaron los controles había código fuente, propiedad intelectual e información sujeta a regulaciones. La cifra cuenta intentos detectados por las herramientas de seguridad.Alexandra Mehat es directora global de marketing de producto de Unified SASE (Secure Access Service Edge) en la empresa de ciberseguridad Fortinet, un área enfocada en las tecnologías que utilizan las empresas para conectar y proteger el acceso de empleados, dispositivos y aplicaciones. En diálogo con Clarín, recordó cuál fue la pregunta que más se repitió entre los clientes durante Black Hat, según le contaron sus colegas: “¿Cómo evito que mis empleados envíen información confidencial a ChatGPT?”.Acá, los riesgos del uso de IA generativa dentro de las compañías, el avance de los agentes que acceden a sistemas corporativos y el regreso de algunas empresas a esquemas híbridos, que combinan la nube con infraestructura propia.Los agentes de IA y sus permisos dentro de las empresas─¿Cómo están cambiando los agentes de IA el panorama de la seguridad? Pueden sacarles trabajo de encima a los empleados, pero también pueden tomar una decisión equivocada y, por ejemplo, borrar algo.─Por lo que me contaron mis colegas que estuvieron en Black Hat, todo lo que veían era sobre IA, el futuro y los agentes. Incluso a los que ya trabajaban en IA les costaba entender qué ofrecían algunas empresas. Y cuando la gente se acercaba a nuestro stand, la pregunta que más les hacían era cómo impedir que sus empleados enviaran información confidencial a ChatGPT. También hablamos con empresas que ya usan agentes. Una minera nos dijo que les permite a sus empleados crearlos. Lo que vemos entre los clientes que empiezan a usarlos es que todavía dejan el control final en manos de alguien. Es lo que se conoce como human in the loop. Y muchas de las conversaciones que tenemos hoy siguen siendo sobre poder ver quién usa las herramientas de IA y cómo.─¿Es más difícil saber qué es un agente y qué es un humano, del otro lado?─Nosotros estamos trabajando en cómo autenticar lo que llamamos identidades no humanas. Hay que poder comprobar qué agente es, qué privilegios tiene y a qué puede acceder. La idea es aplicarles a esos agentes los mismos principios de confianza cero que aplicamos a los usuarios humanos. Esa integración con SASE todavía está en desarrollo.─¿Se puede conectar SASE con un servicio como ChatGPT, por ejemplo, a través de una API?─Tenemos una herramienta para proteger las comunicaciones entre agentes y los sistemas a los que se conectan, y también entre modelos de lenguaje. Todavía funciona por separado de SASE. Entre otras cosas, revisa las instrucciones que circulan para detectar intentos de inyección de instrucciones. También permite vigilar cuántos tokens se consumen, que son las unidades con las que se mide el uso del modelo. Si el gasto se dispara, se puede detener la operación y revisar qué está pasando. La idea es incorporar esas funciones a SASE.─¿Pensás que las empresas van a usar modelos de lenguaje más chicos o modelos propios? Hay modelos que responden sobre casi cualquier tema y quizás una organización necesita algo más acotado.─Sí, los modelos privados ya son parte de la conversación. Y eso trajo la pregunta por la soberanía. ¿Dónde están mis datos? ¿Dónde está mi IA? También querés saber dónde quedan los registros de lo que hacen tus usuarios. Si todo se procesa en la nube, hay que saber en qué lugar ocurre y dónde se almacena esa información.─¿Y cuál puede ser una alternativa?─Bueno, una posibilidad es tener la infraestructura de seguridad en el propio centro de datos. Si tu modelo privado también corre ahí, podés mantener en tus instalaciones tanto el modelo como la administración del servicio. Tenés el control de dónde están los datos y de cómo se gestiona el sistema. Estamos viendo que la IA empuja a algunas compañías a buscar ese grado de control. Quieren saber dónde queda la información que usan sus modelos y asegurarse de que se mantenga en el país o en la región que eligieron.“El mundo sigue siendo híbrido”─En los últimos años muchas organizaciones se mudaron a la nube, entre otras cosas, por la flexibilidad que les daba. ¿Qué problemas viste entre las empresas que hicieron ese cambio?─Vimos clientes que volvieron a llevar algunas tareas a su propia infraestructura. A veces es por el costo, que puede crecer muchísimo, y otras veces es por el rendimiento. La nube sigue siendo necesaria. Ahí están el correo, muchas de las aplicaciones con las que trabajamos todos los días y también las herramientas de IA generativa. Yo uso IA generativa todos los días. Si la bloqueás por completo, la gente va a encontrar otra forma de usarla.─¿Cómo es el panorama en la región?─En América Latina, para aplicar controles de seguridad en la nube quizás tengas que enviar el tráfico a Miami y esperar a que vuelva. Algunos clientes probaron ese esquema y nos contaron que tenían problemas de rendimiento. Otros tienen el servicio más cerca y aprovechan la flexibilidad de la nube. Depende de dónde está la infraestructura y de la conexión.─O sea que todavía se usa mucho la infraestructura física, más allá de la nube.─El mundo sigue siendo híbrido. Seguís teniendo oficinas, incluso espacios de trabajo compartido, y sucursales donde todavía hay impresoras. Hay bancos que operan completamente en la nube y otros a los que la gente todavía va a depositar un cheque. En el comercio minorista también tenés locales. Incluso una empresa que trabaja en remoto puede tener una sede. Y la nube misma está en un edificio en alguna parte. Los clientes quieren aplicar las mismas reglas de seguridad en todos esos lugares.─En América Latina las empresas suelen contar con menos recursos que en otros mercados. ¿Qué estás viendo en la región?─En el tipo de acceso seguro con el que trabajo, hay empresas de la región que pueden saltear etapas. Lo vi antes en la telefonía por internet. A las operadoras tradicionales les tocaba incorporar esa tecnología a las redes que ya tenían. En cambio, había empresas nuevas que podían instalar directamente una red preparada para la telefonía por internet. Eso les ahorraba el trabajo de integrar dos sistemas.Hoy tenemos clientes en Estados Unidos y Europa que compraron una herramienta para evitar la salida de información confidencial, otra para controlar el acceso y, a veces, una tercera que duplica funciones de las anteriores. Ahora tienen que hacerlas funcionar juntas. Algunas empresas de América Latina que todavía usan VPN pueden incorporar varias de esas funciones en un mismo sistema, sin pasar por todas esas compras intermedias. También vemos organizaciones que empiezan por conectar sus sucursales y van agregando los controles a medida que los necesitan.─Llevás años en un sector donde era fundamental reunirse cara a cara. Con el trabajo remoto y los agentes que hacen tareas que antes hacían los empleados, ¿qué cambios viste y qué lugar queda para el trato humano?─Me gusta pensarlo a partir de la tarea que queremos resolver. Antes sacabas fotos con una cámara. Ahora podés usar el celular. Cuando trabajaba en telefonía por internet, lo que la gente quería era hacer una llamada. Cambió la tecnología con la que se conectaba. Ahora hay que conectar a alguien con una aplicación en la nube o con un agente de IA. Cada vez hay más aplicaciones, dispositivos y usuarios. El trabajo sigue siendo conectar a la gente y proteger ese acceso, desde cualquier lugar.SL