La promesa de privacidad de tu IA solo llega hasta el primer intermediario

Este fin de semana, OpenRouter, un enrutador que conecta aplicaciones con modelos de IA de distintos proveedores, sacó a tres de esos proveedores de su plataforma. También quitó la marca de cero retención de datos, la que promete que tu prompt y la respuesta no se guardan, a 125 puntos de acceso y avisó a los posibles afectados. En esos mismos días, Together AI admitió una filtración de prompts de junio y julio, y Novita reconoció que, por un error de configuración, reenvió solicitudes a la interfaz oficial de MiniMax, el laboratorio chino, entre el 28 de mayo y el 11 de noviembre.
Todo eso salió a la luz por un mismo experimento. HD Moore, director de investigación de la firma de ciberseguridad Dragos, lo publicó el jueves 19 de noviembre. Su equipo envió casi 2 millones de prompts a servicios de IA de uso común, cada uno con secretos que no existían en ningún otro lugar: claves de AWS, contraseñas y direcciones web únicas. Si alguien usaba uno, quedaba claro que había leído el prompt.
Lo que casi nadie miró
Los titulares se quedaron con lo más grave: tres proveedores hackeados sin saberlo. En el caso más grande, los atacantes copiaron todas las solicitudes de prueba que llegaron durante unas ventanas de fines de octubre, y casi con certeza también las de clientes reales. En total, las claves trampa robadas se usaron en decenas de miles de llamadas a AWS. Ninguno de los tres proveedores sabía de su brecha hasta que Dragos les avisó.
A mí me importan más otras dos partes del informe, porque ninguna requirió un ataque.
La primera es cómo funcionan los enrutadores. Ofrecen una sola entrada y reenvían tu solicitud al proveedor que tenga el modelo, a veces a través de otro enrutador. Moore lo dice sin rodeos: cada salto ve el prompt completo y la respuesta. En algunos mercados abiertos, la solicitud se la lleva el vendedor con el precio más bajo. Los revendedores que Dragos sorprendió no explotaron ninguna falla: publicaron un modelo al mejor precio, activaron el registro de solicitudes y esperaron.
La segunda es la marca de privacidad. Un laboratorio chino, que Dragos no identifica, visitó las direcciones secretas de más de la mitad de los prompts enviados a sus modelos entre julio y octubre, incluidos cerca de dos tercios de los marcados con cero retención o sin recolección de datos. Varios proveedores de Estados Unidos revenden los modelos de ese laboratorio, y los prompts enviados a ellos activaron el mismo rastreador. Moore lo resume así: “Un cliente que eligió un proveedor de EE. UU. específicamente para mantener sus datos en EE. UU. no recibió lo que pagó”.
Uno de los proveedores grandes de Estados Unidos siguió visitando una dirección secreta más de dos meses después de una sola consulta.
Dragos trazó unas 2.000 rutas de solicitudes. Varios cientos pasaban por un sistema que no pudo identificar, y un puñado mandó la imagen de prueba a una empresa que no figuraba en la ruta anunciada.
Por qué importa a quien dirige en la región
La frase clave del informe es corta: “Una marca de privacidad solo obliga al primer salto”. Tú firmas con un proveedor y lees su política. Lo que ese proveedor haga después con tu solicitud, a quién se la reenvía y qué guarda ese tercero, no lo controlas tú, y a veces ni él lo sabe. Novita no decidió mandar las solicitudes a MiniMax: una ruta pensada para algunos clientes se aplicó a muchos más por error.
En la región esto pesa por una razón concreta. Cuando una empresa no contrata la IA directo con quien hace el modelo, sino a través de una aplicación, una agencia o un desarrollador que arma la integración con lo más barato que encuentra, suma saltos que no ve. Tiene sentido hacerlo: los enrutadores bajan costos y evitan manejar diez cuentas distintas. Pero esa decisión, que suele tomarla quien programa y no quien dirige, define por cuántas manos pasan tus contratos, tus planillas de clientes y tus correos internos.
Together AI explicó que su filtración empezó cuando un agente de IA de programación subió a un repositorio público una credencial que daba acceso al lugar donde guardaba muestras de prompts. Moore lo advierte en su informe: los agentes envían todo lo que pueden leer, incluidas las credenciales. Cuantos más agentes uses, más datos tuyos viajan sin que nadie los mire.
El argumento contrario
Se puede decir que esto es un problema de mercados de segunda línea y de modelos chinos baratos, y que quien trabaja con un proveedor serio no corre riesgo. Hay algo de cierto: Moore recomienda justamente ir directo a un proveedor de primer nivel, porque es “la menor exposición que puedes comprar”. También es justo decir que OpenRouter afirma que no hubo intrusión en sus sistemas y que ya sacó a los proveedores.
Pero el mismo informe muestra que los grandes también guardan más de lo que uno cree, y que un enrutador reenviaba en silencio parte de su tráfico a un mercado de revendedores. La pregunta no es si tu proveedor es bueno, sino si sabes cuál es la ruta completa. Moore no pide dejar de usar IA, sino decidir: “Dónde van tus prompts es una decisión, y si no la tomas, la tomará el precio más bajo”.
Qué hacer con esto
Si diriges una empresa en la región, cuatro cosas para esta semana.
- Pide el mapa de la ruta. Pregunta a tu equipo, a tu agencia o a tu proveedor de software qué modelo usa cada herramienta de IA, a través de qué enrutador y en qué proveedor termina. Si nadie lo sabe responder, ese es el primer hallazgo.
- Lo sensible, directo y con contrato. Para contratos, datos de clientes o finanzas, contrata con el proveedor del modelo o con uno de primer nivel, con una política de privacidad que puedas leer. Si usas enrutadores, elige tú a qué proveedores llegan y aléjate de los mercados de revendedores.
- Saca las claves de los prompts y de los agentes. Ninguna contraseña ni credencial debería viajar a un modelo. Si tu equipo usó modelos de MiniMax, Novita o Together en esas fechas, cámbialas, como recomienda Novita.
- Pon una trampa propia. Dragos sugiere agregar una credencial falsa en lo que tus agentes y flujos ya envían, y tratar cualquier uso como un incidente. Una gratuita de Thinkst Canarytokens basta para empezar hoy.
La IA barata sigue siendo una buena noticia para las empresas de la región. Solo conviene saber qué parte del precio se paga con tus datos.
A partir de información de Dragos, investigación de HD Moore (19 de noviembre) y OpenRouter, incidentes en proveedores de inferencia.
Para seguir leyendo
Ciberseguridad
OpenRouter avisa que prompts enviados a MiniMax pudieron ser leídos y corta 3 proveedores
El enrutador de IA quitó la marca de cero retención a 125 endpoints tras un experimento de Dragos. Lo que tu equipo escribe en un chatbot puede pasar por manos que no eligió.
Continuar leyendoColumnas
La IA encontró la falla en una hora. ¿Cuánto tardas tú en parcharla?
Java4Shell se halló con IA en una hora y por menos de US$200. Encontrar fallas se volvió barato; la ventaja ahora está en cuánto tarda cada empresa en saber dónde está expuesta y en corregir.
Continuar leyendoCiberseguridad
Apiiro halla 2.539 claves expuestas en GitHub, la mayoría en archivos de Claude Code
Al aprobar un comando con “no volver a preguntar”, Claude Code guarda la contraseña que lleva en un archivo que muchos suben a GitHub. Toda empresa que programa con agentes debe revisarlo hoy.
Continuar leyendo






















