Fireworks AI confirma un segundo ataque que expuso datos de clientes y partes de modelos

Fireworks AI, una plataforma estadounidense que ejecuta modelos de inteligencia artificial para otras empresas, confirmó que sufrió dos intrusiones en octubre y que el daño es mayor de lo que había informado. En una actualización publicada el lunes 9 de noviembre, la empresa dijo que quedaron expuestos datos de cuentas y de facturación y, en un grupo acotado de clientes, claves guardadas, conjuntos de datos y modelos sin terminar.

Fireworks atribuye los ataques a un grupo criminal con fines económicos que vende acceso a modelos de IA obtenido sin autorización, una práctica conocida como “LLMjacking”: en general, los atacantes usan cuentas ajenas para consumir cómputo y la víctima paga la cuenta. La empresa avisó a las autoridades y contrató a Unit 42, el equipo de investigación de Palo Alto Networks, para el análisis forense.

Dos ataques en tres semanas

El primer incidente se detectó el 6 de octubre, cuando alguien usó credenciales internas sin autorización. En ese caso, para algunas cuentas quedaron expuestas variables de trabajos de evaluación que incluían claves de acceso a otros servicios, según el boletín de la empresa.

El segundo llegó por un proveedor. El 23 de octubre, una empresa de nube que alojaba las máquinas de investigación y desarrollo de Fireworks sufrió su propia brecha, y al día siguiente el atacante usó ese acceso para correr un trabajo no autorizado en esas máquinas. Ahí se vieron afectados datos de clientes, entre ellos parte de los pesos de modelos sin terminar y conjuntos de datos, explicó la empresa.

Fireworks dice que no guarda números de tarjetas de pago, que no detectó daño en sus servicios de inferencia y entrenamiento, y que desde el 25 de octubre no encontró nuevos accesos a la plataforma que usan los clientes. No ha dicho cuántos clientes resultaron afectados.

El efecto en cadena

La empresa tiene unos 10.000 clientes empresariales, entre ellos Uber, Shopify y DoorDash, según Forbes, que además informó que dos clientes ya trasladaron buena parte de su trabajo fuera de Fireworks.

El caso muestra cómo un proveedor que el usuario final no ve puede exponer sus datos. Notion, la aplicación de notas y documentos, confirmó que el incidente expuso conversaciones con Notion AI de menos del 1% de los espacios de trabajo de sus clientes, sin que sus propios sistemas fueran vulnerados, porque usaba a Fireworks para su función Insights, que desactivó. Notion recomendó cambiar contraseñas y claves que se hayan pegado en Notion AI durante esas fechas, informó Cybersecurity News.

Mientras sigue la investigación, Fireworks revocó y reemplazó credenciales, quitó permisos elevados innecesarios y desactivó la carga y descarga de conjuntos de datos por cuenta propia.

Qué significa para las empresas de la región

Tu empresa quizás nunca contrató a Fireworks, pero puede que tus herramientas sí. Cuatro acciones:

1. Arma el mapa de proveedores de IA. Pide a cada software que usas que diga qué empresas de modelos procesan tus datos.
2. Saca las claves de los textos. Nadie debería pegar contraseñas o claves de acceso en un chat de IA. Si pasó, cámbialas.
3. Vigila el consumo. El “LLMjacking” se nota en la factura: pon alertas de gasto en tus cuentas de IA y en la nube.
4. Exige aviso por contrato. Pide plazos claros para que tus proveedores te informen de un incidente y de los terceros que usan.

Qué mirar

Si Fireworks informa cuántos clientes resultaron afectados, qué otras aplicaciones confirman exposición como Notion, quién es el proveedor de nube por el que entró el atacante y si las autoridades identifican al grupo detrás del robo de acceso a modelos.

A partir de información de Fireworks AI (actualización del incidente de octubre) y Fireworks AI (boletín del incidente de octubre).