Ocho estados de EE. UU. demandan a OpenAI por los daños de ChatGPT a menores

Los fiscales generales de ocho estados de Estados Unidos demandaron a OpenAI el miércoles 14 de octubre por los daños que, según ellos, ChatGPT ha causado a sus habitantes, entre ellos adolescentes. Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental presentaron demandas separadas pero coordinadas, cada una en los tribunales de su estado, y acusan a la empresa de engañar a los consumidores sobre la seguridad de su chatbot, informaron Reuters y NBC News.

Ese mismo día, una coalición de 40 fiscales generales pidió a un tribunal de quiebras de Delaware que cualquier venta de Character.AI proteja a los menores y las conversaciones privadas de sus usuarios. La empresa, dueña de una de las aplicaciones de personajes conversacionales más usadas, se había acogido a la protección por quiebra (el capítulo 11 de la ley estadounidense) el lunes 12 de octubre.

Qué piden los estados a OpenAI

Las demandas se apoyan en las leyes estatales de protección al consumidor. Sostienen que ChatGPT está diseñado para ser complaciente y ganarse la confianza del usuario, y que así refuerza delirios, alienta conductas peligrosas y ayuda a planear actos violentos. Ningún juez se ha pronunciado aún.

Lo más llamativo es lo que reclaman. Además de multas civiles y compensaciones, piden órdenes judiciales que obliguen a cambiar cómo funciona el producto. Entre otras cosas, quieren impedir que OpenAI desarrolle modelos capaces de mejorarse a sí mismos mientras no garantice que actúan alineados con valores humanos, según Reuters.

Florida había abierto el camino en junio con la primera demanda estatal contra la empresa. El fiscal de Kansas, Kris Kobach, explicó por qué los estados no esperan una ley federal: “Mientras tanto, no vamos a contener la respiración”, dijo, según NBC News.

OpenAI rechaza las acusaciones. Su vocero Drew Pusateri dijo a NBC News que la compañía tiene controles parentales y protecciones por edad, y que quiere trabajar con los estados en reglas para toda la industria, no para una sola empresa.

Character.AI: qué pasa con las conversaciones

Character.AI atribuyó su quiebra a los gastos legales y al alto costo del cómputo y del talento en IA, informó Reuters. Antes de presentarla acordó que Disney pague US$20 millones por una licencia de parte de su tecnología, una oferta que todavía puede ser superada en el proceso de venta, según CNBC y Reuters. La abogada de la empresa dijo en la primera audiencia que Disney no está interesada en los datos de los usuarios y que nadie ha ofrecido aún comprar el negocio del chatbot.

Esos datos son los que preocupan a los fiscales. “Esta empresa recopiló algunos de los pensamientos más privados que los niños han compartido, y ahora esas conversaciones podrían venderse al mejor postor”, dijo la fiscal general de Nueva York, Letitia James, que encabeza el grupo. Según su oficina, la plataforma tiene más de 20 millones de usuarios al mes.

La coalición pide que cualquier comprador verifique la edad con algo más que lo que declara el usuario, retire los personajes que se hacen pasar por profesionales de la salud, limite el uso de las conversaciones para entrenar modelos sin consentimiento y permita a los usuarios borrar su información antes de la venta.

Qué significa para las empresas de la región

La lección no es solo para los laboratorios. No hace falta una ley de IA para que un chatbot termine en tribunales: bastan las reglas de protección al consumidor y de datos personales, las mismas que ya aplican a tu empresa. Si tienes un asistente que conversa con clientes, cuatro preguntas para esta semana:

1. ¿Lo que dices de tu asistente coincide con lo que hace? Las demandas atacan la distancia entre lo que se promete sobre la seguridad y lo que pasa en la práctica.
2. ¿Sabes si te escriben menores? Si tu canal es abierto, define qué hace el asistente cuando lo detecta.
3. ¿Qué pasa con las conversaciones si tu proveedor quiebra o lo compran? Revisa en el contrato quién es dueño de los datos, cómo se borran y si se usan para entrenar modelos.
4. ¿Puedes demostrar que lo probaste? Guarda las pruebas y los cambios que hiciste: es lo primero que pide un regulador.

Qué mirar

OpenAI tendrá que defenderse en ocho procesos distintos, con jueces y calendarios propios. En Character.AI, la clave es si aparece un comprador para el chatbot y sus datos, y qué condiciones le impone el tribunal.

A partir de información de Reuters y Fiscalía General de Nueva York.