Suscríbete

Portada · Mundo

Newsom propone que California pueda ordenar el apagado de modelos de IA peligrosos

Por Equipo growclub

El Capitolio del Estado de California, en Sacramento, con su cúpula blanca bajo un cielo azul
Foto: Mackinacbridge / Wikimedia Commons (CC0)

El gobernador de California, Gavin Newsom, presentó el miércoles 18 de noviembre un plan para dar al estado amplios poderes sobre la industria de la inteligencia artificial. La propuesta permitiría a las autoridades ordenar el apagado inmediato de un modelo peligroso en una emergencia, obligaría a las grandes desarrolladoras a someterse a la supervisión permanente de verificadores independientes y daría al estado autoridad para limitar la IA que se usa para crear IA más potente.

Las recomendaciones están en el informe “AI Safety in 2026 and Beyond”, de 85 páginas, que la Agencia de Operaciones de Gobierno de California entregó el 16 de noviembre. Newsom lo presentó en Washington, no en Sacramento, y lo llamó un “documento de acción”: “Ya estoy trabajando con miembros de nuestra Legislatura para presentar los marcos legislativos”, dijo, según Politico. Lo planteó, además, como un modelo “para cómo deberíamos hacerlo a nivel federal”.

Qué poderes pide el estado

El informe propone ampliar la SB 53, la ley de seguridad y transparencia para modelos de frontera que Newsom firmó en 2025. Sus puntos centrales son cuatro:

  • Estándares fijados por el estado. Todas las grandes desarrolladoras deberían cumplir estándares mínimos de seguridad y transparencia definidos por California, no por las propias empresas.
  • Verificadores dentro de los laboratorios. Cada gran desarrolladora quedaría bajo supervisión permanente de organizaciones de verificación independientes con licencia estatal, con acceso completo a personas e información. Si un verificador no puede certificar que un modelo cumple, el estado podría ordenar medidas correctivas, impugnables en tribunales.
  • Tope a la automejora recursiva. Las empresas tendrían que reportar cuánto de su investigación automatizan con IA, y el estado podría limitarla si la considera un riesgo catastrófico.
  • Incidentes en 48 horas. El plazo para reportar la mayoría de los incidentes críticos bajaría de 15 días a 48 horas, y el reporte incluiría intentos de robo de los pesos de un modelo y episodios de pérdida de control.

Sin “botón rojo”, pero con apagado de emergencia

El plan no llega a exigir los llamados “kill switches” (botones de apagado). El informe dice que la idea de un “gran botón rojo” no cubre todos los controles que California debe considerar, según Politico. En su lugar, cada gran desarrolladora debería tener un “protocolo de contención de riesgos”, verificado por terceros, para intervenir en varios niveles: limitar el acceso de usuarios, detener agentes y apagar el modelo si hace falta.

Si el peligro es inminente y la empresa se niega a actuar, el estado podría ordenar un apagado inmediato. La empresa podría recurrir a los tribunales, pero la orden regiría mientras tanto.

Contexto: un giro de Newsom y un choque con Washington

California alberga a dos tercios de las 50 principales empresas de IA del mundo, según el informe; OpenAI, Anthropic y Google tienen allí su sede. OpenAI, Anthropic y Meta enviaron propuestas detalladas a la oficina del gobernador, informó Politico.

El giro es notable: en 2024 Newsom vetó un proyecto de seguridad de IA del entonces senador estatal Scott Wiener, la SB 1047. Ahora culpa al Gobierno federal: “En lugar de proteger al público, Donald Trump se encoge de hombros y deja la regulación de la IA en manos de las propias empresas”, dijo en el comunicado.

Nada de esto es ley aún. Newsom deja el cargo en enero, y su sucesor, el gobernador electo Xavier Becerra, y la Legislatura pueden adoptar o ignorar las recomendaciones.

Qué significa para las empresas de la región

  1. Pregunta a tus proveedores de IA qué harían ante una orden de apagado. Si tu operación depende de un modelo, necesitas un plan B.
  2. Revisa tus contratos. Busca cláusulas sobre suspensión del servicio, aviso previo y continuidad si un regulador interviene.
  3. Prepárate para más transparencia. Los informes que exigiría California te darán información para evaluar a tus proveedores.
  4. Si desarrollas modelos propios, sigue de cerca las definiciones: además de los ingresos, contaría cuánto inviertes en investigación de modelos de frontera.

Qué mirar

Si la Legislatura de California presenta proyectos basados en el informe; qué postura adopta Becerra cuando asuma en enero; cómo responden OpenAI, Anthropic y Google, y si Washington intenta frenar o igualar el plan.

A partir de información de Oficina del gobernador de California (comunicado) y Agencia de Operaciones de Gobierno de California, “AI Safety in 2026 and Beyond”.

Para seguir leyendo

En tu correo

Ver el newsletter

growclub al día

Reportajes, historias y la perspectiva de growclub sobre las noticias más importantes del día.

Herramientas y apps · Guía

Alternativas a ChatGPT para empresas: 5 opciones

Cinco alternativas a ChatGPT para una empresa: Claude, Gemini, Microsoft 365 Copilot, Grok y Perplexity. Cuál encaja según la tarea, el plan de equipo y los datos.

Por Equipo growclub

  • Herramientas y apps · Guía

    ChatGPT vs Claude para empresas: cuál elegir

    Para una empresa, ChatGPT Business encaja con el análisis de planillas y Codex; Claude Team, con documentos largos, proyectos y Claude Code. Los dos dicen que no entrenan con los datos del trabajo.

    Por Equipo growclub

  • Herramientas y apps · Guía

    ChatGPT vs Gemini para empresas: cuál elegir

    Para una empresa que ya trabaja en Google, Gemini vive dentro de Gmail, Docs y Meet. ChatGPT Business se conecta a Google y a Microsoft. Los dos dicen que, por defecto, no entrenan con los datos del plan.

    Por Equipo growclub

  • Herramientas y apps · Guía

    Claude Meetings vs Fireflies vs Otter: cuál conviene

    Tres formas de dejar el acta: Claude Meetings entra a Google Meet; Fireflies y Otter entran también a Zoom y a Teams. El español, el CRM y el entrenamiento no se resuelven igual.

    Por Equipo growclub