Macron suma a ocho países, OpenAI y Anthropic a un pacto para evaluar la IA más potente

El presidente de Francia, Emmanuel Macron, reunió el lunes 9 de noviembre en París a gobiernos, organismos internacionales y empresas de inteligencia artificial para firmar el “Llamamiento de París por la seguridad de la inteligencia artificial”. El texto busca que los modelos más avanzados se evalúen en forma independiente, que los incidentes graves se avisen a tiempo y que quede claro quién responde por los daños, informaron las agencias EFE y dpa.

Según EFE, participaron jefes de Estado o de Gobierno de Baréin, Canadá, Finlandia, Japón, Noruega, Países Bajos, Reino Unido y Sierra Leona, el secretario del Tesoro de Estados Unidos, Scott Bessent, y representantes de la ONU y la OCDE. También directivos de siete empresas, presencialmente o por videoconferencia, entre ellos Sam Altman, de OpenAI; Dario Amodei, de Anthropic, y Arthur Mensch, de Mistral AI, además del investigador Yoshua Bengio. La agencia dpa sumó a Brad Smith, presidente de Microsoft, y contó cerca de 50 participantes. Le Monde informó que el texto lo firmaron ocho países, Altman, Amodei y Mensch. Ningún país de América Latina estuvo entre los asistentes.

Qué dice el llamamiento

Según EFE, los firmantes acordaron un marco común para evaluar y gestionar los riesgos de la IA más avanzada, centrado en dos tipos de amenazas: el uso malicioso, como los ciberataques y las armas nucleares, radiológicas, biológicas y químicas, y la pérdida de control de los sistemas. Los resultados no sensibles de esas evaluaciones se publicarán en formatos estándar, en un repositorio público. Le Monde destacó la propuesta de estándares comunes para clasificar los incidentes de IA.

Los desarrolladores se comprometen a informar públicamente sobre las capacidades, los límites y los riesgos de sus modelos, a facilitar evaluaciones de expertos independientes, a contar con mecanismos para interrumpir sus sistemas y a reforzar su supervisión interna. Los gobiernos, por su parte, habilitarán canales seguros y confidenciales para quienes denuncien riesgos, reforzarán las alertas tempranas y la notificación de incidentes graves, y estudiarán un mecanismo de cooperación internacional. Los responsables políticos deberán aclarar quién responde por daños a gran escala, incluidos los que cruzan fronteras.

“El diagnóstico es compartido. Hay que actuar juntos”, dijo Macron, que advirtió sobre “riesgos reales para nuestra seguridad colectiva”. Según dpa, el presidente francés dijo que los detalles de la iniciativa aún no se han anunciado.

Los menores, el siguiente frente

En una entrevista con el diario Les Echos publicada el mismo día, Macron dijo que si ciertos usos de la IA ponen en riesgo a los niños, hay que prohibirlos. Según EFE, anunció que empresas como OpenAI y Anthropic se comprometerán a someter sus modelos a evaluaciones independientes antes de ponerlos a disposición de menores.

La protección de la infancia frente a la IA será uno de los ejes del Foro de París por la Paz, que abre este martes su novena edición. Los ministros de Relaciones Exteriores del G7 también se reúnen en París el lunes y el martes, con la IA entre sus temas centrales.

Qué significa para las empresas de la región

1. ¿Tu proveedor de IA publica sus evaluaciones? Si los grandes laboratorios empiezan a publicar resultados en formatos comunes, pídelos en tus licitaciones y compáralos.
2. ¿Sabes qué hace tu proveedor si su modelo falla? El llamamiento pide mecanismos para detener los sistemas y avisar de incidentes graves. Incluye en tu contrato cuándo y cómo te avisarán.
3. ¿Tus productos llegan a menores? Si usas IA en educación, entretenimiento o atención a clientes jóvenes, prepárate para exigencias de evaluación previa como las que propone Francia.
4. ¿Quién representa a la región en estas mesas? Ningún gobierno latinoamericano estuvo en París. Las reglas que se fijen ahí llegarán igual a través de los proveedores: sigue el tema con tu gremio.

Qué mirar

El texto completo del llamamiento y la lista oficial de firmantes, los acuerdos del G7 sobre IA esta semana, el Foro de París por la Paz y si OpenAI y Anthropic concretan las evaluaciones independientes antes de abrir sus modelos a menores.

A partir de información de EFE (vía Infobae) y dpa-AFX (vía Ariva).