México, Brasil, Costa Rica y Honduras se suman a un pacto para proteger a niños de la IA

México, Brasil, Costa Rica y Honduras firmaron el martes 10 de noviembre la declaración “Los niños primero”, un compromiso internacional para poner los derechos y el bienestar de niñas, niños y adolescentes en el centro de las políticas públicas, incluido su desarrollo en entornos digitales moldeados por algoritmos e inteligencia artificial. El texto se presentó en la Cumbre de la Infancia del Foro de París por la Paz, impulsada por el presidente de Francia, Emmanuel Macron.

Según la lista oficial del Foro, son cuatro de los 57 países firmantes, junto a España, Francia, Alemania, Canadá, Reino Unido, Australia, Corea del Sur, Sudáfrica y Emiratos Árabes Unidos, entre otros. También la respaldaron siete organismos internacionales, entre ellos UNICEF, la OMS y la UNESCO, y una veintena de fundaciones, ONG y empresas. Estados Unidos no está entre los firmantes, informó la agencia EFE. Ningún otro país latinoamericano figura en la lista.

Qué dice la declaración

Los firmantes se comprometen a ampliar sus esfuerzos en cinco ámbitos (salud materna e infantil, nutrición, educación, protección frente a la violencia y bienestar psicosocial en el entorno digital), con la meta de reducir a la mitad las principales carencias en cada uno hacia 2045. Cada país definirá sus indicadores y alineará presupuestos y servicios con esos resultados.

En lo digital, el texto advierte que los servicios inseguros o mal calibrados pueden dañar la seguridad, la atención, las relaciones y el desarrollo de los menores, y exponerlos a explotación sexual y contenido dañino. Sostiene que la tecnología, cuando es “segura y adecuada a la edad por defecto”, amplía las oportunidades de aprender y crear, y extiende la protección contra la violencia a los entornos en línea, con mecanismos de prevención, denuncia y respuesta. El texto no fija sanciones.

“En el mundo digital, la inteligencia artificial ofrece oportunidades extraordinarias para el aprendizaje, la inclusión y mejores servicios. Pero sin salvaguardas expone a los niños a riesgos nuevos y peligrosos”, dijo en la cumbre Catherine Russell, directora ejecutiva de UNICEF, que pidió sistemas de IA “seguros desde el diseño”.

El compromiso de las empresas de IA

En paralelo, OpenAI, Anthropic, Microsoft y Black Forest Labs firmaron una carta de compromiso por una IA más segura para la infancia. Las empresas que desarrollen o desplieguen sistemas accesibles a menores se comprometen a evaluarlos antes de lanzarlos y en forma periódica, a mitigar los riesgos, a detectar y responder a incidentes graves que involucren a niños y a usar verificación de edad que no dependa solo de lo que declara el usuario. También apoyarán una red de investigación independiente, cuyas conclusiones no podrán vetar.

Según el Foro, desarrolladores y organizaciones como Common Sense Media comprometerán en total 8 millones de euros para financiar investigación y herramientas sobre cómo interactúa la IA con el desarrollo infantil. “Ninguna IA debería ponerse en manos de los niños sin haber sido probada, evaluada y, por lo tanto, autorizada”, dijo Macron. En una entrevista con el diario Les Echos publicada antes de la cumbre y citada por laSexta, el mandatario había adelantado que OpenAI y Anthropic someterían sus modelos a evaluaciones independientes antes de ofrecerlos a menores.

Qué significa para las empresas de la región

• Revisa qué productos tuyos usan menores. Si ofreces apps, plataformas educativas, juegos o chatbots que usan niños o adolescentes, la vara de “seguro desde el diseño” ya está escrita y firmada por cuatro gobiernos de la región.
• Pregunta a tu proveedor de IA por la edad. Las grandes desarrolladoras se comprometieron a evaluar sus modelos y verificar la edad de los usuarios: pide cómo lo hacen antes de integrar sus herramientas en un servicio para público joven.
• Anticípate a la regulación local. Una declaración no obliga, pero marca la dirección de las leyes que vendrán en México, Brasil, Costa Rica y Honduras.
• Cuida los datos de menores. La privacidad y la minimización de datos están entre los principios que firmaron las empresas de IA: revisa qué datos de niños recoges y para qué.

Qué mirar

La Cumbre de la Infancia, que sigue el 11 de noviembre, también pone en marcha una caja de herramientas con indicadores y buenas prácticas y una plataforma que reunirá a los sectores público y privado. Habrá que ver si otros países de la región, como Argentina, Chile o Colombia, se suman a la lista, cómo traducen los firmantes sus compromisos en metas y presupuestos nacionales y cuándo publica resultados la red de investigación sobre IA e infancia.

A partir de información de Foro de París por la Paz.