La Carta de París exige evaluar la IA que llega a los niños y OpenAI aporta dos millones a su red de investigación

Qué ha ocurrido

El 10 de noviembre de 2026, durante la cumbre infantil del París Peace Forum, se presentó la Carta de Compromiso para una IA más segura para los niños (Charter of Engagement for Safer AI for Children), respaldada por Anthropic, Black Forest Labs, Microsoft y OpenAI. La carta la promueve la Coalición para los Derechos y la Protección de la Infancia en la Era de la IA, impulsada por Francia, España y Kenia y con la participación de diez agencias de Naciones Unidas.

OpenAI anunció el 12 de noviembre que había firmado la carta «a principios de esta semana» en el foro y que aportaba dos millones de dólares a la red de investigación científica de la coalición. Según el París Peace Forum, los desarrolladores de IA y la organización Common Sense Media comprometieron en total ocho millones de euros para financiar investigación y herramientas sobre la interacción entre la IA y el desarrollo infantil.

La oferta de OpenAI se enmarca en una cadena de iniciativas políticas: en septiembre, el presidente francés, Emmanuel Macron, presentó en Naciones Unidas la hoja de ruta de la coalición, y la carta es el primer compromiso voluntario que concreta ese proceso.

Qué dice la carta

El texto parte de una constatación: la IA generativa está entrando en entornos que importan para el desarrollo infantil —educación, juego, comunicación, búsqueda de información, creación y apoyo emocional— y la evidencia longitudinal madura aún no existe, pero las decisiones de producto y política ya se están tomando. Los firmantes se comprometen a actuar con el nivel de evidencia disponible y a refinar las medidas a medida que se reduzcan las lagunas.

Los principios que recoge son, entre otros:

• Seguridad desde el diseño y por defecto, con medidas que protejan la privacidad y la seguridad de los menores.
• Interés superior del niño y diseño centrado en la infancia, con control parental y protección frente al uso compulsivo y el apego emocional.
• IA adecuada a cada edad, que tenga en cuenta las etapas cognitivas y socioemocionales.
• Privacidad de los menores y mecanismos de verificación de edad sólidos, que no dependan solo de la autodeclaración.
• Prohibición del material de abuso sexual infantil y de su uso para entrenar o alimentar estos sistemas.
• Alfabetización en IA adaptada a cada edad.

En lo que se refiere a la evaluación, la carta pide a las empresas que desarrollen o desplieguen sistemas accesibles para menores que lleven a cabo, antes del despliegue cuando sea relevante y después a intervalos regulares, pruebas y evaluaciones sólidas de los riesgos para la salud, la seguridad y el bienestar físico, mental y emocional. También compromete a implementar medidas de mitigación, vigilar los riesgos tras el despliegue y detectar y responder a incidentes graves.

El programa de investigación se organiza en tres líneas: un observatorio que defina los resultados evolutivos y los comportamientos que deben medirse, una línea de medición compartida —donde participan investigadores de las empresas junto a independientes— que desarrollará herramientas y medidas abiertas, como clasificadores y evaluadores, y una línea de evidencia y resultados evolutivos, con revisiones, experimentos y estudios longitudinales.

Las garantías de independencia son el punto más trabajado del texto. Las prioridades, los métodos, los análisis y las conclusiones quedan bajo responsabilidad científica independiente; el apoyo financiero o en especie no otorga control sobre las decisiones de financiación, ni sobre los hallazgos, ni derecho de veto sobre publicaciones. La financiación empresarial se destina solo a la medición compartida: el observatorio, la línea de evidencia, la remuneración del comité científico y la evaluación y estándares se financian exclusivamente con fuentes públicas y filantrópicas independientes, con contabilidad separada. Además, las contribuciones no dan acceso privilegiado a los datos personales de los niños, y los presidentes del comité científico publicarán una memoria anual de avance.

Quiénes firman y qué aportan

Los cuatro laboratorios firmantes son Anthropic, Black Forest Labs, Microsoft y OpenAI. El París Peace Forum señaló que OpenAI y Anthropic, junto a Common Sense Media, se comprometían a financiar la investigación; el grueso del anuncio económico es ese compromiso agregado de ocho millones de euros, del que los dos millones de dólares de OpenAI son una parte. La coalición que sostiene la carta está liderada por Francia, España y Kenia e involucra a diez agencias de la ONU, y se apoya en el trabajo previo del G7 sobre un espacio digital más seguro para los menores.

Qué es vinculante y qué no

La carta es voluntaria. No crea obligaciones legales, ni un proceso de certificación o autorización, ni un organismo que decida qué sistemas pueden llegar a los niños. La frase contundente de Macron en la presentación —«ninguna IA debería ponerse en manos de los niños sin haber sido antes probada, evaluada y, por tanto, autorizada»— es una declaración política, no una regla del texto.

Tampoco debe confundirse con la Declaración Children First, presentada en el mismo foro y firmada por más de 50 países, seis organizaciones internacionales y unas veinte ONG, fundaciones y empresas, que abarca cinco pilares (salud, nutrición, educación, protección y bienestar psicosocial en la era digital) con metas para 2045. Esa declaración es igualmente política y no vinculante, y OpenAI no figuraba en su lista de firmantes a 10 de noviembre.

Por qué importa

Es el primer intento multilateral con laboratorios de IA firmantes de organizar evidencia independiente y herramientas de medición compartidas para los riesgos de la IA en la infancia, en un momento en que la EU Kids Act está en desarrollo. OpenAI declara que su aportación servirá para desarrollar herramientas que permitan medir los riesgos y las oportunidades para los niños y que espera trabajar con los responsables políticos europeos.

Para las empresas, la carta anticipa prácticas que los gobiernos podrían convertir en ley: salvaguardias por defecto adecuadas a cada edad, herramientas para los padres, evaluaciones de riesgo periódicas y rendición de cuentas. La propia formulación de Macron —una especie de «preauditoría y precertificación»— sugiere que la vía voluntaria se concibe como el ensayo de un sistema que después podría tener respaldo normativo.

Qué sigue sin saberse

No se ha detallado cómo se reparten los ocho millones de euros, ni el calendario de pago, ni qué equipos de investigación recibirán los fondos, ni cuándo llegarán los primeros resultados. Tampoco está claro si las herramientas de medición compartida serán públicas, si los laboratorios someterán sus productos reales a evaluadores independientes con acceso a sus sistemas, ni qué ocurrirá si una empresa firmante no cumple. La carta fija principios y garantías de independencia, pero su efecto real dependerá de la transparencia del programa y de la presión regulatoria que llegue después.