La gobernanza de agentes autónomos en el sector público

La Organización para la Cooperación y el Desarrollo Económicos (OCDE) ha publicado un documento en el que analiza los desafíos que plantea la adopción de agentes de inteligencia artificial que actúan de manera autónoma en nombre de las administraciones públicas. El texto no se centra en herramientas conversacionales, sino en sistemas capaces de ejecutar tareas y tomar decisiones operativas sin intervención humana continua, un nivel superior a los asistentes de chat actuales.

La publicación coincide con un momento en el que múltiples entidades gubernamentales están incorporando estos agentes basados en modelos de OpenAI para automatizar procesos que antes requerían una prolongada mano de obra humana. La OCDE reconoce que la velocidad de adopción supera con frecuencia el desarrollo de los marcos regulatorios necesarios para garantizar que estos sistemas actúen con transparencia, rendición de cuentas y dentro de los límites éticos y legales establecidos.

Uno de los ejes del análisis es la dificultad para atribuir responsabilidades cuando un agente de IA ejecuta una acción en nombre de una administración. Si un sistema toma una decisión operativa basándose en datos incompletos o sesgados, no está claro quién asume la consecuencia: el desarrollador del modelo, la organización que lo implementó o el responsable público que autorizó su despliegue. El documento señala que los gobiernos deben definir con precisión los márgenes de autonomía que permiten a estos agentes antes de escalar su uso.

Agentes frente a asistentes: una diferencia estructural

Los agentes de IA se distinguen de los modelos conversacionales tradicionales en que no se limitan a generar texto o responder preguntas, sino que pueden planificar, ejecutar secuencias de acciones y utilizar herramientas externas como API, bases de datos o sistemas internos. Esta capacidad convierte a los agentes en entidades que actúan, y no solo informan, lo que eleva el nivel de riesgo asociado a su despliegue en entornos gubernamentales.

Un asistente de IA puede resumir un informe normativo; un agente de IA podría identificar cambios en la normativa, actualizar los registros correspondientes, notificar a los departamentos afectados y generar los documentos de cumplimiento automáticamente. El salto cualitativo exige controles distintos: supervisión en tiempo real, registros de auditoría, límites claros de actuación y mecanismos de revocación ante comportamientos no deseados.

Casos de uso en el sector privado

Mientras la OCDE reflexiona sobre la gobernanza pública, el sector privado ya está desplegando agentes de IA en operaciones de alto impacto. Jump Trading, firma de trading cuantitativo, utiliza ChatGPT para escalar su investigación de datos financieros. El proceso combina múltiples fuentes de información —mercados, noticias, indicadores macroeconómicos— que el modelo integra y analiza, aunque siempre con revisión humana antes de que los resultados se apliquen a decisiones de inversión. No se dispone de métricas precisas sobre la reducción de tiempo o el margen de error en estas consultas.

Ironclad, plataforma especializada en gestión de contratos, ha establecido una colaboración directa con OpenAI para entrenar y evaluar agentes de IA diseñados específicamente para flujos de trabajo contractuales. Estos agentes podrían leer acuerdos, identificar cláusulas, sugerir modificaciones y coordinar aprobaciones entre las partes involucradas. Ironclad no ha revelado aún el estado exacto de desarrollo de esta tecnología ni métricas de rendimiento validadas por terceros.

Chatham Financial, empresa de servicios para mercados de capitales, ha implementado Codex —herramienta de OpenAI especializada en generación y comprensión de código— junto a GPT-5.6 para rediseñar sus flujos de trabajo operativos. La compañía reportó que la validación de operaciones, que anteriormente exigía 30 minutos por transacción, se redujo a menos de 4 minutos tras la integración de estos agentes. Este dato representa una mejora operativa cuantificable, aunque no se han publicado detalles sobre la tasa de errores, la dependencia de intervención correctiva ni los protocolos de seguridad aplicados durante el proceso.

La tendencia convergente: agentes en lugar de chatbots

Lo que distingue a estos casos es un desplazamiento estructural respecto al uso convencional de la inteligencia artificial. Hasta hace poco, las organizaciones utilizaban modelos de lenguaje como herramientas de apoyo: generar textos, responder dudas o resumir documentación. La nueva fase implica confiar en sistemas que ejecutan acciones reales dentro de los procesos de negocio, desde validar operaciones financieras hasta gestionar contratos o investigar datos de mercado.

Esta transición no es menor. Un chatbot puede equivocarse generando información incorrecta; un agente que actúa sobre sistemas productivos puede modificar datos, ejecutar transacciones o tomar decisiones con consecuencias económicas directas. El umbral de confianza requerido para delegar la ejecución, y no solo la información, es significativamente más elevado.

Las organizaciones que ya han dado este paso lo hacen de forma gradual y con supervisión humana en puntos críticos. Chatham Financial, por ejemplo, mantiene a profesionales revisando los resultados antes de su aplicación final. Jump Trading combina la generación automatizada con la revisión humana de los hallazgos cuantitativos. Ironclad evalúa continuamente a sus agentes antes de permitirles operar en entornos contractuales reales. Esta aproximación pragmática sugiere que la industria considera que los agentes son potentes, pero aún insuficientes para operar de forma completamente autónoma en contextos de alto riesgo.

Los desafíos de la gobernanza emergente

El documento de la OCDE señala que los marcos existentes de gobernanza de IA, diseñados inicialmente para sistemas de recomendación, clasificación o generación de contenido, resultan insuficientes para regular agentes que actúan con cierto grado de autonomía. Los principios de transparencia, equidad y responsabilidad deben reinterpretarse cuando el sistema no solo produce resultados, sino que los ejecuta.

Entre los aspectos que requieren atención prioritaria se encuentran la trazabilidad de las decisiones, la capacidad de auditar qué acción tomó un agente, bajo qué criterio y con qué datos, y la existencia de mecanismos efectivos para detener o revertir una acción una vez iniciada. La gobernanza también debe abordar el riesgo de que los agentes hereden y amplifiquen sesgos presentes en los datos de entrenamiento o en las instrucciones recibidas de los usuarios.

La OCDE destaca que los gobiernos, como usuarios y reguladores a la vez, tienen una responsabilidad doble: por un lado, adoptar estos sistemas de manera responsable dentro de sus propias operaciones; por otro, establecer estándares que sirvan de referencia para el sector privado y para otras administraciones.

Incertidumbres pendientes

Aunque los casos descritos demuestran avances operativos tangibles, existen varios aspectos que permanecen sin aclarar. No se dispone de fechas concretas sobre cuándo se produjeron estas implementaciones ni del periodo durante el cual se han estado desarrollando. Tampoco se han publicado métricas de precisión, tasas de error, índices de seguridad ni evaluaciones independientes de los riesgos derivados del uso de agentes de IA en las organizaciones mencionadas.

La falta de estos datos dificulta una valoración completa del balance entre la eficiencia obtenida y los riesgos asumidos. Lo que sí resulta evidente es que la frontera entre la asistencia inteligente y la autonomía operativa se está difuminando, y que tanto el sector público como el privado necesitan desarrollar criterios de gobernanza que acompañen esta evolución sin frenar la innovación.