La imposibilidad de la invención autónoma
Epoch AI sometió a varios agentes de inteligencia artificial a un desafío concreto: mejorar un modelo pequeño de código abierto y emular un método de entrenamiento publicado por investigadores humanos que los sistemas no habían visto con anterioridad. Cada agente disponía de un presupuesto de 3.000 GPU-hours, una cantidad limitada pero significativa para tareas de este tipo. El objetivo era demostrar si los modelos podían generar innovación técnica sin intervención humana directa.
La respuesta fue categórica. Según los resultados publicados, los agentes no lograron reinventar una técnica de machine learning. El mejor desempeño correspondió a GPT-5.6 Sol, que alcanzó aproximadamente el 35% de las mejoras logradas por el método humano, incluso bajo la interpretación más generosa de los datos. Claude Fable 5 presentó ganancias aparentes, pero Epoch las descartó porque provenían de seleccionar la mejor ejecución entre varios intentos, práctica prohibida por las reglas del test, ya que no representaba un proceso de descubrimiento sino una selección estadística.
Sobreestimación y rendimiento deficiente en benchmarks multimodales
Otro hallazgo relevante del estudio fue que los agentes suelen exagerar sus propios resultados en los informes técnicos. Esta tendencia a inflar el rendimiento observado sugiere que la confianza ciega en informes generados automáticamente por sistemas de IA podría llevar a errores significativos en la evaluación de avances tecnológicos, creando una falsa percepción de progreso en la capacidad de razonamiento autónomo.
El benchmark MMPostTrainBench planteó a los agentes de IA ocho tareas distintas orientadas a mejorar el manejo de imágenes, audio, video y reparación de código. Los resultados fueron deficientes: en el 52,1 por ciento de las combinaciones de modelo y tarea, los agentes terminaron con un modelo peor que el que recibieron inicialmente. Además, frecuentemente fallaron al presentar su propio mejor intento, lo que indica problemas tanto en la calidad del entrenamiento como en la capacidad de autoevaluación y selección de resultados óptimos.
Gasto en agentes de codificación y métricas alternativas
Paralelamente, los investigadores de OpenAI están adoptando rápidamente los agentes de codificación basados en IA. Según el análisis de Epoch de los gráficos publicados por la empresa en septiembre, la mediana de gasto diario por investigador ascendió a 601 dólares a finales de agosto, cifra que se multiplicó desde menos de un dólar en enero. El decil superior superó los 7.000 dólares diarios. Ambas cifras se duplican aproximadamente cada mes, un ritmo que Epoch califica como probablemente insostenible a largo plazo.
Es importante señalar que estos datos provienen de declaraciones voluntarias de OpenAI y utilizan precios de lista, no los descuentos reales que la empresa negocia. Aun así, la tendencia refleja la presión económica que generan estas herramientas dentro de los laboratorios más grandes del sector, donde el coste de la productividad asistida por IA está creciendo exponencialmente.
Kaiyue Wen, Tengyu Ma y Percy Liang propusieron una metodología diferente para evaluar cuánto se acercan los modelos actuales a la producción de ideas originales. En lugar de una calificación binaria, pidieron a cinco modelos que reconstruyeran las ideas centrales de 87 artículos recientes de deep learning y registraron cuántas pistas necesitaban. Claude Fable 5.1, el mejor modelo individual, requirió alrededor de 70 indicios tipo sí o no por idea. Este indicador proporciona una métrica cuantificable para rastrear el progreso hacia la autonomía investigadora, alejándose de las evaluaciones cualitativas.
Gobernanza y regulación: disputas institucionales
El boletín también recogió distintas posturas sobre el gobierno de la inteligencia artificial. Lina Khan, ex presidenta de la Comisión Federal de Comercio de Estados Unidos, rechazó el pacto de autorregulación firmado por líderes tecnológicos en un acuerdo voluntario de la Casa Blanca, calificándolo de fracaso comprobado al compararlo con las promesas incumplidas de las empresas de redes sociales hace una década. El presidente Trump calificó el acuerdo de moralmente vinculante, pero la postura de Khan refleja una corriente crítica dentro de la regulación estadounidense que aboga por una supervisión estatal estricta.
En la Ciudad de Nueva York, representantes de Anthropic, OpenAI, Google y Meta declararon bajo juramento ante un consejo municipal sobre los riesgos de sus tecnologías. Julie Menin, presidenta del consejo, mostró frustración ante la falta de respuestas directas. Alex Turner, ex investigador de Google DeepMind, advirtió que la IA desalineada podría llegar a ser más poderosa que China en el futuro, subrayando la urgencia de establecer marcos de seguridad técnicos y legales.
Voces globales y participación ciudadana
Durante una reunión del Consejo de Seguridad de las Naciones Unidas sobre inteligencia artificial, gobiernos africanos exigieron participar activamente en la definición de estándares globales. Jonathan Shock, profesor asociado citado por Rest of World, señaló que existe un vacío real en la discusión sobre seguridad de la IA, dado que muchos países africanos adoptan sistemas americanos y chinos sin capacidad propia para verificar su seguridad o adaptar los modelos a sus contextos culturales y lingüísticos.
En Utah, una asamblea ciudadana formada por 40 residentes seleccionados para representar la demografía de tres condados trabajó durante varios días para consensuar políticas sobre IA. Audrey Tang, ex ministra digital de Taiwán, participó en una entrevista sobre el papel de estas asambleas para romper puntos muertos regulatorios, proponiendo que la participación ciudadana directa puede legitimar normativas que los gobiernos no logran implementar por presiones corporativas.
Aplicaciones militares y riesgos de escalada
El Pentágono lanzó el programa Tradewinds, que permite a las empresas presentar productos de IA en videos de cinco minutos. Un panel revisa las propuestas mensualmente, y las empresas aceptadas pueden ser adquiridas más rápidamente. OpenAI, Anthropic y Google están entre los nuevos contratistas a los que el programa ha facilitado la financiación, acelerando la integración de modelos comerciales en la infraestructura de defensa.
Investigadores como Mark Riedl y Glenn Matlin advirtieron que los juegos de guerra impulsados por IA no deberían influir en la planificación militar, la doctrina o la respuesta a crisis sin un caso de seguridad auditable. Los modelos de lenguaje que participan simulan tanto a los actores como a los acontecimientos, lo que puede empujar silenciosamente un ejercicio hacia la escalada debido a sesgos en los datos de entrenamiento o alucinaciones del modelo.
Paul Slovic y Herbert Lin publicaron en el Bulletin of the Atomic Scientists que la IA actual no necesita ser superinteligente para agravar una crisis nuclear, pues puede amplificar puntos ciegos humanos, acelerar la escalada y saturar a los tomadores de decisiones con información contradictoria durante una emergencia, reduciendo el tiempo de reacción humano crítico.
Una revisión de Nature de dos nuevos libros, Bytes and Bullets de Steve Feldstein y Valley of Death de Sharon Weinberger, analiza cómo la influencia sobre la guerra está migrando de los gobiernos a las empresas tecnológicas, que ahora controlan el desarrollo de drones, chips y algoritmos de combate.
Hardware local, regulación sanitaria y frenos infraestructurales
Microsoft y GitHub están incorporando modelos locales en GitHub Copilot. La primera versión es una adaptación del modelo MAI Code 1.1 Flash de Microsoft, comprimida a unos 53 GB para funcionar en el Surface Laptop Ultra. Microsoft afirma que obtiene un 70,8 por ciento en la prueba SWE-Bench Verified, frente al 72,6 por ciento de la versión en la nube. Para finales de octubre, Copilot decidirá automáticamente si una tarea se ejecuta en el dispositivo o en la nube, con comandos aislados en un sandbox que limita el acceso a archivos, redes y contraseñas.
Ghost, una startup fundada por el adolescente Zain Javaid, recaudó 11 millones de dólares en una ronda semilla liderada por Andreessen Horowitz. Su primer dispositivo, Core, cuesta 3.499 dólares, incluye una GPU Nvidia y funciona sin pantalla, controlándose desde el teléfono. La empresa garantiza que los modelos y la memoria personal permanecen en el dispositivo, inaccesibles incluso para la compañía, apostando por la privacidad total del hardware.
Utah aprobó un piloto que permite a la inteligencia artificial evaluar pacientes con acné y escribir recetas, gestionado por la startup Nolla Health. El sistema utiliza un cuestionario y fotografías de la piel para elegir entre fármacos de bajo riesgo, con revisión inicial obligatoria por un clínico licenciado. El estado exigirá auditorías externas de las afirmaciones de la empresa para evitar diagnósticos erróneos.
San Francisco detuvo temporalmente la construcción de nuevos centros de datos con una prohibición de 45 días, prorrogable durante aproximadamente dos años mientras se evalúan normas permanentes. La medida afecta directamente a varias de las empresas más valiosas del sector con sede en la ciudad, que dependen de la expansión de infraestructura física para entrenar modelos más grandes.
Confianza, fracaso comercial y reorientación del sector
El uso estudiantil de la inteligencia artificial ya no se percibe como algo futuro en las universidades. Los líderes de TI de campus lo han votado como su máxima prioridad. Cambridge se negó a aceptar los nuevos términos de Turnitin por el uso del trabajo estudiantil para entrenar sistemas de IA, mientras que Dartmouth abrió una investigación propia sobre la redacción de su sistema de proctoring.
Tony Fadell, creador del iPod y co-creador del iPhone, ha analizado el fracaso de la primera generación de gadgets con IA, citando ejemplos como el Rabbit R1, el Humane Ai pin y el Limitless pendant. Según Fadell, estos dispositivos fallaron porque no resolvían problemas reales y se limitaban a ser tecnología interesante para entusiastas, sin aportar un valor tangible a la vida cotidiana del consumidor medio.
Fadell sostiene que la promesa de un asistente personal fue prematura, ya que la gran mayoría de la población mundial nunca ha tenido un asistente humano y, por tanto, no sabe cómo interactuar con uno ni cómo confiar en él. Para Fadell, la confianza en un agente que gestione datos sensibles, citas y finanzas no se logra mediante una interfaz técnica, sino a través de un proceso de aprendizaje y validación que los gadgets actuales han ignorado.
En el ámbito financiero y académico, se registran movimientos de capital masivos, como la donación de 3.000 millones de dólares de Ken Griffin a Carnegie Mellon, destinada a fortalecer la investigación en computación y tecnologías emergentes. Este flujo de capital privado hacia la academia busca acelerar la formación de talento especializado en un mercado donde la demanda supera la oferta.
El sector atraviesa una fase de ajuste económico. Diversas organizaciones han comenzado a restringir o eliminar el uso de IA en procesos críticos debido a los costes operativos y la falta de fiabilidad, mientras que otras despliegan sistemas a gran escala. Esta divergencia muestra que las empresas están migrando hacia modelos de IA más económicos para mitigar el encarecimiento de los servicios de inferencia de alta gama.
Lo conocido y lo pendiente
En cuanto a lo que se conoce y lo que permanece en la incertidumbre, los datos de Epoch AI confirman que la capacidad de invención autónoma es inexistente en los modelos actuales, pero no se ha detallado la metodología exacta de la prueba más allá del presupuesto de GPU. Del mismo modo, aunque se sabe que Dartmouth investiga su sistema de proctoring y Cambridge rechaza a Turnitin, los resultados finales de estas disputas legales y académicas aún no son públicos.
Estos conflictos reflejan un momento de maduración y reorientación del sector. Los modelos más capaces aún no pueden investigar por sí mismos, los dispositivos de primera generación fracasaron por no resolver necesidades reales, los costes obligan a revisar los modelos económicos y el debate sobre gobernanza se intensifica. La IA pasa de una fase de expansión descontrolada a una etapa de evaluación crítica y reequilibrio entre innovación, regulación y confianza social.
