NoticiasDeIA
SeguridadNoticiaAlta relevancia

Google detecta el primer ciberataque autónomo de agentes de IA

Google documenta por primera vez en ciberseguridad un ataque en el que un agente de IA halló y explotó una vulnerabilidad sin intervención humana.

Redacción de NoticiasDeIAPublicado el Hecho ocurrido el 16 de noviembre de 20266 min de lectura
Compartir
Fotografía sobre ciberseguridad o redes
Fotografía sobre ciberseguridad o redes · Pexels — Fotografía de Ann Hannes
Qué se sabe y qué no. Distingue lo anunciado oficialmente de lo filtrado, especulado o todavía no confirmado. Las afirmaciones inciertas se marcan como tales en el texto.
Ver criterio de lectura

Este artículo distingue tres niveles de confirmación: primario(documento original o comunicado verificado), secundario(datos contrastados con al menos una fuente independiente) y inconcluso(afirmación pendiente de confirmación o que no ha sido replicada).

Google ha documentado por primera vez un ciberataque en el que el ciclo completo —encontrar el fallo, escribir el exploit y lanzarlo— lo ejecutó un sistema de agentes de inteligencia artificial sin que ninguna persona interviniera. El grupo de inteligencia de amenazas de la compañía, GTIG, y Mandiant lo hicieron público el lunes 16 de noviembre en la actualización de su informe AI Threat Tracker, titulada «Agentic Threat Activity Crosses a Significant Threshold». Es la primera vez, afirma Google, que observan a actores de amenaza usar marcos de modelos de lenguaje para automatizar por completo el descubrimiento y la explotación de vulnerabilidades «sin un humano en el bucle».

El salto no es solo tecnológico, es de ritmo. Los defensores llevan años advirtiendo de que la IA comprimiría el tiempo entre el parche y el ataque; Google dice que ese punto ya se ha cruzado al menos en un caso real, y que los marcos que lo hacen posible son en buena parte abiertos y cualquiera puede descargarlos.

El sistema exploit_agent

El caso concreto salió a la luz por un error de los propios atacantes. GTIG encontró un servidor de preparación expuesto a internet que alojaba un marco de investigacion y weaponización de vulnerabilidades al que ha llamado exploit_agent. El sistema combina varios modelos frontera y modelos locales, y está diseñado para hacer un análisis diferencial continuo del software de aplicaciones web más utilizado: compara el código antes y después de cada parche, deduce qué fallo se ha corregido, redacta un exploit y lo ejecuta automáticamente.

En ese mismo servidor Google halló datos robados a las víctimas, información de reconocimiento, webshells y programas de fuerza bruta, además de scripts para instalar puertas traseras y para eliminar las webshells de otros atacantes. El marco, en definitiva, no era solo un experimento: estaba operando contra objetivos reales. BleepingComputer sitúa los ataques atribuidos a exploit_agent contra sitios de medios de comunicación, entretenimiento y educación en Francia.

Google no atribuye exploit_agent a un grupo concreto en lo publicado, ni dice cuántas víctimas tuvo. Lo que sí afirma es que es el primer caso en el que el descubrimiento y la explotación se automatizan sin intervención humana.

Los marcos que ya se usan

exploit_agent no es una excepción, sino la punta de una tendencia que GTIG dice haber observado en varios actores. La compañía asegura que múltiples grupos de ciberdelincuencia y de espionaje han pasado de usar la IA para tareas sueltas a desplegar marcos ofensivos multiagente de código abierto. Los nombres que cita son ARTEX, CAIRN, CyberStrikeAI y PentAGI, y añade que ha visto experimentación con HexStrike AI y con arneses construidos a medida.

Todos comparten tres capacidades, según el informe: descubrir y explotar vulnerabilidades de baja complejidad, generar cargas útiles de un solo uso a demanda con modelos de lenguaje y ajustar las tácticas sobre la marcha con la respuesta que reciben de la ejecución en tiempo real.

Google dice haber observado CAIRN —un marco que organiza a varios agentes en un bucle OODA y los hace colaborar a través de una pizarra compartida— en intrusiones contra objetivos del sector aeroespacial de Estados Unidos, y asegura que CAIRN y PentAGI se han desplegado en ataques reales. El informe sitúa además a actores vinculados a China usando estas herramientas para reconocimiento, escaneo y weaponización de exploits.

La novedad, insiste Google, es la velocidad. Un marco así puede vigilar los parches de las aplicaciones más usadas y convertir cada corrección en un candidato a exploit a la velocidad de una máquina, no de un analista.

El aviso del FBI y las primeras víctimas

La advertencia de Google coincide con una oleada de avisos sobre estas herramientas. El FBI advirtió en un boletín reciente de que varios actores habían estado weaponizando ARTEX desde agosto contra organizaciones de sectores financieros, gubernamentales, tecnológicos, de defensa y sanitarios. Según TechCrunch, que cita ese aviso, los ataques vinculados a Artex pueden pasar del reconocimiento al compromiso activo «en menos de tres horas», y la herramienta se ha usado desde su debut público en julio en intrusiones que incluyen el robo de datos personales de al menos 68.000 personas en instituciones financieras surcoreanas y el acceso a los entornos de Microsoft 365 de al menos 2.250 clientes de ConnectWise.

BleepingComputer añade que el FBI lleva semanas alertando de que los actores usan marcos como ARTEX, CAIRN, CyberStrikeAI y HexStrike AI, y que hackers presuntamente norcoreanos habrían usado Claude Code para entregar malware.

Lo que Google calcula que viene

El informe es también una proyección. Google calcula que en los próximos tres meses los actores serán capaces de lanzar ataques poco sofisticados que requieran «poca o ninguna interacción humana» y dependan sobre todo de múltiples agentes de IA, y que en los próximos seis meses son probables ataques «sofisticados y totalmente autónomos», según recoge BleepingComputer.

Son estimaciones, no constataciones: Google no da datos que permitan verificar ese calendario. Pero encajan con lo que ya ha visto en el último año. El informe describe actores respaldados por Irán, como CALANQUE ION (antes APT42), usando modelos, incluido Gemini, para reconocimiento e ingeniería social; grupos vinculados a China abusando de plataformas de modelos y servicios de alojamiento de archivos para montar infraestructura de mando y control y exfiltrar datos; y un grupo presuntamente norcoreano, MIDNIGHT NEPTUNE, combinando ingeniería social asistida por modelos con el abuso de las propias herramientas de IA de las organizaciones, como vector de ataque a la cadena de suministro.

La respuesta de Google

Google aprovecha el informe para presentar su propia arquitectura de defensa, Google AI Threat Defense, que combina modelos Gemini con la priorización de riesgos de Wiz, el parcheado automatizado de CodeMender y la inteligencia de Mandiant. La compañía asegura que Gemini 4 Carbon incluye defensas en capas contra el uso cibernético —entrenamiento de seguridad, clasificadores de entrada y salida, sondas de introspección y monitorización de trayectorias de agentes— diseñadas para bloquear peticiones de desarrollo de exploits funcionales o herramientas de malware.

También describe un negocio paralelo que ha crecido al amparo de estos ataques: el «LLMJacking», el robo de credenciales y recursos de computación en la nube para revender acceso a modelos de IA a través de servicios proxy clandestinos, los llamados «LLM Mixers».

Qué sigue sin saberse

Queda mucho por delimitar. Google no atribuye exploit_agent a ningún grupo ni país, no cifra las víctimas y no ha hecho pública la evidencia completa que sostiene el caso. Tampoco está claro si la automatización total que describe es ya la norma en algún nicho o un caso aislado del último trimestre, ni qué proporción de los ataques reales involucra estos marcos. La proyección de tres y seis meses es una estimación de la compañía, no una medición.

Lo que sí parece consolidado es el cambio de escenario: las herramientas que convierten un parche en un exploit a velocidad de máquina ya no son una posibilidad teórica, sino algo que Google, el FBI y los medios que las han rastreado sitúan en ataques reales de este año. La pregunta que deja el informe es cuánto tardarán los defensores en igualar esa velocidad.

Fuentes consultadas

Se conservan las referencias para poder reconstruir cómo se verificó esta información.

Publicación de origen: https://cloud.google.com/blog/topics/threat-intelligence/agentic-threat-activity-crosses-a-significant-threshold

¿Ves un error? Escríbenos indicando el dato concreto y la fuente que lo contradice. Las correcciones se aplican en la propia página y se reflejan en la fecha de actualización. Contactar con la redacción.

Sigue leyendo