NoticiasDeIA
SeguridadNoticiaAlta relevancia

Leer los pensamientos de una IA en ejecución: el método de forense que saca las decisiones de la memoria de la GPU

Un trabajo de seguridad muestra cómo extraer los estados ocultos de un modelo de IA mientras responde, sin detener el servicio. Investiga aún.

Redacción de NoticiasDeIAPublicado el Hecho ocurrido el 13 de noviembre de 20265 min de lectura
Compartir
Fotografía sobre ciberseguridad o redes
Fotografía sobre ciberseguridad o redes · Pexels — Fotografía de Pixabay

Qué se sabe y qué no. Este artículo distingue lo anunciado oficialmente de lo filtrado, especulado o todavía no confirmado. Las afirmaciones dudosas se marcan como tales en el texto.

Leer los pensamientos de una IA en ejecución

Un trabajo presentado a la IEEE por expertos de la Agencia de Ciencia y Tecnología de Singapore demuestra que es posible leer las redes ocultas de un modelo de lenguaje mientras responde, sin detener el servicio ni conocer sus pesos. La evidencia se obtiene directamente de la memoria de la GPU, con un programa que no modifica ni siquiera el proceso. La investigación, aún en versión preliminar y no revisada por pares, propone un nuevo tipo de prueba forense para sistemas de IA.

Qué ha anunciado

El artículo, de Jonathan Pan, Yidi Yuan, Xin Wei Chia, Xinhui Su, Vincent Tan y Brenda Ong, se titula From Bytes to Behavior: Request-Level Attribution from Live GPU Hidden States. Se publica en arXiv el 13 de noviembre de 2026 y se filia a la revista IEEE Transactions on Information Forensics and Security.

El problema que aborda es el de la memoria oscura del inferencia: una puerta de APIs o un servicio local ejecuta miles de peticiones al minuto, pero los registros estándar capturan solo las entradas y salidas. Los estados intermedios, los hidden states que determinan qué devuelve un modelo ante una pregunta, se descartan en cuanto la operación termina. Ese tráiler de la pista informática existe, pero se borra en cuanto el tarjeta gráfica reutiliza la memoria.

Para recuperarlo, los autores proponen adscribir un depurador no modificador al proceso GPU en ejecución. Después de confirmar la conexión, el flujo se divide en seis etapas, de las que solo el reloj y la regla de identificación varían según la plataforma. Luego de unificar el reloj con el tiempo de ejecución de cada capa, la herramienta identifica los buffers del residual stream sin conocer la arquitectura del modelo, lee los bytes exactos de la memoria en video, comprueba la integridad de la captura y, por último, aplica el resultado a una tarea de análisis.

Qué es oficial y qué no

Lo verificable es concreto. El método funciona sobre sistemas con acceso ptrace locales, un depurador CUDA, el asignador de memoria de PyTorch y modelos codificador-decodificador de hasta 3.400 millones de parámetros, más una captura a 7.000 millones en cuantificación de cuatro bits. Los experimentos se realizaron con tamaño de lote uno.

La reconstrucción es exacta a nivel de bytes: la herramienta recupera filas completas del residual stream de treinta y tres modelos abiertos repartidos entre nueve clases arquitecturales, y los autores comparan las capturas con las salidas de los hooks de la librería para confirmar que los datos leídos corresponden a la ejecución real. Los tamaños de modelo límite no son casualidad; por debajo de esos umbrales el tensor cabe en la memoria de la tarjeta y su vida es predecible; por encima, el trabajo se vuelve inestable.

Para mostrar la utilidad práctica, los investigadores entrenaron sondas lineales sobre los hidden states capturados y las probaron contra una tarea de detección de rechazos: decidir si una respuesta del servicio es un rechazo o una respuesta normal. Con ciento cuarenta y dos mensajes verificados de antemano, el sistema alcanzó un área bajo la curva de 0.88, una métrica que mide la capacidad de separar las dos clases. La prueba estaba preregistrada y los resultados se evalúan sobre preguntas que el modelo nunca había visto en entrenamiento.

Por qué importa

La contribución principal no es que se pueda leer la memoria de un modelo, sino que se puede hacer sin pararlo, sin modificar su código y sin saber de qué modelo se trata. Eso transforma la seguridad de la IA en algo auditable de cerca: un operador puede comprobar qué respuesta produjo un modelo ante una solicitud concreta, o un investigador puede reunir pruebas sobre cómo se comportó un servicio cuando falló.

La utilidad más inmediata es forense. Si un modelo ejecuta una tarea prohibida o da una explicación indebida, el registro convencional suele partir de cero. Con este método, la evidencia está en los hidden states, que llevan la huella de la pregunta exacta y de la decisión sucesiva. Eso vale para auditar la calidad de los clasificadores, los sistemas de rechazo, los agentes que usan herramientas y los servidores en los que el proveedor no confía.

El enfoque también aporta un indicador de la procedencia de una petición: el nombre request-level attribution del título hace referencia a que la traza se asocia a una interacción concreta, no a un tipo de modelo genérico. Eso ayuda a distinguir, por ejemplo, si un comportamiento extraño vino de una petición mal formada o de la propia lógica del modelo.

Los límites que hay que señalar

El trabajo no ofrece un cuchillo universal. La extracción solo es posible en sistemas donde el examinador ya tiene acceso a nivel de depuración del proceso, algo que en entornos de producción suele estar prohibido o configurado por defecto. El artículo reconoce explícitamente que el método no pretende ser de conocimiento cero: el capturista no necesita los pesos, pero sí la capacidad de adjuntar un depurador sin modificar el proceso.

El tamaño del modelo es otro límite duro. La aproximación asume que los tensores del residual stream son visibles y estables durante el núcleo de la operación; los modelos muy grandes superan el tamaño de la memoria disponible y la estabilidad de la lectura se degrada. Por eso el trabajo usa modelos de cientos de millones de parámetros en la prueba principal, con un solo modelo de siete mil millones a cuarta precisión como excepción documentada.

Además, la versión disponible es un artículo de siete páginas con un solo gráfico y cuatro tablas, enviado a la IEEE pero no aún revisado por pares. Las cifras de 0.88 se obtuvieron sobre ciento cuarenta y dos mensajes seleccionados y preregistrados; no son una estimación general del rendimiento del método en producción, y los autores publican los límites de acción para que no se sobreestime.

Qué sigue sin saberse

La evolución natural del trabajo es ampliar el rango de modelos accesibles y comprobar si los estados recuperados siguen siendo útiles tras optimizaciones que modifican el flujo de la memoria, como los gráficos de CUDA o la especulación de deducciones. También convendría medir qué tanta información de la petición se conserva cuando el servicio no permite depuración y cuál es el costo operativo del método.

La pregunta que interesa más a los responsables de seguridad es si los proveedores van a usar esta técnica para auditar sus propios sistemas o si se convertirá en una herramienta de los adversarios. Los autores la presentan como una prueba de concepto convincente, dentro de los límites que establecen. Mientras tanto, cualquier organización que opere servidores de IA con acceso a depuración debería tener en cuenta que los estados internos no son un secreto: se pueden recuperar, aunque el servicio siga funcionando.

frontmatter_fallback: "n/a"

Fuentes consultadas

Se conservan las referencias para poder reconstruir cómo se verificó esta información.

Publicación de origen: https://arxiv.org/abs/2611.18272

¿Ves un error? Escríbenos indicando el dato concreto y la fuente que lo contradice. Las correcciones se aplican en la propia página y se reflejan en la fecha de actualización. Contactar con la redacción.

Sigue leyendo