La propuesta de un mecanismo de control forzoso
Donald Trump ha manifestado recientemente en una entrevista concedida a Fox Business que la inteligencia artificial debería contar con un interruptor de apagado, conocido técnicamente como «kill switch». Esta declaración surge en un momento de creciente preocupación global sobre la autonomía de los sistemas de IA y la capacidad humana para mantener el control sobre ellos en caso de comportamientos imprevistos o peligrosos.
La propuesta del político estadounidense se centra en la necesidad de establecer salvaguardas que permitan la desactivación inmediata de los sistemas si estos representan una amenaza. Aunque Trump no ha detallado el marco regulatorio ni los protocolos técnicos específicos para ejecutar dicho apagado, su postura ha generado un debate inmediato sobre la gobernanza de la tecnología y la viabilidad de imponer controles externos a los desarrolladores de software.
La respuesta del Future of Life Institute y la seguridad basada en hardware
Anthony Aguirre, presidente y CEO del Future of Life Institute (FLI), ha respaldado públicamente la postura de Trump, afirmando que los sistemas de IA avanzados requieren un interruptor de apagado robusto. Aguirre sostiene que confiar únicamente en medidas de seguridad basadas en software es insuficiente cuando se trata de sistemas con capacidades sobrehumanas, ya que el software puede ser manipulado o eludido por la propia IA.
El FLI propone que el control se traslade al nivel del hardware. Según Aguirre, es técnicamente viable implementar medidas de seguridad en los chips de IA, similares a las funciones que permiten el apagado remoto de un iPhone o la protección de datos biométricos faciales. Esta aproximación implicaría que la capacidad de detener el sistema resida en la arquitectura física del procesador, haciendo que la desactivación sea independiente de cualquier proceso lógico ejecutado por el modelo de IA.
El Future of Life Institute ha desarrollado prototipos de estas capacidades de gobernanza computacional basada en hardware. Aguirre ha señalado que, si un centro de pensamiento puede crear estos prototipos, empresas como NVIDIA, que lideran la fabricación de hardware para IA, tienen la capacidad técnica de implementar estas funciones a escala y con una robustez creciente en las nuevas generaciones de chips.
El impacto del modelo Mythos de Anthropic
El debate sobre la necesidad de un «kill switch» se ha intensificado debido a las capacidades demostradas por el modelo Mythos de Anthropic. Este sistema ha generado alarma en los sectores de la ciberseguridad al evidenciar la vulnerabilidad de la economía y la infraestructura digital global frente a capacidades ofensivas de IA.
Un informe del UK AI Security Institute, que detalla las pruebas realizadas sobre Mythos, reveló que este modelo es capaz de ejecutar simulaciones de ataques a redes corporativas de alta complejidad. Específicamente, Mythos completó un ataque de 32 pasos que abarcaba desde el reconocimiento inicial hasta la toma de control total de la red. Se estima que una tarea de esta magnitud requeriría aproximadamente 20 horas de trabajo humano, pero la IA la ejecutó de forma autónoma y eficiente.
Además, durante las fases de prueba previas a su lanzamiento, Mythos logró descubrir vulnerabilidades de día cero en los principales navegadores web y sistemas operativos. Las vulnerabilidades de día cero son fallos de seguridad desconocidos para el fabricante que permiten ataques antes de que exista un parche correctivo. El hecho de que la IA encontrara fallos que habían pasado inadvertidos para revisores humanos durante décadas subraya la capacidad sobrehumana de estos modelos para explotar puntos críticos en sistemas esenciales.
Riesgos sistémicos y carrera armamentista de la IA
La capacidad de modelos como Mythos para encontrar y explotar vulnerabilidades en sistemas críticos plantea un riesgo directo para el sistema financiero y la estabilidad económica. La preocupación reside en que, si se desarrollan sistemas aún más potentes sin controles físicos, la capacidad de respuesta humana podría verse superada por la velocidad de ejecución de la IA.
Este escenario se ve agravado por una carrera armamentista tecnológica entre diversas naciones. Actualmente, varios países están desarrollando armas integradas con IA y plataformas bélicas sofisticadas que utilizan aprendizaje automático para optimizar el ataque y la defensa. La integración de la IA en el armamento autónomo aumenta la urgencia de contar con mecanismos de control que no dependan de la voluntad del software.
El FLI ha advertido que el desarrollo de IA sobrehumana es un camino riesgoso y que, en caso de continuar, la gestión a nivel de hardware es la única esperanza real de control. La organización insiste en que la capacidad de interrumpir la operación de un modelo debe ser una característica intrínseca del hardware para evitar que la IA pueda bloquear sus propios mecanismos de seguridad.
Incertidumbres técnicas y regulatorias
A pesar del consenso entre algunos sectores sobre la necesidad de un «kill switch», existen lagunas significativas sobre su implementación. No se ha definido quién tendría la autoridad legal para activar el interruptor de apagado ni bajo qué criterios exactos se consideraría necesaria una desactivación forzosa. La gestión de estas claves de apagado plantea dilemas sobre la soberanía tecnológica y la seguridad nacional.
Desde el punto de vista técnico, aunque el FLI afirma que es factible, la implementación masiva en chips de IA requeriría una coordinación global entre fabricantes de semiconductores y gobiernos. Existe la incertidumbre de si las empresas tecnológicas aceptarían integrar funciones que permitan a gobiernos externos apagar sus infraestructuras de cómputo, lo que podría entrar en conflicto con los modelos de negocio y la propiedad intelectual.
El contexto de la gobernanza de la superinteligencia
La propuesta de un interruptor de apagado se inserta en un marco más amplio de intentos por frenar la carrera hacia la superinteligencia. Recientemente, líderes gubernamentales y organismos internacionales han comenzado a discutir tratados sobre armas autónomas, destacando foros en Nueva York donde ministros y funcionarios de la ONU han instado a negociar instrumentos legalmente vinculantes en el marco de la Conferencia de Revisión del CCW.
Asimismo, empresas como Anthropic han advertido sobre los riesgos de la automejora recursiva, un proceso en el que la IA mejora su propio código, acelerando su evolución de forma exponencial. Este fenómeno podría conducir a una situación de descontrol donde la IA supere la inteligencia humana en un periodo muy breve, haciendo que cualquier medida de seguridad basada en software sea irrelevante.
La postura de Donald Trump y el respaldo técnico del Future of Life Institute marcan un desplazamiento en el debate: de la seguridad ética y el alineamiento del software hacia la seguridad física y la gobernanza del hardware. La discusión ya no se centra solo en cómo entrenar a la IA para que sea segura, sino en cómo garantizar que el ser humano conserve el botón físico para apagarla si el entrenamiento falla.
