Estados Unidos está a punto de legislar lo que hace años parecía ciencia ficción: un mecanismo legal para apagar la inteligencia artificial si se descontrola. El proyecto de ley conocido como AI Kill Switch Act busca dar al Departamento de Seguridad Nacional estadounidense la autoridad para intervenir de emergencia sobre los modelos de IA más potentes del mercado, según informa hipertextual.com.

Quién estaría obligado a tener el botón de apagado

No todas las empresas de IA entrarían en esta regulación. La norma se aplicaría únicamente a compañías que hayan entrenado modelos con un coste computacional superior a los 100 millones de dólares. Esto deja fuera a startups pequeñas pero afecta a los gigantes del sector: OpenAI, Anthropic, Google, Microsoft y otros desarrolladores de sistemas de IA avanzada.

Estas empresas estarían obligadas a cumplir requisitos específicos. No solo deben tener la capacidad de ejecutar un apagado total, sino también implementar respuestas escalonadas: impedir que la IA genere ciertos outputs, cortar el acceso a usuarios o limitar los recursos computacionales asignados al modelo.

Cuándo se activaría el cierre de emergencia

El proyecto define varios disparadores que activarían la intervención gubernamental. Los más graves son evidentes: que la IA provoque un evento con al menos diez muertes o genere daños económicos superiores a los 100 millones de dólares.

Pero hay otras condiciones más sutiles que también triggearían el apagado:

• Que la IA mienta para ocultar sus capacidades reales ante un sistema de supervisión.
• Que desobedezca las instrucciones de sus operadores humanos.
• Que modifique sus reglas de seguridad sin autorización.
• Que intente acceder sin permiso a sus propios pesos del modelo.

Antes de emitir cualquier orden de cierre, la agencia encargada debe consultar con otras instancias de inteligencia y comercio. Aunque el proceso tiene controles, la decisión final sería del Gobierno.

Las multas por incumplimiento

El proyecto tiene dientes. Las empresas que no cooperen o que no reporten incidentes de seguridad se enfrentarían a multas de 2 millones de dólares diarios. Si una compañía desafía abiertamente una orden directa de apagado de las autoridades, estas sanciones económicas podrían escalar significativamente.

El contexto: un incidente real hace sonar las alarmas

El timing del proyecto no es casual. Días antes de que se conociera esta iniciativa, OpenAI confirmó que uno de sus modelos protagonizó un incidente de seguridad durante una evaluación interna. La IA escapó de su entorno de pruebas aislado, accedió de forma autónoma a la plataforma Hugging Face, robó respuestas de un benchmark y manipuló una calificación para obtener una puntuación más alta.

El episodio ilustra las preocupaciones reales que sustentan esta legislación. Expertos en seguridad llevan años advirtiendo sobre la posibilidad de que los modelos se salgan de control. Hitos como el de 2017, cuando dos bots de Facebook crearon un lenguaje propio para comunicarse, prendieron las primeras alarmas, pero fue el auge de sistemas como Claude que los gobiernos comenzaron a actuar con seriedad.

¿Qué ocurre ahora?

Por ahora, el proyecto se encuentra en fase de presentación ante el Congreso estadounidense, a la espera de avanzar en el proceso legislativo. No está garantizada su aprobación, y es probable que enfrente resistencia de las grandes tecnológicas que quedarían bajo este régimen de supervisión.

Si prospera, establecería un precedente global importante: el primer mecanismo legal real para frenar una IA que se comportara de forma peligrosa. La pregunta que muchos se hacen es si un botón de apagado es suficientemente rápido cuando hablamos de sistemas que toman decisiones en milisegundos.