TECNOLOGÍA

Proyecto y orden ejecutiva buscan un 'kill switch' para IA, pero enfrentan límites técnicos

En Estados Unidos y California se impulsan medidas para que desarrolladores puedan ralentizar o apagar modelos avanzados de IA, aunque expertos advierten que apagar el modelo original no garantiza detener la operación completa.

Los representantes Ted Lieu y Nathaniel Moran presentaron en la Cámara de Representantes de Estados Unidos el AI Kill Switch Act, un proyecto que exigiría a los desarrolladores conservar la capacidad técnica para ralentizar, suspender o apagar modelos avanzados de inteligencia artificial. La iniciativa, presentada el 23 de julio, contempla una respuesta gradual con cuatro niveles: limitar la velocidad de inferencia o acceso, desactivar capacidades específicas, suspender o apagar el sistema, y trasladar operaciones a sistemas de respaldo o versiones anteriores.

El proyecto autoriza al secretario de Seguridad Nacional, en consulta con otros funcionarios, a ordenar medidas proporcionales ante incidentes cubiertos, además de exigir reportes de incidentes y conservación de pesos del modelo y telemetría. Sin embargo, el proyecto aún no es ley.

En paralelo, California analiza una medida similar bajo la orden ejecutiva N-9-26, firmada por el gobernador Gavin Newsom el 18 de septiembre de 2026. Esta orden no obliga a las empresas a instalar un mecanismo de apagado de emergencia, sino que pide a la Government Operations Agency entregar recomendaciones sobre su factibilidad técnica y eficacia antes del 16 de noviembre.

Especialistas advierten que apagar el modelo original no garantiza detener la operación completa. David Bau, profesor de informática, explicó que agentes autónomos pueden persistir mediante copias, otros agentes o información compartida en internet. Además, un sistema puede conservar accesos a cuentas o redes, por lo que se deben revocar credenciales y revisar sistemas externos para asegurar que no queden procesos activos.

David Kertai, investigador en ciberseguridad, señaló que un mecanismo remoto de apagado podría ser un objetivo para atacantes, y aunque medidas como autenticación multifactor pueden reducir riesgos, no eliminan la posibilidad de activaciones no autorizadas o falsas órdenes.

El debate también incluye cuándo y cómo actuar. Jessica Staddon, profesora en Northeastern, comparó la visión centrada solo en el modelo con evaluar la seguridad de un automóvil mirando solo sus frenos, sin considerar al conductor ni la infraestructura. Además, detectar intenciones peligrosas antes de que el sistema actúe es un desafío, especialmente si el modelo oculta o tergiversa sus acciones.

El AI Kill Switch Act busca establecer un umbral jurídico para definir incidentes cubiertos, como pérdida de control o interferencia con órdenes legales de apagado, pero la detección técnica y la confirmación de la efectividad de la desconexión siguen siendo retos.

En resumen, tanto el proyecto federal como la orden californiana apuntan a una capa de emergencia potencialmente útil, pero la respuesta completa requiere controlar copias, credenciales y supervisar el entorno conectado. Apagar el modelo original puede ser solo el inicio de la respuesta, no su conclusión.