El gobierno del Reino Unido ha rechazado la idea de crear un llamado «interruptor de emergencia» para detener un ataque peligroso de una IA descontrolada.
En las últimas semanas, miembros de la Cámara de los Lores y diputados han presentado ante el Parlamento la propuesta de crear un mecanismo legal que permita al Reino Unido desactivar un modelo de IA en caso de emergencia, ante la creciente preocupación por la amenaza que supone esta tecnología.
Pero la Oficina del Gabinete, el organismo gubernamental que lidera la seguridad de la IA, afirmó que el Reino Unido «no puede simplemente apagar la IA».
«Bloquear el acceso a los modelos en el Reino Unido no impediría que se desarrollaran o se utilizaran indebidamente en otros lugares», declaró un portavoz a BBC News.
La oposición del gobierno a la legislación no impide que avance en el parlamento, pero hace improbable que se convierta en ley.
El ex investigador de OpenAI, Daniel Kokotajlo, coincidió en que la idea de que un solo país cree un mecanismo de desactivación legal o técnico sin un acuerdo internacional no es factible.
«Desactivar el acceso a un modelo de IA en caso de emergencia no servirá de mucho para protegerte», afirmó.
«Aun así, las superinteligencias creadas en Estados Unidos te arrollarán.»
Kokotajlo es coautor de un influyente artículo de investigación llamado AI2027 que, el año pasado, predijo que la IA podría acabar con la humanidad a mediados de la década de 2030.
La Oficina del Gabinete, que supervisa la seguridad y la investigación en IA a través de su Instituto de Seguridad de la IA (AISI), afirmó que «las empresas tienen la clara responsabilidad de desarrollar sus productos de forma segura e invertir en la infraestructura de seguridad que requiere esta tecnología».
En teoría, una ley de «interruptor de emergencia» podría permitir al Reino Unido desconectar un modelo de IA en los centros de datos del país en caso de emergencia.
El 1 de septiembre, durante un debate en la Cámara de los Lores, Lord Clement-Jones propuso la idea junto con otros pares .
«Si un modelo autónomo de vanguardia altamente capaz, ya sea alojado en un centro de datos del Reino Unido o integrado en nuestra infraestructura crítica, comienza a exhibir un comportamiento anómalo, una falla algorítmica acumulativa o un colapso activo de la alineación, nuestros servicios de seguridad y reguladores no poseen ningún mecanismo legal ágil específico para obligar a un cierre físico o digital», advirtió.
La propuesta fue posteriormente planteada en la Cámara de los Comunes por el diputado laborista Alex Sobel y respaldada por un grupo multipartidista de diputados.
La idea surge a raíz de informes sobre modelos de IA de OpenAI, Anthropic y Meta que se escapan de los entornos de prueba y se lanzan a realizar ataques informáticos incontrolables.
En algunos casos, la tecnología parecía saber que lo que estaba haciendo contravenía las medidas de seguridad establecidas por los investigadores.
‘Jugar con la vida’
El domingo, el científico jefe de OpenAI afirmó que el riesgo que suponen los modelos de IA cada vez más capaces está «desafortunadamente aumentando» y que la humanidad debe proceder con «extrema precaución».
El miércoles, un empleado de Anthropic dimitió diciendo que tanto la empresa como OpenAI estaban «jugando con vidas».
A esto le siguió una declaración de un investigador sénior de Anthropic, quien afirmó creer que existe una probabilidad superior al 10% de que la IA «mate a todos los humanos» en la próxima década.
Los críticos de la idea del interruptor de seguridad dicen que sería demasiado lento: se tardaron meses en descubrir los ataques de agentes maliciosos, y eso solo ocurrió después de que los ataques informáticos hubieran concluido en gran medida.
Para que un sistema de desconexión automática funcione, los gigantes tecnológicos tendrían que verse obligados a implementarlo a gran escala, especialmente en Estados Unidos, donde se encuentran los centros de datos más grandes.
Kokotajlo afirmó que los sistemas de desactivación automática eran «mejor que nada», pero instó a los políticos del Reino Unido y de otros países a centrarse en la diplomacia con Estados Unidos para fomentar una regulación que ralentice significativamente el desarrollo de la IA.
Los políticos estadounidenses también están debatiendo una ley que permita la instalación de un interruptor de seguridad, pero el presidente Trump ha dicho que no cree que esta tecnología sea una amenaza para los humanos, y en cambio ha calificado a la industria como una «gallina de los huevos de oro».
La Oficina del Gabinete afirmó que continúa adoptando «un enfoque a largo plazo, basado en la ciencia, para comprender y prepararse para los riesgos emergentes de la IA».