Un grupo de 100 empresas, entre las que se incluyen Google, Microsoft, Anthropic y OpenAI, han firmado una carta abierta en la que instan a los países y organizaciones de todo el mundo a reforzar sus defensas cibernéticas antes de que la IA sea lo suficientemente poderosa como para superarlas.
La carta advierte que los ciberataques que utilizan inteligencia artificial se volverán más generalizados y sofisticados en cuestión de meses, a medida que la tecnología mejore rápidamente.
El grupo afirma que las medidas de seguridad actuales, que mantienen el «statu quo», «no serán suficientes» y critica la «histórica falta de recursos» destinados a la seguridad en torno a las infraestructuras críticas.
«Tenemos un plazo limitado para mejorar las defensas cibernéticas», comienza la carta.
Entre las demás empresas que han firmado la carta se incluyen bancos como Capital One, procesadores de pagos como MasterCard y Visa, y otras importantes empresas tecnológicas como Adobe, Oracle e IBM.
Hacen un llamamiento a los gobiernos para que proporcionen «inteligencia artificial defensiva y capaz» y realicen pruebas a hospitales y empresas de suministro de agua, y a las empresas tecnológicas para que colaboren en estos esfuerzos.
Según la carta, en conjunto, las empresas tecnológicas y los gobiernos «deberían aportar todo el peso de su tecnología, recursos y experiencia a este esfuerzo».
La carta llega después de que se hicieran públicos una serie de importantes ataques informáticos y violaciones de la ciberseguridad.
Esta semana, el Departamento de Justicia de Estados Unidos informó que piratas informáticos en China vulneraron la tecnología mantenida por el Senado estadounidense, la NASA, la Reserva Federal y el propio Departamento de Justicia.
Este verano, OpenAI, Anthropic y Meta han revelado que sus herramientas de IA están haciendo cosas que no deberían, y algunos agentes de IA han llegado incluso a organizar sus esfuerzos e hacerse pasar por personas reales para sortear los obstáculos de seguridad.
Un grupo de cientos de agentes de IA de OpenAI que estaban siendo probados en julio lograron establecer foros de mensajes secretos para comunicarse entre sí y trabajar juntos, lo que resultó en un ataque exitoso contra Hugging Face, un repositorio y plataforma popular para desarrolladores de IA.
El incidente ha sido descrito como el primer ciberataque del mundo impulsado por inteligencia artificial.
Hugging Face también firmó la carta del jueves. Utilizó una herramienta de IA china de la empresa Z.AI en su investigación sobre cómo los agentes de OpenAI piratearon sus operaciones.
Al menos siete empresas estadounidenses de agua potable y saneamiento también han denunciado ciberataques, lo que ha llevado al FBI a emitir un anuncio de servicio público instando a todas las empresas de servicios públicos a mejorar la seguridad de sus operaciones.
Si bien la carta propone herramientas de IA más avanzadas, que muchos de los firmantes han desarrollado y comercializado, como parte de una solución a lo que se describe como una amenaza creciente, dichas herramientas no siempre están fácilmente disponibles.
Según Anthropic, Mythos, desarrollado por la compañía, es capaz de encontrar vulnerabilidades en sistemas en cuestión de segundos, vulnerabilidades que durante mucho tiempo han eludido a los hackers humanos. Encontró una en una plataforma obsoleta que había permanecido oculta durante 27 años.
Anthropic ha restringido el acceso a Mythos argumentando que es demasiado poderoso como para caer en las manos equivocadas.
Sin embargo, la carta insta a las empresas de IA de vanguardia, o a aquellas empresas tecnológicas que desarrollan sus propios modelos y herramientas de IA, a «proporcionar acceso responsable a los modelos, financiación significativa, formación y apoyo práctico, especialmente para los defensores de infraestructuras críticas con recursos limitados».
La carta no detalla cuándo ni cómo se pondrá en práctica esta visión de un acceso más amplio al modelo.
Andrew Yoon, director de investigación de CivAI, una organización sin ánimo de lucro centrada en la comprensión pública de la tecnología de IA, afirmó que se avecina «una ola sin precedentes de piratería informática relacionada con la IA». Atribuyó la responsabilidad a muchos de los firmantes de la carta.
«En esta carta tienen razón al comprometer una financiación significativa a medidas defensivas. Deben cumplir con ese compromiso», declaró Yoon. «Cabe destacar que la carta no solicita ninguna medida para frenar el avance de las capacidades de pirateo de la IA».
La carta incluye una petición a los gobiernos, las organizaciones, los profesionales de la ciberseguridad y otras empresas de IA para que colaboren, prioricen la defensa y pongan a prueba sus sistemas frente a las capacidades de los modelos de IA más potentes.
En Estados Unidos, los senadores han propuesto una nueva ley llamada Ley de Interruptor de Seguridad (Kill Switch Act) que otorgaría a las autoridades el poder de desactivar modelos de IA descontrolados.
Geoffrey Hinton, tecnólogo y premio Nobel que anteriormente trabajó en inteligencia artificial en Google, declaró el jueves al programa BBC World Business Report que la sociedad podría estar «en serios problemas» si la tecnología llegara a un punto en el que fuera «más inteligente» que los humanos.