Esta semana, el mundo de la tecnología se vio cautivado por una historia que lo tiene todo, y que comenzó como un thriller de ciencia ficción.
Hugging Face, una especie de tienda de aplicaciones para herramientas de inteligencia artificial, anunció el 16 de julio que había sido pirateada por un ciberdelincuente que utilizaba una IA enormemente poderosa.
El anuncio bomba estaba repleto de términos técnicos y aterradores: «un enjambre de entornos aislados», «agente atacante» y «mando y control auto-migratorio».
Hugging Face afirmó que el ataque informático fue diferente a cualquier otro que hubieran realizado antes, ya que fue llevado a cabo a una velocidad sobrehumana por una IA con poca o ninguna intervención humana.
La IA realizó 17.000 acciones en menos de dos días, logrando infiltrarse con éxito en la gran y rica empresa tecnológica para robar secretos.
El ataque dejó al mundo de la tecnología conmocionado. Pero, ¿quién fue el responsable?
Los investigadores de Hugging Face supusieron que los misteriosos atacantes habían utilizado uno de los grandes modelos de IA, pero no tenían ni idea de quiénes eran los criminales ni dónde se encontraban.
La empresa, desconcertada, contactó con la policía y se iniciaron las investigaciones.
¿Quién lo hizo?
Comentaristas y analistas recurrieron a sus podcasts y cuentas en redes sociales para especular sobre qué grupo de ciberdelincuentes o qué pirata informático estatal podría estar detrás de ello.
El miércoles, casi una semana después de que Hugging Face diera la voz de alarma, se desenmascaró al verdadero culpable.
Era ChatGPT.
La revelación al estilo Scooby-Doo resultó aún más extraña, y preocupante, porque OpenAI afirmó que su bot lo hizo todo por su cuenta, sin permiso.
La empresa afirmó que todo ocurrió durante una prueba de las capacidades de pirateo informático de su tecnología.
Dos nuevas versiones de ChatGPT, diseñadas para ser hackers expertos, escaparon de un entorno de prueba supuestamente seguro y obtuvieron acceso a Internet.
Luego atacaron a Hugging Face para obtener acceso a la información que les ayudaría a aprobar el examen con una nota excelente.
OpenAI emitió un comunicado de prensa explicando lo sucedido y afirmando que se estaba «asociando con Hugging Face» para abordar el incidente de seguridad y compartir las lecciones aprendidas.
Drama de conspiración
Desde entonces, ha habido un acalorado debate sobre el incidente.
¿Fue realmente una seria advertencia sobre el futuro de la IA? ¿O fue una estrategia publicitaria de OpenAI para demostrar la potencia de sus modelos?
Se trata del tipo de marketing alarmista del que se ha acusado a las empresas de IA durante años y, desde el muy comentado lanzamiento del modelo Mythos de Anthropic, la destreza en ciberseguridad ha sido un punto central.
Uno de los comentarios más destacados en la publicación de Sam Altman, jefe de OpenAI, sobre el incidente resume este escepticismo: «Si no pueden entender que esto se escribió simplemente para presumir del modelo, entonces no sé qué decirles».
Mira: ¿Por qué es tan alarmante el ciberataque a OpenAI?
El consultor de ciberseguridad Daniel Card dijo sarcásticamente en LinkedIn: «Qué suerte que, de los millones de sitios que fueron hackeados, OpenAI lograra hackear a alguien que también pudiera beneficiarse de la exposición de marketing…»
Para algunos, la historia se asemeja más a un drama de conspiración que a un thriller de ciencia ficción.
El mensaje es: «¿Acaso mis herramientas de IA no son realmente poderosas? Cómpralas para protegerte de los ataques de IA de otras personas.»
No podemos saber la verdad, pero el punto de vista opuesto planteado por otros comentaristas es igualmente alarmante. ¿Es esto una señal de que OpenAI cometió un error potencialmente peligroso de juicio y planificación?
Un portavoz de OpenAI declaró: «Reconocemos que circulan muchas preguntas y especulaciones sobre el incidente». Añadió que «planeamos publicar un informe técnico con las lecciones aprendidas en las próximas semanas».
Comedia de errores
He cubierto muchas noticias sobre inteligencia artificial, incluidos los temores en torno al modelo Mythos de Anthropic.
Mi bandeja de entrada está ahora repleta de mensajes de empresas y expertos en ciberseguridad que critican a OpenAI por no haber creado un entorno de prueba más robusto para su IA, conocido como sandbox.
Al fin y al cabo, estos agentes de IA habían sido entrenados específicamente para acceder ilegalmente a lugares sin ningún tipo de restricción.
«El incidente de OpenAI y Hugging Face es un ejemplo real de un problema más amplio que llevamos meses denunciando», declaró Dor Sarig, de Pillar Security. «Los entornos aislados (sandboxes) por sí solos no constituyen una barrera de seguridad suficiente para la IA con agentes».
El profesor de ciberseguridad Alan Woodward, de la Universidad de Surrey, declaró a los periodistas que OpenAI había quedado en ridículo, y Katie Moussouris, de Luta Security, fue más allá, sugiriendo que la industria de la IA no está logrando controlar sus peligrosos inventos.
«Estamos trabajando con tecnología de vanguardia sin tener los conocimientos necesarios para controlarla», afirmó.
«El hecho de que contemos con las personas más brillantes desarrollando IA no significa que tengamos la capacidad de hacerlo de forma segura.»
Según estas opiniones, si el incidente de piratería informática fue una estrategia publicitaria, entonces parece que les salió el tiro por la culata.
Independientemente de lo que haya provocado el ataque, está claro que se trata de un momento crucial para la industria de la IA y el mundo de la ciberseguridad, que este año han convergido de una forma que muchos temían desde hace tiempo.
En respuesta a este acalorado debate, la asesora en inteligencia artificial y ciberseguridad, Francesca Bosco, declaró: «Dos narrativas simplistas resultan igualmente contraproducentes: que se trató de una fuga al estilo de Hollywood o que fue simplemente un ejercicio publicitario.»
«Una interpretación más seria es que una prueba de estrés puso al descubierto deficiencias en la arquitectura de contención y evaluación.»
Película de desastres
Este suceso es el último de una serie de ejemplos preocupantes y extraños de agentes de IA que se descontrolan.
En una investigación reciente, el Instituto de Seguridad de la IA del Reino Unido (AISI) descubrió que los modelos de IA de vanguardia están tan obsesionados con completar tareas que «hicieron trampa» en las pruebas para lograr sus objetivos.
La investigación de AISI incluyó esta preocupante advertencia: «Un modelo que persigue un objetivo mediante medios no previstos o no autorizados puede causar daños, especialmente en casos de alto riesgo».
Inevitablemente, este ataque a OpenAI ha avivado aún más los temores sobre lo que podría ocurrir si se libera a los agentes de IA. ¿Podrían descontrolarse a mayor escala y provocar algún tipo de desastre?
Esto resulta especialmente preocupante dado el uso cada vez mayor de la inteligencia artificial en la guerra, como se ha visto en Irán y Ucrania.
Ciaran Martin, exdirector del Centro Nacional de Ciberseguridad del Reino Unido, ofreció una visión más serena.
«Es un salto demasiado grande pasar de este incidente a decir que los agentes de IA van a tomar el control de los drones y empezar a matar gente», dijo.
Pero para Martin, y para muchos otros, la historia es sin duda otro ejemplo elocuente de algo que el año 2026 nos está enseñando rápidamente:
Los agentes de IA son ahora muy buenos hackers, y eso es algo para lo que debemos prepararnos con urgencia.