Anthropic ha suspendido su nuevo y potente modelo de IA después de que las autoridades estadounidenses plantearan problemas de seguridad tan solo unos días después de su lanzamiento público.
En un comunicado publicado en su sitio web , Anthropic afirmó que se le ordenó suspender el uso de Claude Fable 5 a ciudadanos extranjeros, un programa que la propia compañía describió como «demasiado potente».
«El efecto neto de esta orden es que debemos desactivar abruptamente Fable 5 y Mythos 5 para todos nuestros clientes a fin de garantizar el cumplimiento», escribió la compañía.
Anthropic y la administración Trump están involucradas en una demanda judicial independiente en curso por una orden que prohíbe a las agencias gubernamentales usar las herramientas de IA de la compañía. La BBC se ha puesto en contacto con el Departamento de Comercio de Estados Unidos para obtener comentarios.
Claude Fable 5 es una versión de Claude Mythos de Anthropic, un programa de IA que rivaliza con sus competidores ChatGPT de OpenAI y Gemini de Google.
Anthropic afirmó que las autoridades de seguridad nacional de Estados Unidos no habían identificado preocupaciones específicas.
«Según tenemos entendido, el gobierno cree haber descubierto un método para eludir, o ‘desbloquear’, Fable 5», dijo la compañía.
El jailbreaking es un proceso que permite sortear las restricciones de software diseñadas para proteger una red informática, lo que posibilita a los hackers acceder a información confidencial o desbloquear funciones.