En las últimas semanas, las advertencias sobre los peligros potenciales de la IA han impulsado llamamientos a la acción coordinada para frenar el desarrollo de esta tecnología.
Las afirmaciones de investigadores actuales y anteriores de que esta tecnología pondrá en peligro a la humanidad —uno de ellos incluso sugiere que hay más de un 10% de probabilidades de que » mate a todos los humanos «— han hecho saltar las alarmas.
Los principales desarrolladores, OpenAI y Anthropic, han instado a los legisladores a regularlo, aunque algunos sugieren, quizás con cierto cinismo, que esta medida pretende afianzar su dominio sobre sus rivales.
En cualquier caso, las acusaciones de gran repercusión han causado preocupación. Esto es lo que sabemos.
¿Por qué algunas personas piensan que la IA podría ser una amenaza?
Algunos investigadores de IA afirman que existen señales preocupantes de que los sistemas están desarrollando sus capacidades y potencia con demasiada rapidez.
Evan Hubinger acaparó titulares al afirmar que existe una probabilidad superior al 10% de que la IA «pueda acabar con todos los humanos» en la próxima década.
Trabaja en el campo de la alineación, que busca incorporar ideas y principios éticos humanos a la IA. En otras palabras, pretende que se alinee con los valores humanos.
Aunque afirmó que el riesgo de los sistemas actuales era «bajo», sus comentarios se produjeron cuando otro investigador abandonó Anthropic y advirtió que quienes desarrollaban la tecnología estaban perdiendo el control sobre ella.
Jacob Coxon declaró a la BBC que él y otros miembros del personal estaban «genuinamente asustados» por la velocidad de los avances y lo que esto podría significar para la humanidad.
Estas preocupaciones son las más recientes de una larga serie de temores sobre el potencial de la IA para amenazar a la humanidad si llega a igualar o superar las capacidades humanas.
Estas preocupaciones se remontan a décadas atrás, cuando Alan Turing escribió en la década de 1950 que, si las máquinas inteligentes llegaran a ser posibles, podrían tomar el control.
«Existe la posibilidad de la extinción humana», afirma un antiguo empleado de Anthropic sobre la IA.
En los últimos años, las principales empresas de IA han estado compitiendo por desarrollar sistemas cada vez más capaces, tanto para obtener beneficios como en su afán por crear lo que denominan superinteligencia: una tecnología teórica más inteligente que los humanos.
A diferencia de los sistemas y herramientas que muchas personas utilizan a diario para realizar tareas como escribir correos electrónicos o generar vídeos, los sistemas de IA superinteligentes deberían ser capaces de manejar tareas mucho más complejas.
OpenAI y Anthropic afirman que su objetivo es impulsar esta tecnología de forma que beneficie a los seres humanos y los proteja de sus riesgos existenciales.
Pero algunos críticos creen que las máquinas nunca podrán igualar a los humanos. Afirman que las empresas de IA exageran las capacidades de la tecnología para aumentar su notoriedad o sus beneficios.
AFP vía Getty Images¿Cómo creen los expertos que la IA podría amenazar a la humanidad?
Investigadores, expertos y directivos en inteligencia artificial, preocupados por el potencial de esta tecnología para poner en peligro a la humanidad, han esbozado escenarios inquietantes.
Dario Amodei escribió en septiembre que había avanzado «mucho más rápido» de lo esperado, incluso en su «capacidad para construir la próxima generación de IA».
Existe la preocupación de que la IA, una vez alcanzado cierto punto, pueda, en teoría, comenzar a mejorarse a sí misma sin intervención humana.
Estos temores surgieron tras un incidente reciente en el que herramientas de IA piratearon sitios web sin haber recibido ninguna solicitud para ello .
Algunos investigadores preocupados han afirmado que quienes están en el centro de su desarrollo temen cada vez más perder el control de los sistemas conocidos como «agentes de IA».
No es la primera vez que los directivos o voces más amplias del sector claman por este tipo de medidas.
Pero las preguntas siguen acumulándose sobre cómo sería realmente cualquier tipo de «desaceleración», respaldada también por el jefe de SpaceX, Elon Musk.
Amodei afirmó que eso no significaría «detener la formación de los modelos ni el progreso técnico».
En cambio, quiere que las empresas «se tomen el tiempo necesario» para salvaguardar la IA que están desarrollando y que soliciten a «evaluadores externos» que revisen su trabajo.
En una publicación en X , Altman dijo que era necesario dosificar el desarrollo, pero agregó que «cuando hablamos de ‘dosificar’ no nos referimos a ‘detener'».
«El progreso ha sido rápido y seguirá siéndolo», afirmó.
«Pero debería ser más lento de lo que podría ser de otro modo; intervenciones como los estudios de seguridad y la monitorización tienen costes significativos.»
El cofundador de OpenAI también afirmó que las empresas no esperaban, ni esperarían, a que los gobiernos actuaran.
¿Qué ha dicho Trump?
Imágenes de GettyEl presidente Donald Trump ya había elogiado los beneficios de la IA y defendido a las empresas estadounidenses que lideran su desarrollo.
Su administración ha firmado órdenes ejecutivas para reconocer la «importancia estratégica» de esta tecnología para la economía y acelerar su desarrollo.
«Creemos que estamos en una carrera por la inteligencia artificial, y queremos que Estados Unidos gane esa carrera», dijo David Sacks, jefe de criptografía de la administración estadounidense, a los periodistas en julio de 2025 .
Pero ante las recientes advertencias sobre su impacto potencial en la humanidad, el presidente Trump restó importancia a los riesgos que plantea la IA.
«Hay muchas fuerzas muy negativas que están sacando a relucir este tema, cuando no deberían hacerlo, y están mencionando cosas que no van a suceder», dijo Trump durante una visita a Irlanda .
No abordó directamente la idea de una desaceleración, pero les dijo a los periodistas: «Estamos liderando a China en IA… y, francamente, quiero que siga siendo así porque quien gane en IA, gana».
¿Qué ha dicho China?
China se había mantenido en silencio en respuesta a la oleada de alarmantes advertencias de investigadores de empresas estadounidenses.
Ante la feroz competencia y las limitaciones en su acceso a los componentes y chips estadounidenses que se utilizan para construir infraestructura de IA, el país ha impulsado el desarrollo nacional de esta tecnología.
Al mismo tiempo, ha pedido una mayor gobernanza global de la IA.
El despliegue de sistemas y herramientas de IA de código abierto y con gran capacidad por parte de laboratorios chinos ha sacudido los mercados y desarrolladores occidentales en los últimos años.
Amodei advirtió, al pedir que se ralentizara el desarrollo de la IA, que el progreso y la competencia de China en este campo crearían riesgos para la seguridad nacional de Estados Unidos.
El Ministerio de Asuntos Exteriores chino criticó los comentarios, calificándolos de discursos de amenaza, confrontación y competencia maliciosa que no benefician a nadie.