Cada septiembre, una selecta lista de ejecutivos de todo Silicon Valley se da cita en el Palace Hotel de San Francisco para impresionar a los inversores en una conferencia organizada por el banco de inversión Goldman Sachs.
La semana pasada, entre conversaciones sobre crecimiento y posibles beneficios, los gigantes tecnológicos se vieron obligados a abordar la repentina dimisión del investigador de Anthropic, Jacob Coxon.
Coxon, de 27 años, que trabajó en OpenAI antes de unirse a su principal rival, Anthropic, dijo el martes que quienes desarrollan inteligencia artificial (IA) creen que esta tecnología podría destruir a la humanidad.
«Están jugando con nuestras vidas», dijo, «pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa».
Coxon no es, ni mucho menos, el primer experto en IA en dar la voz de alarma públicamente. En los últimos años se han producido varias dimisiones de alto perfil tanto en Anthropic como en OpenAI por aparentes problemas de seguridad, e incluso algunos empleados actuales de Anthropic se hicieron eco de la publicación de Coxon.
«¡Realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que sucederá en más del 10% de los casos en la próxima década», publicó Evan Hubinger, líder de un equipo de Anthropic, en X.
Aunque Coxon afirmó explícitamente en sus publicaciones que sus advertencias «no eran marketing», algunos ejecutivos e inversores de Silicon Valley han reaccionado con escepticismo ante la reciente oleada de personas con información privilegiada que han dado la voz de alarma.
Según se informa, Anthropic y OpenAI se están preparando para ofertas públicas iniciales que podrían batir récords, y algunos en el sector tecnológico han sugerido que los últimos comentarios contundentes sobre los peligros de la IA podrían estar diseñados para generar expectación al señalar el poder de estos productos.
El director de Anthropic, Dario Amodei, ha sido objeto de críticas por afirmar que la tecnología de IA podría eliminar la mitad de los puestos de trabajo de nivel básico para empleados de oficina y que «pondrá a prueba quiénes somos como especie».
Uno de los ponentes de la conferencia, el director ejecutivo de Grindr, George Arison, declaró a la BBC que, en su opinión, los comentarios de Coxon y otros esta semana eran indicativos de una «visión del mundo anticivilizatoria en Anthropic».
Los calificó de «peligrosos» y dijo que le habían llevado a dar instrucciones a algunos ingenieros de la aplicación de citas LGBTQ+ para que dejaran de usar la tecnología de Anthropic.
«Es irresponsable por nuestra parte, como administradores del dinero de nuestros accionistas, confiar en una empresa que hace lo que hace esta compañía, en lo que respecta a sus declaraciones públicas», dijo.
«Tal vez realmente lo crean», dijo Arison. «O se podría argumentar que lo dicen porque es una excelente manera de conseguir más apoyo de los inversores, ya que la única forma de justificar estas valoraciones es afirmar: «Voy a dominar todas las industrias y voy a ocupar todos los puestos de trabajo, y mi IA se encargará de todo ese trabajo»».
Anthropic fue valorada en 965.000 millones de dólares (713.000 millones de libras esterlinas) en su ronda de financiación más reciente, a principios de este año.
La BBC ha solicitado a Anthropic una respuesta a dichas declaraciones.
En un ensayo publicado a primera hora del sábado , Amodei pidió que se ralentizara el desarrollo de modelos de IA y la regulación global, y afirmó que los riesgos asociados a la IA eran «graves».
Imágenes de GettyEl director ejecutivo de Nvidia, Jensen Huang, también habló sobre los comentarios de Coxon ante el público en la conferencia, según informaron varias personas presentes a la BBC. Según estas personas, Huang los desestimó por considerarlos falsos.
Huang ya había dicho anteriormente que la idea de que la IA «va a ser el fin de la humanidad» es «una completa tontería».
Y si bien puede tener un interés comercial en el auge de la IA (Nvidia fabrica chips que impulsan los sistemas de IA), sus comentarios reflejan una creciente reacción en Silicon Valley ante las advertencias existenciales de empleados actuales y antiguos.
Algunos críticos incluso han acusado a Anthropic de sembrar el pánico con la esperanza de que esto desencadene una presión regulatoria que podría eliminar la competencia y dejar a Anthropic y a OpenAI con un duopolio en el sector.
Brad Gerstner, director de la firma de inversión Altimeter Capital, publicó fotos de Huang en la conferencia y acusó a Coxon de «hipérbole ridícula».
El viernes, Clement Delangue, director ejecutivo de la plataforma de IA Hugging Face, dio su opinión al respecto. Hugging Face, cuya adquisición por parte de Nvidia anunció la semana pasada, fue hackeada por agentes de OpenAI a principios de este año, lo que provocó una gran controversia sobre la seguridad de la IA.