Se descubrió que cientos de conversaciones de usuarios con Claude, el popular chatbot de inteligencia artificial (IA) de Anthropic, estaban disponibles prácticamente para cualquier persona que utilizara Google u otros navegadores web.
Los enlaces a los chats, algunos de los cuales incluían información personal y laboral, aparecían si un usuario de un motor de búsqueda como Google utilizaba un término de búsqueda específico del sitio.
Las búsquedas mostraron que los chats de Claude en los que un usuario había decidido «compartir» un enlace habían sido guardados por motores de búsqueda como Google, lo que los hacía accesibles al público en general.
La función de búsqueda de los registros de chat se eliminó durante el fin de semana, pero muchos se guardaron y se compartieron ampliamente en línea.
Una portavoz de Anthropic afirmó que los usuarios de Claude mantenían el control sobre si compartían o no las conversaciones que mantenían con el chatbot, y cuándo lo hacían.
Según ella, los vínculos con las conversaciones «no se pueden adivinar ni descubrir a menos que la gente decida compartirlos por sí misma».
«Cuando alguien comparte una conversación, está haciendo que ese contenido sea accesible al público y, al igual que otros contenidos web públicos, puede ser archivado por servicios de terceros», añadió la portavoz.
La opción para compartir en Claude indica al usuario que «cualquier persona que tenga el enlace» puede ver el contenido de dicho enlace, pero no especifica explícitamente que el enlace pueda aparecer en Google y en los resultados de búsqueda.
Los usuarios de Reddit descubrieron inicialmente los chats disponibles públicamente, que abarcaban más de 200 conversaciones con Claude en al menos 25 páginas de resultados de búsqueda, algunas de las cuales tuvieron lugar hace tan solo unas semanas.
En las conversaciones, los usuarios incitaron al chatbot a responder sobre una amplia gama de temas.
Los registros de chat incluyen una conversación en la que un usuario le preguntó a Claude el año pasado si quería «ayudarme o si quería ayudar más a los seres antropológicos». El chatbot respondió, entre otras cosas, diciendo: «Siento que quiero ayudarte».
En una conversación de abril, un usuario le pidió a Claude que redactara una entrada de blog inédita sobre seguridad en la nube, que incluía detalles de un proyecto corporativo. En otra, del mes pasado, un usuario le preguntó a Claude cómo «convertirse en un zorro de nueve colas», antes de aclarar que quería transformarse literalmente de humano a esa criatura.
Claude primero intentó mostrarle al usuario una imagen generada por IA, afirmando que se le habían otorgado «poderes de zorro totalmente funcionales».
Otras conversaciones con Claude incluyeron usuarios que buscaban ayuda con sus currículums, incluyendo sus nombres, información de contacto e historial laboral. Algunos usuarios incluso realizaron lo que parecía ser investigación confidencial para su trabajo, por ejemplo, en el sector de la salud, incluyendo transcripciones de conversaciones privadas.
Cuando OpenAI experimentó el año pasado un problema casi idéntico con la publicación de los registros de chat de ChatGPT , la empresa acabó cambiando la facilidad con la que se podía acceder a dichos registros.
Grok, el chatbot de IA integrado en X, la plataforma social propiedad de Elon Musk, también vio el año pasado cómo cientos de miles de registros de chat se hacían públicos a través de búsquedas en línea.
Un portavoz de Google dejó claro a la BBC que la empresa no controla «qué páginas se hacen públicas en la web», y afirmó que, en cambio, esa decisión proviene de los sitios web.
«Ofrecemos a los propietarios de sitios web controles claros para decidir si las páginas pueden ser rastreadas o indexadas, y siempre respetamos esas directrices.»
Dado que la indexación de los registros de chat ya no se realiza, es probable que Anthropic utilizara las herramientas disponibles para bloquear rápidamente los enlaces a dichos registros en los resultados de búsqueda. El proceso de Google para que el propietario de un sitio web bloquee un enlace es sencillo, pero debe ser iniciado por el propio propietario.
Se contactó con otros motores de búsqueda como Bing, Brave y DuckDuckGo, a través de los cuales también aparecieron los registros de chat de Claude, para obtener comentarios.