La secretaria de Tecnología, Liz Kendall, ha pedido a X de Elon Musk que se ocupe urgentemente del uso de su chatbot de inteligencia artificial Grok para crear imágenes deepfake sexualizadas no consensuadas de mujeres y niñas.
La BBC ha visto varios ejemplos en X de personas que le piden al bot que desnude digitalmente a otras para que aparezcan en bikini sin su consentimiento, además de ponerlas en situaciones sexuales.
Kendall dijo que la situación era «absolutamente espantosa» y agregó que «no podemos y no permitiremos la proliferación de estas imágenes degradantes».
«Es absolutamente correcto que Ofcom esté investigando esto con urgencia y cuenta con todo mi apoyo para tomar cualquier medida coercitiva que considere necesaria».
La BBC se ha puesto en contacto con X para solicitarle comentarios.
El domingo, la plataforma emitió una advertencia a los usuarios para que no utilicen Grok para generar contenido ilegal, incluido material de abuso sexual infantil.
En una declaración, Kendall dijo: «Los servicios y operadores tienen la clara obligación de actuar apropiadamente. No se trata de restringir la libertad de expresión, sino de hacer cumplir la ley.
Hemos tipificado como delitos prioritarios el abuso de imágenes íntimas y el ciberexhibicionismo en la Ley de Seguridad en Internet, incluso cuando las imágenes son generadas por IA. Esto significa que las plataformas deben evitar que dicho contenido aparezca en línea y actuar con rapidez para eliminarlo si lo hace.
Esta noticia de última hora se está actualizando y pronto se publicarán más detalles. Actualice la página para ver la versión completa.