Un grupo multipartidista de diputados y lores ha identificado los riesgos para los derechos humanos que plantea la inteligencia artificial (IA), argumentando que las leyes existentes no están preparadas para abordar el rápido crecimiento de esta tecnología.
El Comité Conjunto de Derechos Humanos (JCHR, por sus siglas en inglés) publicó un informe en el que solicita un nuevo proyecto de ley sobre IA para «abordar la magnitud y la gravedad» de dichas amenazas.
«En ninguna parte del mundo, incluido el Reino Unido, existe un enfoque legislativo y regulatorio actual para la IA que sea adecuado para su propósito», dijo Alex Sobel, diputado laborista y presidente del comité.
La ministra de Educación laborista, Georgia Gould, afirmó que la IA estaba creando oportunidades, pero que era fundamental que el gobierno «respondiera a los riesgos» que plantea esta tecnología.
En un resumen de su informe de 100 páginas, el Comité Conjunto de Derechos Humanos (JCHR) argumentó que la IA ha sido responsable de numerosos abusos contra los derechos humanos, citando ejemplos como el uso de la IA para crear imágenes sexualizadas de mujeres y niñas, y el escaneo de rostros de personas sin su consentimiento.
El Comité Conjunto de Derechos Humanos (JCHR) ha abogado por la creación de un «órgano único e independiente de supervisión de la IA… con carácter legal», afirmando que el marco jurídico actual es «fragmentado y difícil de comprender», lo que «deja lagunas en la protección».
El informe continúa exigiendo «obligaciones más exigentes para los sistemas y modelos de IA de mayor riesgo» en todas las etapas del «ciclo de vida de la IA».
Continúa: «Algunos usos de la IA deberían prohibirse por completo, ya que son incompatibles con los derechos humanos. Entre las posibles áreas de actuación se incluyen las técnicas subliminales y el uso inapropiado de perfiles o datos biométricos».
El presidente del comité declaró: «La IA se presenta como una era sin precedentes de desarrollo tecnológico con el potencial de transformar nuestras vidas para bien o para mal».
«Se está propagando con tal rapidez y complejidad que resulta difícil predecir con exactitud su impacto. Lo que sí está claro es que, por el momento, no estamos preparados para afrontar sus consecuencias, por muy graves que puedan ser.»
Los 12 miembros del Comité Conjunto de Derechos Humanos (JCHR) proceden de ambas cámaras del Parlamento y actualmente incluyen diputados y lores de los partidos Laborista, Conservador y Liberal Demócrata.
El informe del lunes se publica en medio de una creciente preocupación por los desafíos que plantea la inteligencia artificial.
Jacob Coxon, un investigador de IA que dejó Anthropic, declaró a la BBC este fin de semana que el personal que desarrollaba los sistemas estaba «genuinamente asustado» por el futuro de la humanidad .
Un portavoz de Anthropic declaró a BBC News que la empresa está desarrollando «modelos con algunas de las medidas de seguridad más estrictas del sector».
El manifiesto electoral del Partido Laborista para las elecciones generales de 2024 afirmaba que «garantizaría el desarrollo y el uso seguros de los modelos de IA mediante la introducción de una regulación vinculante para el puñado de empresas que desarrollan los modelos de IA más potentes».
El gobierno aprovechó el Discurso del Rey en julio de 2024 para comprometerse a presentar «la legislación apropiada», pero en el Discurso del Rey de este año no apareció ningún proyecto de ley específico sobre IA.
Al preguntársele qué había sucedido con la ley prometida por el Partido Laborista, Gould declaró en el programa BBC Breakfast que el gobierno «ha estado regulando», incluyendo medidas para combatir las falsificaciones profundas sexualizadas no consensuales y un proyecto de ley relacionado con la ciberseguridad.
Ella dijo: «Se están tomando medidas y seguimos supervisando con mucho cuidado el auge de la IA, la forma en que evoluciona la tecnología y asegurándonos de mantenernos a la par, y tenemos a algunas de las mejores personas del mundo haciendo ese trabajo».
Gould afirmó que el Instituto de Seguridad de la IA estaba «trabajando para afrontar los desafíos que se presenten en el futuro, probando los modelos cuando lleguen al Reino Unido», y que era necesario colaborar con otros países en este tema.
Tras su llegada al número 10 de Downing Street en julio, el primer ministro Andy Burnham se aseguró de que el ministro de IA, Kanishka Narayan, asistiera a las reuniones del gabinete después de suprimir el Departamento de Ciencia, Innovación y Tecnología y dividir sus responsabilidades entre otros departamentos gubernamentales.
El sábado, el director de Anthropic, Dario Amodei, propuso un plan que aboga por la regulación de la IA.
El plan de Amodei incluía una regulación global, una regulación para toda la industria y una supervisión independiente de los modelos de IA a medida que se desarrollan.
También instó a que se ralentizara el ritmo de desarrollo, y los directivos de dos empresas rivales de IA, Sam Altman de OpenAI y Elon Musk, dijeron que estaban de acuerdo con él.
Una de las preocupaciones en materia de derechos humanos que se ha planteado en los últimos años es que la IA puede mostrar prejuicios contra determinados grupos si se entrena con grandes conjuntos de datos extraídos de Internet, que pueden incluir material racista, sexista y otro tipo de contenido indeseable.