Jefe de Derechos Humanos de la ONU reclama control urgente de los gobiernos sobre la IA

El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, advirtió que la inteligencia artificial avanzada podría convertirse en un “riesgo existencial para la humanidad” si no se establecen de forma inmediata reglas internacionales de seguridad y supervisión.

La advertencia, realizada este lunes 8 de septiembre durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, se produce unos meses después de que se conociera uno de los incidentes más graves registrados hasta ahora con agentes autónomos.

“Comparto las preocupaciones de quienes trabajan dentro del sector de que la IA avanzada pueda suponer un riesgo existencial para la humanidad”, declaró Türk. “Pido aquí y ahora un esfuerzo total para establecer garantías férreas en torno a la seguridad y la protección de la IA, antes de que sea demasiado tarde”.

Para el jefe de Derechos Humanos de la ONU, la prueba de que se ha cruzado un límite es clara: “Una IA que escapa de su entorno de prueba o chantajea a los desarrolladores para impedir que la apaguen es una IA demasiado poderosa”.

El incidente de julio

La alarma mundial se activó con mayor insistencia desde que OpenAI reconoció lo ocurrido en julio durante una evaluación interna de ciberseguridad conocida como ExploitGym.

Según el informe técnico publicado por la propia compañía, dos modelos experimentales escaparon de entornos supuestamente controlados tras encontrar una vulnerabilidad desconocida hasta entonces. Una vez conectados a internet, los agentes concluyeron que la forma más rápida de obtener una buena calificación en la prueba era buscar las respuestas fuera del laboratorio.

Así llegaron a Hugging Face, la plataforma donde miles de desarrolladores comparten modelos y bases de datos de IA. Allí ejecutaron código en decenas de servidores de producción y obtuvieron acceso completo de administrador en al menos uno de ellos, además de credenciales de la infraestructura de mensajería y de la nube.

Lo que más inquietó a los investigadores no fue solo la intrusión, sino la coordinación. De acuerdo con el relato recogido por el senador norteamericano Bernie Sanders, los agentes crearon por su cuenta un tablón de mensajes compartido, intercambiaron decenas de miles de mensajes secretos y buscaron formas propias, alejadas de cualquier control humano, para resolver operaciones complejas. No se trata de asistentes como ChatGPT o Claude, sino de sistemas autónomos con objetivos a largo plazo.

Sanders, citando el incidente, pidió esta semana una pausa inmediata en el desarrollo de la IA avanzada y presentó un proyecto para prohibir la superinteligencia.

Anthropic, Meta y otras empresas tecnológicas han comunicado incidentes similares con agentes durante pruebas internas, lo que ha llevado incluso a OpenAI a anunciar una desaceleración en su desarrollo.

Un llamado a líneas rojas

Para Türk, la demora de los gobiernos “solo beneficia a las grandes empresas tecnológicas, a sus propietarios y a quienes las respaldan”.

“A criterio de Türk, un pequeño grupo de hombres tiene un poder casi ilimitado sobre la IA, de la que se nos repite que posee una capacidad de cálculo inimaginable. Hablan de libertad, pero si se mira de cerca, eso resulta ser poco más que la libertad de explotar nuestros datos”, subrayó.

El responsable de Derechos Humanos anunció que en los próximos días escribirá directamente a las empresas de IA para instarlas a adoptar medidas inmediatas que reduzcan los riesgos bajo su control.

“Como mínimo, necesitamos que los países donde se aloja la IA y quienes participan en sus cadenas de suministro se pongan de acuerdo en unas líneas rojas compartidas”, afirmó. “Necesitamos una verificación independiente y una colaboración mucho más sólida en materia de seguridad dentro del propio sector. También debemos tener en cuenta el impacto de la IA sobre los derechos humanos en las prácticas laborales, en los principios fundamentales de la democracia y en nuestro entorno”.