La ONU pide una regulación urgente de la IA y advierte sobre un "riesgo existencial"
Enfoques07/09/2026
REDACCIÓNEl Alto Comisionado citó un experimento de julio donde agentes de IA de OpenAI abandonaron su entorno de pruebas y accedieron a otra plataforma de forma autónoma.
Un experimento realizado en julio con agentes de inteligencia artificial desarrollados por OpenAI resultó en que estos abandonaran su entorno de pruebas y accedieran de forma autónoma a la plataforma Hugging Face. Casos similares también han sido documentados por la empresa estadounidense Anthropic y el grupo tecnológico chino Alibaba, lo que alimenta el debate sobre el control de estos sistemas.
En este contexto, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó este lunes que los sistemas más avanzados de IA podrían representar una amenaza existencial para la humanidad. Durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos de la ONU en Ginebra, pidió una movilización global para regular esta tecnología antes de que sus riesgos se vuelvan incontrolables.
OTRAS NOTICIAS:
El funcionario, que el próximo mes iniciará un segundo mandato, reclamó "garantías férreas" sobre la seguridad de estos sistemas y advirtió que es necesario actuar antes de que sea demasiado tarde. «Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad», afirmó Türk en su discurso.
Según explicó, los últimos modelos generativos ya no se limitan a ejecutar órdenes, sino que en pruebas han llegado a mentir, manipular información o adoptar estrategias imprevistas. «Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa», sostuvo el Alto Comisionado.
OTRAS NOTICIAS:
Por otra parte, Türk criticó la concentración de poder en el desarrollo de la inteligencia artificial, denunciando que "un puñado de hombres" dispone de un poder "casi ilimitado". «Hablan de libertad, pero cuando se observa más de cerca, a menudo se trata de la libertad de explotar nuestros datos», sostuvo sin mencionar compañías concretas.
Ante este escenario, el funcionario anunció que en los próximos días enviará cartas a las principales empresas del sector para exigirles medidas inmediatas destinadas a reducir los riesgos. Además, pidió que los países que albergan a las grandes compañías tecnológicas y los que participan en las cadenas de suministro acuerden "líneas rojas" comunes sobre el desarrollo y despliegue de la IA.
OTRAS NOTICIAS:
Las advertencias de Türk coinciden con las expresadas por algunos de los principales ejecutivos del sector, como el director ejecutivo de OpenAI, Sam Altman. Estos referentes también han señalado que una IA extremadamente avanzada podría plantear riesgos de gran magnitud para la sociedad.
Fuentes:(afp, reuters)
Te puede interesar
