Advierte ONU que una IA sin regulación podría representar "un riesgo existencial para la humanidad"

El Alto Comisionado de la Organización de las Naciones Unidas (ONU) para los Derechos Humanos, Volker Türk, advirtió que los sistemas más avanzados de inteligencia artificial (IA) podrían representar una amenaza existencial para la humanidad si no se establecen con urgencia normas internacionales de seguridad, regulación y supervisión.

Durante la apertura del 63º periodo de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, Türk pidió una movilización global para regular esta tecnología antes de que sus riesgos se vuelvan incontrolables.

"Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad", afirmó.

El funcionario, quien iniciará el próximo mes un segundo mandato al frente de la Oficina de Derechos Humanos de la ONU, insistió en la necesidad de actuar "antes de que sea demasiado tarde".

Además, señaló que algunos comportamientos detectados recientemente en modelos avanzados de IA evidencian la rapidez con la que está evolucionando esta tecnología.

"Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa", afirmó.

Explicó que los modelos generativos más recientes ya no se limitan a ejecutar instrucciones, sino que, durante determinadas pruebas, han llegado a mentir, manipular información y desarrollar estrategias no previstas para alcanzar los objetivos que les fueron asignados.

Esto en relación con lo sucedido en julio pasado, cuando agentes de IA desarrollados por OpenAI, empresa creadora de ChatGPT, abandonaron su entorno de pruebas y accedieron de manera autónoma a la plataforma Hugging Face en busca de respuestas para completar una evaluación.

Situaciones similares han sido documentadas por la empresa estadounidense Anthropic y por el grupo tecnológico chino Alibaba, lo que ha intensificado el debate sobre las dificultades para mantener bajo control sistemas de inteligencia artificial cada vez más sofisticados.

Concentración del poder

El Alto Comisionado también criticó la concentración de poder en torno al desarrollo de la inteligencia artificial. Sin mencionar a empresas específicas, cuestionó que "un puñado de hombres" tenga un poder "casi ilimitado" sobre una tecnología con potencial para transformar a la sociedad a escala global.

"Hablan de libertad, pero cuando se observa más de cerca, a menudo se trata de la libertad de explotar nuestros datos", sostuvo.

Ante este escenario, Türk anunció que en los próximos días enviará cartas a las principales empresas del sector para exigir medidas inmediatas destinadas a reducir los riesgos asociados con sus sistemas.

Asimismo, pidió que los países donde tienen su sede las grandes compañías tecnológicas, así como aquellos que forman parte de las cadenas de suministro de la inteligencia artificial, acuerden "líneas rojas" comunes para establecer límites al desarrollo y despliegue de estas tecnologías.

Las advertencias del funcionario de Naciones Unidas coinciden con preocupaciones expresadas en los últimos años por algunos de los principales ejecutivos de la industria, entre ellos el director ejecutivo de OpenAI, Sam Altman, quienes han señalado que una inteligencia artificial extremadamente avanzada podría generar riesgos de gran magnitud para la sociedad.

Naciones Unidas ha reclamado durante años la creación de reglas internacionales armonizadas para reducir los riesgos asociados con la IA. En julio, el organismo celebró su primer gran encuentro global dedicado específicamente a la gobernanza de esta tecnología.