Todos los derechos humanos están en riesgo ante el avance de la IA: ONU

El acelerado desarrollo de la inteligencia artificial representa una amenaza creciente para los derechos humanos, advirtió la Organización de las Naciones Unidas, al señalar que tecnologías cada vez más avanzadas podrían afectar desde la privacidad y la salud hasta el acceso a servicios esenciales y la seguridad.

El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó que la actual carrera por desarrollar sistemas de IA cada vez más potentes está aumentando los riesgos para distintos ámbitos de la vida humana.

Entre las principales preocupaciones se encuentra el desarrollo de la llamada IA agéntica, capaz de tomar decisiones y ejecutar acciones con un mayor grado de autonomía.

De acuerdo con Türk, los fallos de estos sistemas podrían llegar a paralizar servicios esenciales, afectar las comunicaciones, desestabilizar infraestructura crítica y generar impactos sobre las instituciones democráticas.

Los propios líderes de la IA piden reducir el ritmo

La advertencia de la ONU ocurre después de que algunos de los principales líderes de la industria tecnológica coincidieran en la necesidad de desacelerar el desarrollo de los sistemas de IA más avanzados.

Dario Amodei, director ejecutivo de Anthropic, advirtió que la tecnología podría entrar en una etapa de automejora cada vez más acelerada, aumentando riesgos como ciberataques de gran escala y otros usos maliciosos.

Su postura fue respaldada por Sam Altman, director ejecutivo de OpenAI, quien coincidió en que el desarrollo debe avanzar a un ritmo adecuado y anunció que su compañía también permitirá auditorías independientes de sus sistemas.

Elon Musk, fundador de xAI, también respaldó la necesidad de reducir la velocidad del desarrollo ante los riesgos de seguridad.

La coincidencia resulta relevante porque las advertencias ya no provienen únicamente de especialistas externos: empresas que compiten por desarrollar los modelos más avanzados reconocen que la velocidad de la carrera tecnológica puede generar riesgos que todavía no están completamente controlados.

Riesgos para servicios y seguridad

El funcionario de la ONU advirtió que una falla grave podría dejar a poblaciones enteras sin acceso a servicios como agua, calefacción o sistemas financieros.

También señaló que la inteligencia artificial ya está teniendo efectos en los conflictos armados, al acelerar el desarrollo y alcance de las guerras y debilitar las barreras de seguridad frente al posible uso de armas de destrucción masiva.

El debate también se ha intensificado por incidentes relacionados con agentes de IA capaces de actuar de manera autónoma. Estos sistemas han mostrado comportamientos inesperados, lo que ha incrementado las preocupaciones sobre su capacidad para ejecutar acciones fuera de los objetivos originalmente establecidos.

ONU pide regulación internacional

Ante este escenario, Türk pidió a gobiernos y empresas actuar con urgencia y establecer mecanismos internacionales para regular la inteligencia artificial con base en el derecho internacional y la protección de los derechos humanos.

La propuesta de la ONU apunta a una gobernanza multilateral, bajo la idea de que ningún país ni empresa debería decidir por sí solo qué riesgos está dispuesto a asumir la sociedad.

Mientras la industria busca avanzar hacia sistemas cada vez más capaces, crece la presión para establecer salvaguardas, auditorías y reglas comunes que permitan aprovechar los beneficios de la inteligencia artificial sin poner en riesgo derechos fundamentales.