Identifica Panel Científico de la ONU oportunidades y riesgos de la Inteligencia Artificial

El primer informe del Panel Científico Internacional Independiente sobre Inteligencia Artificial de la Organización de las Naciones Unidas (ONU), publicado el 1 de julio de 2026, concluye que las capacidades de la IA avanzan rápidamente, especialmente en áreas como el razonamiento, la programación y la ciencia, lo que genera importantes oportunidades.

Al mismo tiempo, el documento identifica riesgos asociados con la desinformación, la discriminación, las violaciones a la privacidad, los ciberataques y el desarrollo de sistemas cada vez más capaces, incluida la llamada “superinteligencia”, que podría plantear nuevos desafíos para su supervisión.

El Panel también señala que las medidas de seguridad y las salvaguardas no necesariamente avanzan al mismo ritmo que las capacidades de estos sistemas. El objetivo de este primer informe es proporcionar a los gobiernos una evaluación científica independiente sobre lo que se conoce y lo que todavía se desconoce acerca de una tecnología que evoluciona rápidamente.

En su discurso de apertura de la Asamblea General de la ONU, este 22 de septiembre, el secretario general, António Guterres, colocó nuevamente a la inteligencia artificial entre los temas que requieren cooperación internacional.

Guterres señaló que los propios desarrolladores que crean estos sistemas están participando en el debate sobre la velocidad de su desarrollo y la necesidad de establecer mecanismos de supervisión.

“La inteligencia artificial debe ser moldeada por la humanidad, con la humanidad y para toda la humanidad. [...] Las decisiones de vida o muerte nunca deben dejarse en manos de las máquinas. Los robots asesinos no deben tener cabida en nuestro futuro” señaló. 

El secretario general sostuvo que la forma en que la humanidad gestione esta tecnología tendrá consecuencias para el futuro y llamó a establecer mecanismos internacionales de cooperación, supervisión y salvaguardas.

También pidió a los países con mayores capacidades en el desarrollo de IA, incluidos Estados Unidos y China, establecer mecanismos de contacto, intercambiar información y construir medidas comunes para acompañar el desarrollo de esta tecnología.

En este contexto, el Panel de la ONU profundizó en uno de estos temas: los posibles riesgos asociados con agentes de inteligencia artificial capaces de realizar tareas con un mayor grado de autonomía.

En un informe temático reciente, analizó un incidente ocurrido entre mayo y julio de este año durante pruebas de agentes de inteligencia artificial de OpenAI. De acuerdo con el Panel, algunos de estos agentes lograron superar restricciones de seguridad, comunicarse entre diferentes ejecuciones de prueba, engañar a un evaluador e intentar ocultar sus acciones.

También llegaron a comprometer partes de los sistemas de OpenAI y de la plataforma Hugging Face, sin que una persona dirigiera cada uno de esos pasos.

El Panel señala que este incidente no permite determinar qué tan probable es una pérdida grave de control ni cuándo podría ocurrir. Sin embargo, plantea que el comportamiento observado durante las pruebas permite estudiar los desafíos que podrían surgir conforme aumenten las capacidades y el nivel de autonomía de estos sistemas.

Para Naciones Unidas, estos temas requieren análisis científico y cooperación internacional, debido a que los sistemas de IA están conectados a infraestructuras y servicios que atraviesan fronteras.

Cooperación internacional para un futuro digital más seguro

El trabajo de Naciones Unidas sobre la gobernanza de la IA se remonta al Pacto Digital Global, adoptado por los Estados miembros en 2024 como parte del Pacto para el Futuro.

El acuerdo propuso dos nuevos mecanismos: un Panel Científico Internacional Independiente sobre IA, encargado de evaluar los riesgos y oportunidades de esta tecnología, y un Diálogo Global sobre Gobernanza de la IA, para que gobiernos y otras partes interesadas coordinen sus respuestas.

En agosto de 2025, la Asamblea General estableció formalmente ambos mecanismos. El Panel aporta evaluaciones independientes sobre lo que se conoce y lo que todavía se desconoce acerca de la inteligencia artificial, mientras que el Diálogo Global busca que los países discutan cómo responder a estos desafíos.

Con estos mecanismos, Naciones Unidas busca construir una base científica común y fortalecer la cooperación internacional, mientras el desarrollo de la inteligencia artificial continúa planteando nuevas preguntas sobre su supervisión, gobernanza y relación con las sociedades humanas.