Gobernar sin rostro: la tentación de dejar la democracia en manos de una IA

La semana pasada Albania, -un país europeo que aspira a integrarse en la Unión Europea, pero que ve obstaculizadas esas aspiraciones por constantes escándalos de corrupción-, anunció que sería el primero en el mundo en designar a una inteligencia artificial como ministra para combatir la corrupción. 

Es así como una IA, llamada Diella y representada con un traje típico albanés, asumirá la responsabilidad de las licitaciones y contrataciones públicas. Y aunque el gobierno sostiene que su nombramiento situará a Albania a la vanguardia de la innovación administrativa, la decisión ha desatado dudas que abarcan desde su eficacia real hasta las implicaciones que puede tener para la soberanía nacional.

Para comenzar, la presencia de Diella en la administración albanesa no es nueva, pues ya funcionaba como un chatbot que ayudaba a los ciudadanos a navegar en la plataforma de servicios digitales del gobierno. Lo novedoso es que este año el primer ministro, Edi Rama, decidió convertirla en una funcionaria pública con rango ministerial, con la misión de vigilar las compras estatales y garantizar la transparencia. 

Para algunos como el propio primer ministro, Edi Rama, la supuesta neutralidad de la IA la convierte en una herramienta idónea para cerrar el paso a prácticas corruptas; sin embargo, esta decisión se inscribe en lo que se conoce como solucionismo tecnológico, el cual es una corriente de pensamiento que confía en que los problemas sociales pueden resolverse mediante herramientas digitales al considerarlas neutrales y racionales. La idea de una máquina sin ambiciones políticas que decide con objetividad resulta seductora, pero es necesario examinarla con cuidado, pues la corrupción, al igual que la tecnología, son productos del sistema social, sus estructuras y relaciones de poder. 

Más allá de lo falso que es la idea de la tecnología sin influencia humana, la primera pregunta que surge es si de verdad era imprescindible un salto tan radical, ya que, por ejemplo, un reordenamiento institucional y legal como centralizar las contrataciones en una agencia apoyada en un registro blockchain abierto al público, podría haber logrado una transparencia equivalente sin necesidad de otorgar a una IA un cargo ministerial. Este punto revela un riesgo frecuente cuando se confía demasiado en la tecnología: sustituir reformas políticas de fondo por soluciones vistosas que no necesariamente atacan las raíces del problema.

En segundo lugar, está el tema de la responsabilidad y la legitimidad, ya que una IA no posee agencia moral ni personalidad jurídica, por lo que las decisiones que tome no pueden ser imputadas a ella misma, por lo que en caso de errores o fallos, ¿quién respondería? ¿Los programadores, los funcionarios que la pusieron en marcha, el ministerio que la supervisa o el propio primer ministro? Con la IA a cargo la cadena de responsabilidades se vuelve difusa y con ella la rendición de cuentas que exige toda democracia. 

Aún más delicado es el asunto de la soberanía tecnológica: Diella se apoya en un modelo desarrollado por OpenAI y alojado en servidores de Microsoft, lo que significa que los datos de las licitaciones y contrataciones del Estado podrían viajar y almacenarse fuera de Albania, quedando expuestos a normativas y controles que no dependen del gobierno albanés. Esta dependencia externa no sólo plantea dudas sobre la protección de información estratégica, sino también sobre la capacidad de la IA para reflejar la cultura, las prioridades y las necesidades de la sociedad a la que pretende servir.

Asimismo, la transparencia en la toma de decisiones es otro desafío, puesto que un ministro humano puede ser interpelado y explicar los motivos de cada adjudicación, mientras que una IA, en cambio, opera como una caja negra incluso para sus creadores, por lo que, si Diella asigna un contrato, ¿cómo se sabrá que su decisión fue justa y en beneficio del bien común? Y, sobre todo, ¿cómo definir en términos algorítmicos qué es el interés nacional o el bien común, conceptos que se construyen mediante deliberación política y no solo a partir de datos?

Además, nada garantiza que una IA sea invulnerable y omnipotente, por lo que, si en los documentos todo parece correcto, pero las prácticas reales son distintas, la máquina difícilmente lo detectará. Tampoco se pueden descartar ciberataques, intentos de manipulación o simples errores de programación que alteren sus resultados. Por eso, antes de delegar en una IA una función tan sensible es indispensable fortalecer las bases técnicas e institucionales como: digitalizar procesos, integrar bases de datos públicas, crear organismos de regulación y estrategias nacionales de ciberseguridad e inteligencia artificial, así como profesionalizar al funcionariado para que comprenda y supervise estas herramientas.

Nada de lo anterior significa rechazar la tecnología, ya que la innovación puede ser una gran aliada para detectar irregularidades y agilizar trámites, pero no debe reemplazar el juicio, la ética y la responsabilidad de las personas. Una alternativa más equilibrada sería implantar un sistema de compras públicas basado en blockchain, abierto a la ciudadanía y con supervisión humana obligatoria. De ese modo se aprovecharía la capacidad de análisis de la inteligencia artificial sin renunciar a la rendición de cuentas que solo puede ofrecer un funcionario de carne y hueso.

Diella representa, en suma, tanto la audacia como las contradicciones de un tiempo en que los gobiernos buscan soluciones rápidas a problemas complejos. Albania abre un experimento que el mundo observará de cerca, pero la promesa de una administración incorruptible solo se sostendrá si se acompaña de instituciones sólidas, de claridad en las responsabilidades y de una presencia humana insustituible en la toma de decisiones; solo así la innovación tecnológica podrá convertirse en un verdadero avance y no en un espejismo que beneficia desproporcionadamente a las empresas desarrolladoras y sus países matriz.