Con la Reforma Electoral, México se sumaría a otros países en regulación de Inteligencia Artificial en procesos electorales

La reforma en materia electoral enviada por la presidenta Claudia Sheinbaum contempla un apartado sobre el uso y regulación de material generado con Inteligencia Artificial en los procesos electorales.

El proyecto tiene como objetivo regular el contenido relacionado a los procesos electorales que sea modificado o generado con inteligencia artificial, el cual, de acuerdo con el artículo 41, apartado “C” "deberá estar etiquetado por su emisor para su identificación en los términos que establezca la ley", esto con el fin de que no se utilicen materiales generados con esta tecnología para difundir información falsa o engañosa.

Este no es un caso aislado. Ante el rápido desarrollo de la inteligencia artificial y su capacidad para generar imágenes, audios y videos falsos, diversos países han comenzado a establecer regulaciones para evitar que estas tecnologías sean utilizadas para manipular procesos electorales.

Uno de los casos es el de la Unión Europea, que aprobó en 2024 la legislación conocida como AI Act, considerada el primer marco integral para regular el desarrollo y uso de la inteligencia artificial, y en él se incluyen obligaciones de transparencia en el marco de los procesos electorales. El Parlamento Europeo avaló el texto final el 13 de marzo de 2024 y posteriormente fue ratificado por el Consejo de la Unión Europea en mayo del mismo año.

Entre sus disposiciones, se exige que cuando un video, imagen o audio generado con IA pueda parecer real, se indique claramente que se trata de contenido artificial. Además, la legislación contempla que las plataformas digitales identifiquen material generado por inteligencia artificial, especialmente durante periodos electorales.

En el caso de Estados Unidos, aún no existe una ley federal única que regule el uso de inteligencia artificial en campañas electorales. Sin embargo, varios estados han comenzado a legislar sobre el tema.

Por ejemplo, los estados de California y Texas aprobaron en 2019 normas que limitan o sancionan la difusión de deepfakes políticos durante los procesos electorales. El objetivo es evitar la circulación de videos manipulados de candidatos en momentos críticos de las campañas, como los días previos a la votación.

Estados como Michigan y Colorado aprobaron en 2023 leyes que obligan a incluir advertencias cuando la propaganda política utiliza contenido generado o alterado digitalmente, el cual se aplica en contextos actuales al uso de inteligencia artificial.

En Brasil, el Tribunal Superior Electoral emitió en 2024 reglas específicas para las elecciones, con el fin de prohibir o controlar el uso de deepfakes durante las campañas. En estas se incluyó también la obligación de informar cuando un contenido fue generado con IA y restricciones al uso de chatbots o avatares que simulen ser candidatos o personas reales.

Estas disposiciones también contemplan la coordinación con plataformas digitales para detectar y, en su caso, retirar contenido manipulado que pueda afectar la integridad del proceso electoral.

La aparición de estas regulaciones responde a los riesgos que plantea el uso de inteligencia artificial generativa en la política. Actualmente es posible crear audios falsos de candidatos, videos en los que un político aparenta decir algo que nunca declaró o imágenes manipuladas que parecen completamente reales.