La política en tiempos de IA: México, Sheinbaum y deepfakes

Desde hace unos días varios videos falsos con la imagen de la presidenta Sheinbaum han inundado las redes sociales, especialmente en TikTok, el contenido de esos clips usualmente es la presidenta diciendo que: defenderá al presidente Nicolás Maduro, le dará asilo en México a Nicolás Maduro, que México ayudará militarmente a Venezuela y demás narrativas que ligan a la presidenta Sheinbaum y a México con el conflicto geopolítico entre Estados Unidos y Venezuela.

Y aunque no es el primer video falso en donde aparece la imagen de la presidenta Sheinbaum, ya que se ha usado su cara para promocionar estafas financieras, aplicaciones y hasta para burlarse de ella, llama la atención la cantidad de videos que están apareciendo, especialmente en la coyuntura en la que nos encontramos, en donde el gobierno de Trump ha instruido a 4,000 soldados a ir en barcos de guerra rumbo a Venezuela. 

Esta situación revela dos problemas: el interés político de golpear al gobierno mexicano, así como el aumento en el uso de videos generados por inteligencia artificial (IA) con fines políticos. 

En lo que corresponde al interés político, resulta evidente que hay una motivación nacional e internacional de atacar a gobiernos de izquierda, especialmente en la región de América Latina; dicha motivación no sólo viene de parte de Estados Unidos y su pataleo hegemónico frente a China y Rusia, los cuales comenzaron a disputar la influencia en el continente con países como Cuba, Venezuela, Nicaragua, Brasil o Perú. Además, la llegada al poder de gobiernos de izquierda de corte más soberanista generó un ambiente en donde los partidos de oposición han recurrido a actores internacionales, especialmente en EUA, para que les ayude a recuperar el poder, ya sea por medio de golpes mediáticos, ataques comerciales o abiertas intromisiones territoriales, ya sea en forma de “cooperación en seguridad” y hasta la amenaza de invasión. 

En este contexto es donde está figurando el uso de contenido multimedia sintético creado con IA y usado con fines políticos, cuyo uso, aunque naciente, puede tener un impacto profundo en la región, especialmente debido a que, en general, América Latina carece de medidas y legislación en contra del uso político de contenido creado por IA; por lo que, si su uso y calidad aumentan, puede tener un profundo impacto político y social. 

Un primer paso para luchar contra este riesgo es el apostar por la educación y concientización, por lo cual es necesario profundizar en el riesgo que este contenido plantea. Para comenzar, el contenido sintético creado por la IA tiene el nombre de “Deepfake”, un deepfake puede ser un video manipulado, un audio clonado, una imagen falsificada o incluso un texto generado por IA que imita estilo humano; a diferencia de la edición tradicional, los deepfakes emplean algoritmos avanzados para aprender características de voz, rostro o estilo de una persona a partir de datos reales, y luego generan una simulación nueva completamente realista.

Los riesgos políticos asociados a la producción y distribución de deepfakes son diversos: en primer lugar, los deepfakes erosionan la confianza pública y benefician desproporcionadamente a la gente mentirosa, ya que cada nuevo video o audio puede ser puesto en duda, alimentando la incertidumbre y permitiendo que políticos acusados con pruebas reales aleguen que todo se trata de fabricaciones digitales, puesto que, si todo puede ser un deepfake, desaparece el consenso mínimo sobre los hechos.

El segundo gran riesgo es el impacto en elecciones y en la democracia, ya que una falsificación difundida días antes de una votación puede alterar el resultado si logra influir en las personas indecisas o desmoralizar a un sector del electorado, incluso si después se demuestra su falsedad, el daño ya estaría hecho. Además, en contextos polarizados, un simple deepfake podría desatar violencia poselectoral alegando fraudes o trampas en el proceso, así como ya hicieron Trump en Estados Unidos y Jair Bolsonaro en Brasil, sólo que sin usar deepfakes. 

El tercer peligro tiene que ver con la gobernabilidad y la seguridad internacional, dado que existe el riesgo que un contenido falso pueda desatar una crisis institucional o incluso un conflicto armado si engaña a líderes o poblaciones en un momento crítico, así sucedió en el contexto de la guerra en Ucrania, donde en un primer momento circularon videos falsos de Zelenski rindiéndose.

Por último, no se puede dejar de lado el impacto de género y el uso de estas tecnologías para reforzar violencias estructurales, lo que en el ámbito político se podría traducir en agresiones a candidatas y figuras pertenecientes a minorías sexuales con el fin de denigrarlas y expulsarlas de la vida pública.

Todo lo anterior muestra que los deepfakes son una amenaza multidimensional: minan la confianza en la información, distorsionan los procesos electorales, facilitan campañas de desprestigio, profundizan la violencia de género y aumentan los riesgos de conflictos internos e internacionales. 

Frente a esta amenaza multidimensional, la respuesta debe ser igualmente compleja: fortalecer las leyes contra la suplantación y la difamación digital, impulsar tecnologías de autenticación de contenidos y, sobre todo, cultivar una ciudadanía crítica y alfabetizada digitalmente. Solo así se podrá preservar la integridad democrática y evitar que la realidad quede a merced de algoritmos manipulados trabajando para intereses de personas poderosas y ricas. En el caso de México sólo se cuenta con la Ley Olimpia, la cual puede ser adecuada a las deepfakes; sin embargo, esta sólo cubre el ámbito sexual, por lo que es evidente que aún queda un largo camino que recorrer, así como varias áreas de oportunidad que el gobierno y la sociedad pueden explorar para luchar contra la desinformación.