El proceso electoral 2024 ya está en marcha y los riesgos que vienen para la autoridad electoral son muchos y variados, pero destaca uno que pude ser irruptor por su complejidad e innovación: el uso de la Inteligencia Artificial (AI).
Si bien esta tecnología ha traído impactos positivos, también es innegable que el uso negativo de la misma ha comenzado a generar preocupación entre los diferentes sectores sociales.
Una de las áreas en las que ya se comenzó a usar y que se espera que tome un amplio impulso es en las campañas políticas, las cuales a partir de este mes y hasta mayo de 2024 será el pan de cada día.
Te podría interesar
La doctora en derecho por la UNAM, Amada María Arley Orduña, dijo que el uso de estas herramientas de AI en audios y videos, donde es aparentemente complejo distinguir una voz humana y una voz clonada, crea una afectación directa en la percepción del elector, su razonamiento y finalmente en su criterio y toma de decisiones.
Te podría interesar
En un artículo publicado en la Revista Jurídicas, la experta destacó que en el caso de las adelantadas elecciones de coordinadores para las campañas electorales presidenciales de México para el año 2024, se ha visto la aplicación de AI generativa por parte de los seguidores de Xóchitl Gálvez, del Frente Amplio por México con la creación de videos con contenido de imágenes y voz de la candidata, un contenido que busca ser congruente con la narrativa que la candidata diseña de sí misma.
El caso Ebrard y su voz con AI
La especialista se refirió al caso donde el 14 de septiembre del año 2023 se difundió por redes sociales, en especial TikTok, un audio en el que Marcelo Ebrard, excanciller y exaspirante a la candidatura de Morena a la Presidencia donde expresó: "A ver, ¡esto ya no tiene vuelta! Lo que nos hicieron, no es sólo a nosotros, ¡es al país! Por eso hay que tomar una decisión, la que realmente vaya con los preceptos por los que estábamos en Morena. Ya vieron Zacatecas, así no era. Comiencen a acercarse a la gente de Xóchitl. Ella trae esa misma visión que nosotros. De todas maneras, ya estamos en las pláticas".
Ante la revelación de este audio, Daniel Millán, uno de los exportavoces del ex canciller, declaró en X -antes Twitter-, que “la grabación se generó con Inteligencia Artificial y era parte de una “guerra sucia”.
"Pero, para los estudiosos de derecho e inteligencia artificial este caso es de suma relevancia y también para la sociedad. ¿Cuál es la verdad?, ¿cómo saber si efectivamente es un audio generado a través de una IA generativa?", señala la experta y destaca que en la actualidad, no existe una herramienta IA que ayude a distinguir una voz humana de una voz clonada
Los desafíos para la autoridad electoral
Otro de los riesgos de la AI es la creación de imágenes, videos o fotografías falsas a partir de textos.
En este sentido el profesor-investigador de la Facultad de Ingeniería de la UNAM, Jesús Savage Carmona, destacó que a las nuevas herramientas también se les puede ordenar que generen videos o imágenes falsas o fotografías alteradas.
“Existen otras redes neuronales generativas como la llamada Dalí, a la cual por medio de texto le podemos decir que genere este video o imágenes falsas; podremos decir: oye, genérame un video de un político besándose con otra política. Entonces, imagínense que esto va a pasar en las elecciones el próximo año con videos e imágenes falsas”, alertó.
De esta forma y ante la presencia de las campañas políticas de cara a las elecciones de 2024, Amada María Arley Orduña dijo que los casos de uso de la Inteligencia Artificial en el ámbito político, es apenas una muestra de lo que la autoridad electoral podría enfrentar en los siguientes meses, y sobre lo que tendrá que indagar con relación a la verdad sobre cada asunto.
"Si sostengo mi hipótesis de que la autoridad electoral tiene que desarrollar una oficina para detectar y analizar este tipo de casos, me parece que el grupo de trabajo debería estar constituido por un equipo transdiciplinario de expertos en análisis de audio y video; personal que haga seguimiento a las campañas en redes sociales y abogados en materia electoral", indicó.
El proceso electoral 2024 ya está en marcha y los riesgos que vienen para la autoridad electoral son muchos, especialmente ante el uso de la Inteligencia Artificial (AI).