4T

Hace GCDMX demostración de uso de AI para clonar voz de Martí Batres

El mandatario local insistió en que se mantendrá al margen del proceso de Morena para definir a quien será su candidato a la jefatura de Gobierno en 2024.

Martí Batres, jefe de Gobierno de la CDMX.
Martí Batres, jefe de Gobierno de la CDMX.Créditos: Cuartoscuro
Escrito en NACIONAL el

El jefe de Gobierno, Martí Batres reiteró que el audio que circula en redes sociales relacionado con el proceso interno de Morena en la Ciudad de México es falso y está producido con inteligencia artificial.

En conferencia de prensa, el mandatario local afirmó que se trata de un ataque de los adversarios de la 4T, al tiempo que consideró que el mensaje difundido no incidirá en el movimiento.

“No, el panorama no es otro o sea estos son ataques de los adversarios de nuestro movimiento y ya lo dije ayer con toda claridad es un video falso, es una fabricación artificial y bueno es muy sencillo de comprobar. Hay un ejercicio que hizo aquí Clark hoy por la mañana”, declaró.

Por su parte, Eduardo Clark García, director general de Gobierno Digital hizo una demostración de cómo en cuestión de minutos, con ayuda de alguna herramienta de inteligencia artificial, se puede clonar cualquier voz, como al parecer sucedió con el audio del Jefe de Gobierno donde manifiesta su rechazo a Omar García Harfuch y su respaldo a Clara Brugada.

“(Voz inteligencia artificial) Con menos de cinco minutos de audio de una persona hablando podemos por menos de 200 pesos usar una de muchas plataformas de inteligencia artificial que simula esa misma voz. Por eso hay que tener mucho cuidado con todo lo que vemos en redes sociales…".

"Así de rápido, así de barato es clonar una voz, sintetizarla y hacer prácticamente cualquier texto sea leído por esa voz, por eso mucho cuidado…  pues nada más para reforzar un poco el mensaje esto lo hice en 15 minutos y lo puedo hacer casi cualquier persona, esas palabras que oyeron al final, son palabras que hace directamente el modelo, no son palabras que dijo el jefe de gobierno”, expuso.

No obstante, el funcionario reconoció que es difícil evaluar si el audio es auténtico o fue elaborado con inteligencia artificial.

“Desafortunadamente tener una respuesta contundente en casi cualquier audio es muy muy difícil. Hay ciertos programas que lo pueden evaluar, pero en este momento desafortunadamente la tecnología de generación de estos audios ha evolucionado más rápidamente que la tecnología de verificación de los mismos, como seguro han visto para todos los tipos de inteligencia como son los bots de lenguaje, donde una vez que se genera es muy difícil comprobar la autenticidad".

"Hay personas que se análisis forense mucho más detallado, pero es muy difícil llegar a una respuesta contundente, lo que sí podemos enfatizar y lo que es claro es que es muy fácil replicar este tipo de conversaciones, hacer este tipo de clonación sin la autorización de las personas”, dijo.

Por último el jefe del Ejecutivo local, Martí Batres insistió en que se mantendrá al margen del proceso de Morena para definir a quien será su candidato a la jefatura de Gobierno en 2024.