Audio relacionado
Los deepfakes, videos, imágenes y audios creados mediante inteligencia artificial (IA) para simular o fabricar contenidos de forma realista, son un fenómeno en expansión.
En 2025 se habrían compartido 8 millones de los denominados materiales “ultrafalsos”, un aumento estratosférico comparado con los 500 mil de 2023.
Si bien los deepfakes tienen aplicaciones en el entretenimiento y la creatividad, también son utilizados para divulgar noticias falsas, crear contenido no consensuado y socavar la confianza en los medios digitales.
Te podría interesar
La Comisión Europea estima que el material pornográfico representa alrededor del 98 por ciento de los deepfakes.
Si bien no se trata de un fenómeno nuevo, sí es nueva la forma acelerada como se están generando gracias a la evolución de la inteligencia artificial.
Te podría interesar
El tema no es menor, estos materiales suponen un riesgo para los niños al ser más susceptibles a prácticas nocivas en línea. También causa daños a las personas que son víctimas, al ver vulnerada su privacidad, su reputación.
Henna Virkkunen, comisaria europea responsable de Soberanía Tecnológica, la Seguridad y la Democracia:
“La difusión de imágenes íntimas no consentidas y sexuales, deepfakes, nos recuerdan que las nuevas tecnologías traen consigo nuevas formas de riesgo que exigen una acción rápida y eficaz”.
En Europa, el tema se encuentra en el centro de prioridades, tras el último escándalo relacionado con las denuncias de que la plataforma de redes sociales X está facilitando la creación de imágenes sexualmente explícitas de mujeres y niños a través de su chatbot con inteligencia artificial Grok.
La plataforma de Elon Musk ha sido objeto de condena internacional y varios gobiernos han optado por prohibirla. De arranque, la Comisión Europea ha iniciado una investigación.
Virkkunen señaló, “Los casos recientes, como la creación y difusión de imágenes sexuales no consentidas de mujeres y niños en X, la herramienta de IA Grok, son totalmente inaceptables. Actualmente estamos analizando en qué medida X puede estar infringiendo la DSA (Ley de Servicios Digitales) y no dudaremos en tomar medidas adicionales si la evidencia así lo sugiere”.
El Parlamento Europeo ha pedido a la Comisión que actúe con mayor firmeza y aplique a Grok y a los titanes tecnológicos que operan bajo protección del Gobierno de Donald Trump, la legislación europea de servicios digitales.
La Eurocámara afirma que la UE no puede continuar con los brazos cruzados frente a la generación de contenidos ilegales generados por la inteligencia artificial, los cuales afectan principalmente a niños y mujeres.