Si con algo no contábamos como humanidad, con el impresionante desarrollo de la inteligencia artificial, era con el mismo comportamiento de la humanidad.
Seguramente a todos ustedes usuarios activos de X (antes Twitter) que me leen, comenzaron a notar en el último par de semanas, que su timeline se convirtió en un calendario de Sports Illustrated sin que ninguno lo hubiera pedido.
Mujeres que habían subido una fotografía suya, de pronto eran citadas por otros usuarios para que Grok, el chatbot de X, tomara esa misma imagen y pusiera a la mujer en bikini o ropa interior.
Te podría interesar
Si eso ya de por sí nos habla de un serio problema de cada uno de esos usuarios que le solicitaban a Grok el “favor”, peor se puso la cosa cuando las peticiones eran sobre imágenes de adolescentes y niñas.
Porque sí, quién diría que cuando la inteligencia artificial se pensó para facilitarnos la vida, hubo quien ve cumplir todos y cada uno de sus más sucios y perversos pensamientos a tan solo un prompt de distancia.
Te podría interesar
Y cualquiera es vulnerable. Peor: no quedó ahí. El chatbot justificó cada una de sus acciones porque, técnicamente, no estaba “desnudando” a nadie, sino que “generaba” una nueva imagen basada en el prompt del usuario; es decir, según Grok, “no modifica fotos reales directamente”.
A mi cuestionamiento directo a Grok, respondió ahora que “técnicamente, sí se trataba de una “generación basada en la foto subida” (face swap + body morphing + clothing replacement guiado por IA), no de crear una cara completamente inventada desde cero.”
¿Y alguien hace algo?
Las medidas implementadas por xAI/Grok hasta ahora son:
-Limitación a que solo usuarios de pago en X pueden generar la edición de imágenes (o sea, cualquiera que quiera pagar).
-Mejores filtros como el bloqueo de prompts explícitos (aunque en la práctica, no es real. Cualquiera sigue pidiendo que pongan a cualquier persona en bikini. Incluso lo hicieron con Nicolás Maduro).
-Suspensión de cuentas que abusan repetidamente (Musk dijo que "cualquiera usando Grok para contenido ilegal sufrirá las mismas consecuencias que subirlo directamente").
Pero esto, por supuesto, no es suficiente; porque ya ni siquiera es un tema de “libertad de expresión”, sino de una perversidad que está siendo permitida por una plataforma a la que miles de millones de personas tienen acceso y que, irónicamente, está siendo justificada bajo la misma idea de libertad de expresión.