La Policía Cibernética lanzó una alerta a usuarios de la red pública de internet, sobre los riesgos que niñas, niños y adolescentes, enfrentan al utilizar herramientas de inteligencia artificial (IA), ya que puede generar respuestas con contenido sesgado, violento o erróneo, informó la Secretaría de Seguridad Ciudadana (SSC).
Destacó que el uso de herramientas de inteligencia artificial como Google Gemini por parte de menores de edad, “representa un riesgo creciente debido a la manera en que estas plataformas interactúan, recopilan datos y generan contenido, y al no estar diseñadas específicamente para niños y adolescentes, pueden mostrar información inapropiada, sesgada o falsa”.
Otro factor de riesgo es la recolección de datos personales, muchos jóvenes sin plena conciencia de lo que comparten, pueden ingresar nombres, ubicaciones, gustos o problemas personales en la plataforma.
Te podría interesar
No siempre hay controles suficientes
Aunque Google establece políticas de privacidad, no siempre hay controles suficientes para evitar que estos datos sean recopilados, almacenados o incluso utilizados con fines publicitarios, esto vulnera su derecho a la privacidad y los deja expuestos a usos indebidos de su información.
Además, “el uso sin supervisión de Gemini puede generar una dependencia tecnológica o emocional, la capacidad del modelo para responder con lenguaje natural puede hacer que los menores formen una relación de confianza excesiva con la herramienta, usándola para resolver dudas emocionales o personales”, indicó la SSC.
Te podría interesar
La Policía Cibernética aclaró que está el riesgo de que la Inteligencia Artificial refuerce estereotipos o sesgos presentes en sus datos de entrenamiento, ya que los menores podrían absorber visiones distorsionadas sobre temas como género, cultura o salud mental, afectando su percepción del mundo.
La SSC sostuvo que es fundamental que el uso de herramientas de Inteligencia Artificial en menores de edad sea monitoreado, acompañado por adultos no y respaldado por marcos legales y educativos que garanticen su seguridad digital.
Aunque aun no se han registrado casos específicos en Ciudad de México, la Policía Cibernética de la SSC emite diversas recomendaciones preventivas para proteger a los menores de edad len el uso de herramientas digitales e inteligencia artificial.
Estos podrían ser aplicables como la creación de hábitos de navegación seguros, fomentar rutinas digitales saludables, como establecer horarios limitados para el uso de Internet y evitar la navegación en sitios desconocidos y utilizar motores de búsqueda con filtros infantiles.
Además, no Iinteractuar con desconocidos en línea, instruir a los menores para que nunca compartan información personal ni mantengan conversaciones con personas que no conocen, incluso si aparentan ser de su misma edad, entre otras..
@amarilloalarcon