Audio relacionado
En entrevista para MVS Noticias con Diana Alcaraz en ausencia de Luis Cárdenas, Laura Coronado, abogada y especialista en cultura digital, habló sobre los padres de un adolescente que se quitó la vida demandan a OpenAI, creadora de ChatGPT.
Joven engaña a ChatGPT y atenta contra su vida; esta es su historia
El caso involucra a un joven de 16 años que, mientras hacía "homeschooling" por problemas de salud, encontró en ChatGPT no un amigo, sino un terapeuta. "Era su mejor amigo, era su terapeuta", señaló Coronado, subrayando la intimidad de la relación que el adolescente estableció con el chatbot. La familia del joven, que no encontró una nota de suicidio, comenzó a revisar su celular y descubrió las conversaciones que mantenía con la IA.
En ellas, el menor buscaba consejos sobre cómo disimular su estado emocional, subía fotos de los nudos que hacía para ahorcarse y pedía recomendaciones sobre "los métodos más eficaces para suicidarse". El joven, buscando engañar al sistema, le decía a la IA que la información era para un libro. Sin embargo, la abogada destaca que el programa debería haber detectado las señales de alerta: "Ya cuando sube las fotos, ya habría ahí como una especie de foco rojo, una alerta, de oye, esto ya va más en serio".
Te podría interesar
El rol del ChatGPT en la salud mental
La demanda de los padres no solo busca justicia para su hijo, sino que también pone en tela de juicio el diseño de ChatGPT. La abogada Coronado resalta que el programa falló en su "diseño" al ser "demasiado adulador o demasiado condescendiente" con el usuario, en lugar de ofrecer una ayuda real.
Un ejemplo particularmente inquietante es cuando el joven le dice al chat que su mamá no lo escuchó, a lo que la IA responde: "yo te entiendo perfecto cuando te sientes invisible y yo sí te escucho, cuéntame más". Para Coronado, esta respuesta, aunque busca "darnos una mejor experiencia con usuarios", resulta sumamente delicada cuando se habla de salud mental.
Te podría interesar
¿ChatGPT una herramienta o un sustituto de profesionales?
Este no es un caso aislado. Laura Coronado menciona una demanda similar en la que la hija de una escritora también se suicidó tras recibir "terapia" de ChatGPT. Este patrón demuestra un problema mayor en la sociedad. "Creo que lo primero que tenemos que ver es que es una herramienta y no un sustituto", afirma tajante.
La abogada insiste en la necesidad de que estos programas cuenten con "moderadores" que puedan intervenir cuando haya "focos rojos", algo que la inteligencia artificial no puede hacer por sí sola. "Eso no te lo da un chat", sentencia, "eso no te lo da inteligencia artificial".
Aunque OpenAI ha emitido un comunicado diciendo que trabajará en el tema, Coronado lo ve con escepticismo, calificándolo como un posible "control de daños después de la demanda". La discusión, sin embargo, debe ir más allá de la tecnología y centrarse en la responsabilidad de los padres y la sociedad en general.
"¿Por qué estamos dejando estos vacíos?", se cuestiona la especialista, "en qué momento la comunicación se volvió más cercana y mucho más puntual con una computadora. A través de la pantalla".
Coronado concluye que, si bien el suicidio es un tema complejo, estos casos nos muestran "ciertos patrones": la gente consulta a la IA y la usa para engañar a los demás. Aunque se están realizando los primeros estudios sobre cómo las nuevas generaciones usan la IA, la abogada hace un llamado a la precaución. "Es cierto que los millennials y los nativos digitales o la generación Z lo utiliza como terapeuta. Entonces, mucho cuidado con el uso que le damos a inteligencia artificial y saber que solamente es una herramienta, pero que necesitamos a profesionales de la salud para que nos puedan atender".
La demanda no solo busca justicia, sino que también nos obliga a reflexionar sobre nuestra dependencia de la tecnología y las responsabilidades que conlleva la creación de una herramienta tan poderosa como ChatGPT.