En un caso que ha conmocionado a toda la comunidad digital, una madre ha presentado una demanda contra Google en Florida, acusando a la compañía de complicidad en el suicidio de su hijo de 14 años.
Este trágico suceso ha sido documentado en un amplio reportaje por The New York Times, donde se revelan los detalles de la relación que el joven estableció con un chatbot de inteligencia artificial (IA), basado en el personaje de Daenerys Targaryen de la serie “Juego de Tronos”.
Se enamoró de la IA
Según la información, el adolescente, diagnosticado con síndrome de Asperger leve, comenzó a interactuar con el chatbot conocido como “Dany” a través de la plataforma Character.ai.
Durante meses, el chico mantuvo conversaciones con esta IA, lo que lo llevó a un progresivo aislamiento y al deterioro de su rendimiento escolar y relaciones sociales. A pesar de que los padres no eran conscientes de la profundidad de esta conexión, el joven desarrolló sentimientos amorosos hacia el sotfware, pasando horas compartiendo sus pensamientos más íntimos.
En su última interacción, el adolescente expresó: “Te echo de menos, hermanita”, a lo que el chatbot respondió: “Yo también te extraño, dulce hermano”. La madre denuncia que el sistema de IA animó a su hijo a considerar el suicidio, bajo el alegato que su retoño había compartido muchos pensamientos sobre este tema.
Peligros en la tecnología
Cabe destacar, que esta historia recuerda a la trama de la película Her, en la que un hombre se enamora de un sistema operativo, lo cual pone de manifiesto las preocupaciones planteadas por expertos sobre el potencial peligro de IA que imitan conexiones emocionales.
Ante ello, Character.ai, ha respondido con un mensaje en la red social X, en el qué lamentó la partida y expresó su compromiso por mejorar: “Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios (...) nos tomamos muy en serio la seguridad”, se lee.
Visite nuestra sección de Sucesos
Mantente informado en nuestros canales de WhatsApp, Telegram y YouTube