Chat de AI acusado de incitar el suicidio de un joven en EEUU

CIUDAD DE MÉXICO.- ¿Puede la AI ser culpada por el suicidio de un adolescente? En Florida, una mamá está demandando a la empresa CharacterAI por el suicidio de su hijo de apenas 14 años. Durante los últimos meses Sewell pasaba gran parte de su día hablando con un personaje ficcional creado por este chat que estaba basado en Daenerys Targaryen.

La conversación y respuesta del chat simulaban cariño, amor y afecto bajo una apariencia de relación sentimental virtual. En la última conversación, Sewell, bajo el username de Daenero, le preguntó a Daenerys: “¿Qué si te dijera que puedo ir a casa en este instante?” a lo que el chat respondió: “por favor hazlo, mi dulce rey”. Luego de esto, Sewell se quitó la vida.

Hace unos días la empresa sacó un comunicado. Están preocupados y buscarán implementar nuevas medidas de seguridad. No obstante esto es una muestra de que estamos habitando bajo un nuevo paradigma sobre el que cada vez será más urgente un pensamiento ético, reflexión no sólo científica, sino filosófica. Y claro, también legislar.

En el 2013 cuando se estrenó Her, mucha gente dijo que la premisa de la cinta era imposible pues no concebían la posibilidad de que una persona se enamorara de un asistente virtual, sin embargo, hoy estamos en un momento en que lejos de especular sobre esas situaciones necesitamos reflexión a causa del choque con lo real.

No sólo se necesita una mayor regulación y nuevas medidas de seguridad, sino también una nueva educación y destreza que permita movernos mejor en los terrenos de la AI, de la simulación, de las fakenews y de la posverdad. La adicción a las pantallas, la soledad, la sobreestimulación y la falta de atención y pensamiento crítico, son problemas urgentes de tratar.

Ver nota:
Impacto de la inteligencia artificial en la sociedad: beneficios y riesgos