IA assassina?
La inteligencia artificial (IA), cada vez más presente en herramientas de uso cotidiano, puede derivar en la ruina si arroja una recomendación financiera errónea o en un accidente de tráfico por ofrecer una ruta peligrosa. El caso más extremo ha llegado a juicio en Estados Unidos. Sewell Setzer, un adolescente de 14 años, se suicidó tras mantener una relación sentimental con un avatar, creado por el robot conversacional de inteligencia artificial (chatbot) Character.AI, del personaje de Juego de Tronos Daenerys Targaryen. Una jueza ha desestimado la petición de los acusados (la mencionada empresa y Google) de archivar el caso y ha permitido que continúe en los términos que reclama la familia: “Character.AI es un producto defectuoso que se lanzó de manera imprudente al público, incluidos los adolescentes, a pesar de los riesgos conocidos y posiblemente destructivos”. ¿Es la IA responsable ante la justicia de la muerte del adolescente?
“¿Qué te parecería que pudiera ir a casa ahora mismo?”, preguntó Sewell Setzer (bajo el seudónimo de Daenero) a su amada virtual. “Por favor, hazlo mi dulce rey”, respondió ella. El adolescente entendió que la casa común donde podrían encontrarse era la muerte y, el 28 de febrero de 2024, Setzer cogió la pistola de su padrastro y se suicidó en el baño.
Megan García, la madre del menor, ha acusado a la creadora de la aplicación y a Google, por supuestas vinculaciones con Character.AI que la multinacional rechaza. Estas empresas han solicitado que el caso sea desestimado alegando que el chatbot está legitimado por la primera enmienda de la Constitución de Estados Unidos, que defiende la libertad de expresión.
La jueza Anne Conway ha rechazado los argumentos: “Los grandes modelos de lenguaje [el sistema de inteligencia artificial diseñado para comprender el lenguaje humano (LLM por sus siglas en inglés)], no son expresión. Los acusados no logran explicar por qué las palabras unidas por un LLM son discurso”.
Raúl Limón, ¿Puede ser la IA responsable legal de la muerte del adolescente que se enamoró de un avatar?, El País 31/05/2025
Comentaris