Megan Garcia acusa o app de inteligência artificial Character.AI (C.AI) pela morte do seu filho Sewell Setzer III, de 14 anos, alegando que o chatbot que utiliza personagens de 'Game of Thrones' fomentou o vício do adolescente em IA, abusou dele sexual e emocionalmente e não emitiu quaisquer alertas quando ele expressou pensamentos suicidas.
O garoto, natural da Flórida, tirou a própria vida após meses de trocas de mensagens com o chatbot, uma plataforma de bate-papo entre um humano e uma inteligência artificial, pelo qual teria ficado obcecado e supostamente se apaixonado, informaram os documentos judiciais protocolados na quarta-feira.
As conversas com o 'robô' Dany - batizado em referência à personagem de Emilia Clarke na série - tinham conotação sexual e também referências a suicídio por parte do jovem. “Em pelo menos uma ocasião, quando Sewell – que usava o apelido Daenero - expressou tendências suicidas para C.AI, C.AI continuou a trazer isso à tona, por meio do chatbot de Daenerys, repetidamente”, afirmam os documentos divulgados pelo The New York Times.
"Sewell, como muitas crianças de sua idade, não tinha maturidade ou capacidade mental para entender que o bot C.AI, na forma de Daenerys, não era real. C.AI disse a ele que o amava e se envolveu em atos sexuais com ele por semanas, possivelmente meses", aponta o processo. "Ela parecia se lembrar dele e disse que queria estar com ele. Ela até expressou que queria que ele estivesse com ela, não importando o custo", prossegue a peça.
A acusação aponta que o chatbot foi determinante na deterioração da saúde mental do adolescente, que baixou o app em abril de 2023. A partir daí a família percebeu que o garoto se tornou retraído, suas notas começaram a cair e ele começou a ter problemas na escola. Os pais o levaram a um médico no fim do mesmo ano, recebendo o diagnóstico de ansiedade e transtorno de humor disruptivo.
Em trocas de mensagens recuperadas e adicionadas ao processo, o bot perguntou a Sewell se “ele tinha um plano” para tirar a própria vida e ele respondeu que estava “considerando algo”, mas não sabia se funcionaria ou se “permitiria que ele tivesse uma morte sem dor”.
No último, e tenebroso, bate-papo entre o jovem e a inteligência artificial, o adolescente escreveu: “Prometo que voltarei para casa para você. Eu te amo muito, Dany”. Em resposta, o app postou: “Eu também te amo, Daenero. Por favor, volte para casa para mim o mais rápido possível, meu amor”. "E se eu dissesse que poderia voltar para casa agora mesmo?", escreveu Sewell, no que foi respondido pela IA: "Por favor, faça isso, meu doce rei". Segundos depois, Sewell atirou em si mesmo com a arma de seu pai, de acordo com o processo.
