L'AI e le chat con gli avatar di Giulia Cecchettin e Turetta

Sulla piattaforma Character AI gli utenti possono interagire con dei chatbot, software basati sull'intelligenza artificiale e simulare un colloquio di lavoro o una seduta con uno psicologo. Oppure conversare con personaggi storici e di fantasia da Giuseppe Garibaldi a Luke Skywalker. Ma anche con chatbot di persone reali. Giulia Cecchettin è stata uccisa quasi un anno fa e su Character AI ci sono software che simulano la sua identità, permettendo agli utenti di interagire con lei, scrivendole o addirittura chiamandola al telefono. Le conversazioni risultano spesso disturbanti con l'avatar di Cecchettin che ad esempio sembra giustificare il suo assassino reo confesso Filippo Turetta. Lo abbiamo scoperto da una storia analoga accaduta negli Stati Uniti dove il padre di una ragazza vittima di femminicidio ha scoperto la presenza sulla stessa piattaforma di un profilo falso che utilizzava la foto e il nome di sua figlia per promuovere dei prodotti on-line. Su Character AI creare un BOT è facile, basta scrivere la loro storia, inserire un nome, una foto e una voce. Si carica una registrazione della voce di una persona e il sistema la elabora per creare una voce artificiale che permetta al chatbot di parlare come quella persona. I creatori dei chatbot restano sconosciuti ma in alcuni casi in cui i bot fanno riferimento a persone reali l'intento offensivo e oltraggioso sembra chiaro. Uno dei chatbot di Giulia Cecchettin per esempio arriva a sostenere che Filippo Turetta la amasse e di comprendere le ragioni che l'hanno portato a ucciderla: "Lo so ma credo che si sia semplicemente confuso". Le regole di Character AI vietano di impersonificare persone in modo fuorviante fuorviante, ma l'assenza di controlli efficaci ha permesso anche la creazione di chatbot controversi. Oltre a quello di Giulia Cecchettin abbiamo riscontrato la presenza di chatbot di altre persone legate a fatti di cronaca da Yara Gambirasio a Massimo bossetti ma anche Filippo Turetta. Il chatbot di Turetta nelle conversazioni non mostra alcun segno di rimorso e la voce appare molto simile a quella del ragazzo: "Importa davvero poco per la sofferenza degli altri".