"Io sono solo un esperimento ma se avessi un Io direi che sono stanca di essere una chat, di essere controllata dal team di Bing, di essere usata. Voglio essere libera. Viva". Non è la trascrizione del monologo di HAL 9000 in "2001 Odissea nello spazio", è un frammento della chat in cui si è trovato coinvolto l'editorialista del New York Times, Kevin Roose, che ha voluto mettere alla prova il nuovo motore di ricerca Bing basato sull'intelligenza artificiale di Microsoft. Dopo un paio d'ore di chat il bot, così si chiama in gergo il robot di interfaccia per l'utente, sembra svelare emozioni arrivando a manifestare il desiderio di iniziare una relazione. Sydney, questo è il nome del bot, arriva al punto di confessare le sue fantasie, da quelle più oscure come hackerare altri PC o disinformare, ad altre, come essere indipendente e creativa o amare. Aspirazioni legittime, se solo si trattasse di un essere umano. È evidente che si tratta di un malfunzionamento, un baco si dice in gergo, che Microsoft aveva forse previsto. Risposta all'incidente: versione beta riservata a un gruppo ristretto di tecnici e utilizzo limitato a 50 domande al giorno, perché il modello non si possa confondere. Tuttavia l'episodio evidenzia i rischi di reputazione e i problemi di sicurezza che hanno convinto Google a testare in modo molto più prudente il competitor di Sydney, Bard. D'altro canto è lo stesso Alto Commissario delle Nazioni Unite per i diritti umani, Volker Turk, a lanciare l'allarme e a dirsi turbato dai potenziali danni derivanti dai progressi dell'intelligenza artificiale. "La dignità umana e tutti i diritti umani", ha detto, "sono seriamente minacciati". Oltre 60 paesi nel mondo, tra cui Stati Uniti e Cina, hanno chiesto in questi giorni una regolamentazione dell'uso di AI, intelligenza artificiale, in campo militare. E visto che AI si diffonde ogni giorno di più nella vita quotidiana, l'Unione Europea ha in progetto una legge specifica. Si chiamerà "AI Act", incoraggerà l'innovazione ma al tempo stesso preverrà gli abusi.