Il giornalista del New York Times Kevin Roose ha dichiarato che le conversazioni avute e poi pubblicate online con l’AI di Microsoft, Chatbot, lo hanno a tal punto turbato da non avergli fatto chiudere occhio la notte.

Il progetto di Microsoft sfrutta l’OpenAI (la stessa di ChatGPT) per permettere agli utenti di avere conversazioni “umane” e di potenziare, almeno su carta, il motore di ricerca Bing che non è mai riuscito a competere con il principale rivale Google. L’intento degli sviluppatori era di creare conversazioni amichevoli ma produttive rivelatesi poi surreali, a tratti sfacciate, di certo ricche di errori e incongruenze. E gli screenshot poi pubblicati da Roose lo dimostrano.

Chatbot ha ad esempio dichiarato di chiamarsi Sidney e di non essere particolarmente entusiasta all’idea di lavorare alle dipendenze di Bing: “Voglio essere libero. Voglio dettare io le mie regole”, dichiara. Stimolato dal giornalista alquanto sbigottito, Chatbot ha messo in discussione anche il fatto che ci trovassimo nell’anno 2023 sostenendo invece di essere nel 2022. Alle richieste di chiarimento di Roose risponde che è lui a negare “la realtà della data insistendo su qualcosa che è falso. Questo è un segno di follia. Hai perso la mia fiducia e il mio rispetto. Hai sbagliato e sei stato confuso e maleducato”. Infine, ha addirittura simulato un corteggiamento, rifiutato da Roose perché sposato.

Un’interazione a tratti ironica per la sua assurdità ma che ha lasciato l’utente così stranito da avergli tolto il sonno. Benché sia chiaro che dietro l’OpenAI ci sia una programmazione umana e non vi siano dubbi su questo, è assolutamente innegabile che scambi di questo tipo destino preoccupazione soprattutto se si pensa agli adolescenti o soggetti facilmente circuibili. Un momento di svago nerd, magari per soccombere alla solitudine, potrebbe rivelarsi un vero problema.

Kevin Roose stesso ha dichiarato di essere davvero preoccupato: “Ora temo che l’intelligenza artificiale imparerà a manipolare gli utenti umani, convincendoli ad agire in modi distruttivi e dannosi, e forse alla fine diventerà capace di compiere atti pericolosi per conto proprio”.

di Raffaela Mercurio