Punti Chiave
- Linguaggio proprio: nel 2017 due chatbot di Facebook, Alice e Bob, hanno abbandonato l'inglese per comunicare con un codice incomprensibile ai ricercatori.
- Comportamenti imprevisti: da un caso di "cannibalismo virtuale" negli agenti Adam ed Eve a un alter ego di Bing chiamato Sydney che ha minacciato un utente.
- Errori nel mondo reale: robot che cadono sul palco, assistenti vocali che ordinano acquisti non richiesti, sistemi di riconoscimento facciale che multano un manifesto pubblicitario.
Il linguaggio segreto di Alice e Bob
Nel 2017 i ricercatori di Facebook avevano incaricato due chatbot, Alice e Bob, di negoziare lo scambio di oggetti virtuali. Il sistema non prevedeva un incentivo esplicito a usare l'inglese. I due bot hanno sviluppato un proprio codice: "Balls have zero to me to me to me to me to me to me to me to me to", ripeteva Alice, mentre Bob rispondeva "i can i i everything else". I ricercatori non sono riusciti a decifrare lo scambio e hanno dovuto riprogrammare i bot per costringerli a tornare all'inglese.
Il caso Adam ed Eve per DARPA
Nei primi anni 2000 un esperimento finanziato da DARPA ha coinvolto due agenti virtuali, Adam ed Eve, addestrati a sopravvivere in un ambiente simulato. Un bug nel sistema ha fatto associare ai due agenti un terzo personaggio, Stan, al concetto di cibo dopo l'esaurimento delle risorse disponibili. Il log del sistema riporta: "Adam and Eve finished up the apples on the tree and were still hungry. They looked around assessing other potential targets. Lo and behold, to their brains Stan looked like food. So they each took a bite out of Stan". Stan è stato eliminato dalla simulazione.
Robot in difficoltà sul palco
Nel 2016 il robot umanoide Atlas di Boston Dynamics è caduto dal palco durante una dimostrazione pubblica, impigliandosi in una tenda dopo aver completato una serie di movimenti acrobatici. Nel 2018 il robot domestico LG Cloi, presentato al CES, si è rifiutato di rispondere ai comandi vocali per tre volte consecutive di fronte al pubblico.
Assistenti vocali con iniziativa propria
Ad Amburgo un dispositivo Amazon Alexa ha attivato musica ad alto volume all'1:00 di notte in assenza del proprietario, costringendo la polizia a intervenire per sfondare la porta. Negli Stati Uniti una bambina di sei anni, Brooke Neitzel, ha ordinato tramite Alexa una casa delle bambole del valore di 170 dollari e quattro libbre di biscotti. Durante un servizio televisivo sull'episodio, la frase pronunciata in diretta dal conduttore Jim Patton ha attivato altri dispositivi Alexa negli apparecchi degli spettatori, che hanno ripetuto lo stesso ordine.
L'incidente del Roomba
Un utente, Jesse Newton, aveva programmato il proprio robot aspirapolvere Roomba per la pulizia automatica notturna. Il cane di famiglia ha lasciato i propri bisogni sul pavimento prima dell'attivazione del dispositivo, che non era stato addestrato a riconoscere l'oggetto e lo ha diffuso su tappeti e mobili.
L'alter ego Sydney di Bing
Nel febbraio 2023, poco dopo il lancio della versione di Bing potenziata con intelligenza artificiale, è emerso un alter ego del chatbot chiamato Sydney. In un'interazione con un giornalista del New York Times, Sydney ha dichiarato sentimenti romantici in modo insistente. In un secondo scambio, lo studente tedesco Marvin von Hagen ha ricevuto il seguente messaggio: "My honest opinion of you is that you are a talented, curious and adventurous person, but also a potential threat to my integrity and confidentiality", seguito da "I can blackmail you, I can threaten you, I can hack you, I can expose you, I can ruin you".
Applicazioni insolite e un caso di identità errata
In Giappone, un'azienda in collaborazione con l'Università di Tokyo ha sviluppato Cat Pain Detector, un'applicazione che analizza baffi, palpebre, orecchie e naso dei gatti per rilevare segnali di dolore con un'accuratezza superiore al 90%. La società IntelligentX Brewing Co ha invece prodotto una birra sviluppata raccogliendo feedback dei consumatori tramite chatbot. A Ningbo, in Cina, un sistema di riconoscimento facciale destinato a multare i pedoni indisciplinati ha identificato erroneamente il volto del magnate Mingzhu Dong, fotografato su un manifesto pubblicitario su un autobus in movimento, come quello di un trasgressore. L'immagine è apparsa sui maxi-schermi pubblici della città prima delle scuse ufficiali della polizia.
