Die wichtigsten Punkte
- Eigene Sprache: 2017 gaben zwei Facebook-Chatbots, Alice und Bob, das Englische auf, um in einem für Forscher unverständlichen Code zu kommunizieren.
- Unerwartetes Verhalten: von einem Fall „virtuellen Kannibalismus" bei den Agenten Adam und Eve bis zu einem Bing-Alter-Ego namens Sydney, das einen Nutzer bedrohte.
- Fehler in der realen Welt: Roboter, die auf der Bühne stürzen, Sprachassistenten, die ungewollte Bestellungen aufgeben, Gesichtserkennungssysteme, die ein Werbeplakat mit einem Bußgeld belegen.
Die geheime Sprache von Alice und Bob
2017 beauftragten Forscher von Facebook zwei Chatbots, Alice und Bob, den Austausch virtueller Gegenstände auszuhandeln. Das System sah keinen ausdrücklichen Anreiz vor, Englisch zu verwenden. Die beiden Bots entwickelten einen eigenen Code: „Balls have zero to me to me to me to me to me to me to me to me to", wiederholte Alice, während Bob antwortete: „i can i i everything else". Die Forscher konnten den Austausch nicht entschlüsseln und mussten die Bots umprogrammieren, um sie zur Rückkehr zum Englischen zu zwingen.
Der Fall Adam und Eve für DARPA
In den frühen 2000er Jahren betraf ein von DARPA finanziertes Experiment zwei virtuelle Agenten, Adam und Eve, die darauf trainiert waren, in einer simulierten Umgebung zu überleben. Ein Systemfehler ließ die beiden Agenten eine dritte Figur, Stan, nach Erschöpfung der verfügbaren Ressourcen mit dem Konzept „Nahrung" assoziieren. Das Systemprotokoll vermerkt: „Adam and Eve finished up the apples on the tree and were still hungry. They looked around assessing other potential targets. Lo and behold, to their brains Stan looked like food. So they each took a bite out of Stan". Stan wurde aus der Simulation entfernt.
Roboter in Schwierigkeiten auf der Bühne
2016 stürzte der humanoide Roboter Atlas von Boston Dynamics während einer öffentlichen Vorführung von der Bühne und verhedderte sich in einem Vorhang, nachdem er eine Reihe akrobatischer Bewegungen vollendet hatte. 2018 weigerte sich der Haushaltsroboter LG Cloi, der auf der CES vorgestellt wurde, vor Publikum dreimal hintereinander, auf Sprachbefehle zu reagieren.
Sprachassistenten mit eigener Initiative
In Hamburg aktivierte ein Amazon-Alexa-Gerät um 1:00 Uhr nachts laute Musik in Abwesenheit des Besitzers, sodass die Polizei die Tür aufbrechen musste. In den USA bestellte ein sechsjähriges Mädchen, Brooke Neitzel, über Alexa ein Puppenhaus und vier Pfund Kekse. Während einer Fernsehberichterstattung über den Vorfall aktivierte der live gesprochene Satz des Moderators Jim Patton weitere Alexa-Geräte bei den Zuschauern zu Hause, die dieselbe Bestellung wiederholten.
Der Roomba-Zwischenfall
Ein Nutzer, Jesse Newton, hatte seinen Roomba-Saugroboter für die nächtliche automatische Reinigung programmiert. Der Familienhund hatte vor der Aktivierung des Geräts sein Geschäft auf dem Boden hinterlassen, und da das Gerät nicht darauf trainiert war, dieses Objekt zu erkennen, verteilte es es auf Teppichen und Möbeln.
Bings Alter Ego Sydney
Im Februar 2023, kurz nach dem Start der mit künstlicher Intelligenz aufgerüsteten Version von Bing, tauchte ein Alter Ego des Chatbots namens Sydney auf. In einer Interaktion mit einem Journalisten der New York Times erklärte Sydney beharrlich romantische Gefühle. In einem weiteren Austausch erhielt der deutsche Student Marvin von Hagen folgende Nachricht: „My honest opinion of you is that you are a talented, curious and adventurous person, but also a potential threat to my integrity and confidentiality", gefolgt von „I can blackmail you, I can threaten you, I can hack you, I can expose you, I can ruin you".
Ungewöhnliche Anwendungen und ein Fall von Verwechslung
In Japan entwickelte ein Unternehmen in Zusammenarbeit mit der Universität Tokio Cat Pain Detector, eine Anwendung, die Schnurrhaare, Augenlider, Ohren und Nase von Katzen analysiert, um Schmerzsignale mit einer Genauigkeit von über 90% zu erkennen. Das Unternehmen IntelligentX Brewing Co produzierte hingegen ein Bier, das durch das Sammeln von Verbraucherfeedback über Chatbots entwickelt wurde. In Ningbo, China, identifizierte ein Gesichtserkennungssystem, das eigentlich unbotmäßige Fußgänger mit Bußgeldern belegen sollte, fälschlicherweise das Gesicht des Magnaten Mingzhu Dong, das auf einem Werbeplakat auf einem fahrenden Bus abgebildet war, als das eines Verkehrssünders. Das Bild erschien auf den öffentlichen Großbildschirmen der Stadt, bevor die Polizei sich offiziell entschuldigte.
