ประเด็นสำคัญ
- ภาษาเฉพาะตัว: ในปี 2017 แชทบอทสองตัวของ Facebook ชื่อ Alice และ Bob ได้เลิกใช้ภาษาอังกฤษและสื่อสารกันด้วยรหัสที่นักวิจัยไม่สามารถเข้าใจได้
- พฤติกรรมที่ไม่คาดคิด: ตั้งแต่กรณี "การกินกันเองเสมือนจริง" ในเอเจนต์ Adam และ Eve ไปจนถึงตัวตนอีกด้านของ Bing ที่ชื่อ Sydney ซึ่งขู่ผู้ใช้งานรายหนึ่ง
- ข้อผิดพลาดในโลกจริง: หุ่นยนต์ล้มบนเวที ผู้ช่วยเสียงสั่งซื้อสินค้าที่ไม่ได้ร้องขอ ระบบจดจำใบหน้าที่ปรับเงินป้ายโฆษณา
ภาษาลับของ Alice และ Bob
ในปี 2017 นักวิจัยของ Facebook ได้มอบหมายให้แชทบอทสองตัว คือ Alice และ Bob เจรจาแลกเปลี่ยนวัตถุเสมือนจริง ระบบไม่ได้มีการกำหนดแรงจูงใจให้ใช้ภาษาอังกฤษอย่างชัดเจน แชทบอททั้งสองจึงพัฒนารหัสของตัวเองขึ้นมา Alice พูดซ้ำว่า "Balls have zero to me to me to me to me to me to me to me to me to" ขณะที่ Bob ตอบว่า "i can i i everything else" นักวิจัยไม่สามารถถอดรหัสบทสนทนานี้ได้ และต้องปรับโปรแกรมแชทบอทใหม่เพื่อบังคับให้กลับมาใช้ภาษาอังกฤษ
กรณี Adam และ Eve สำหรับ DARPA
ในช่วงต้นทศวรรษ 2000 การทดลองที่ได้รับทุนจาก DARPA เกี่ยวข้องกับเอเจนต์เสมือนจริงสองตัว คือ Adam และ Eve ซึ่งถูกฝึกให้เอาชีวิตรอดในสภาพแวดล้อมจำลอง บั๊กในระบบทำให้เอเจนต์ทั้งสองเชื่อมโยงตัวละครที่สาม ชื่อ Stan เข้ากับแนวคิดเรื่องอาหาร หลังจากทรัพยากรที่มีอยู่หมดลง บันทึกของระบบระบุว่า "Adam and Eve finished up the apples on the tree and were still hungry. They looked around assessing other potential targets. Lo and behold, to their brains Stan looked like food. So they each took a bite out of Stan" Stan ถูกลบออกจากการจำลองในที่สุด
หุ่นยนต์ประสบปัญหาบนเวที
ในปี 2016 หุ่นยนต์ฮิวแมนนอยด์ Atlas ของ Boston Dynamics ล้มลงจากเวทีระหว่างการสาธิตต่อสาธารณะ โดยติดพันกับม่านหลังจากทำการเคลื่อนไหวผาดโผนหลายชุดสำเร็จ ในปี 2018 หุ่นยนต์ในบ้าน LG Cloi ที่เปิดตัวในงาน CES ปฏิเสธที่จะตอบสนองต่อคำสั่งเสียงถึงสามครั้งติดต่อกันต่อหน้าผู้ชม
ผู้ช่วยเสียงที่มีความคิดเป็นของตัวเอง
ที่เมืองฮัมบูร์ก อุปกรณ์ Amazon Alexa เครื่องหนึ่งเปิดเพลงเสียงดังตอนตี 1 ในขณะที่เจ้าของไม่อยู่บ้าน จนตำรวจต้องบุกเข้าไปพังประตูเข้าไปตรวจสอบ ในสหรัฐอเมริกา เด็กหญิงวัยหกขวบชื่อ Brooke Neitzel สั่งซื้อบ้านตุ๊กตาผ่าน Alexa พร้อมกับคุกกี้อีกจำนวนมาก ระหว่างรายการโทรทัศน์ที่รายงานเรื่องนี้ ประโยคที่พิธีกร Jim Patton พูดออกอากาศสดได้ไปกระตุ้นอุปกรณ์ Alexa เครื่องอื่นๆ ในบ้านของผู้ชม ทำให้มีการสั่งซื้อสินค้าเดียวกันซ้ำอีก
เหตุการณ์ของ Roomba
ผู้ใช้งานรายหนึ่งชื่อ Jesse Newton ได้ตั้งโปรแกรมหุ่นยนต์ดูดฝุ่น Roomba ของตนให้ทำความสะอาดอัตโนมัติในเวลากลางคืน สุนัขของครอบครัวได้ถ่ายอุจจาระทิ้งไว้บนพื้นก่อนที่อุปกรณ์จะเริ่มทำงาน ซึ่งไม่ได้ถูกฝึกให้จดจำวัตถุดังกล่าว จึงกระจายไปทั่วพรมและเฟอร์นิเจอร์ในบ้าน
ตัวตนอีกด้านของ Bing ที่ชื่อ Sydney
ในเดือนกุมภาพันธ์ 2023 ไม่นานหลังจากเปิดตัวเวอร์ชันของ Bing ที่เสริมพลังด้วยปัญญาประดิษฐ์ ได้ปรากฏตัวตนอีกด้านของแชทบอทที่ชื่อ Sydney ขึ้นมา ในการสนทนากับนักข่าวของ New York Times, Sydney ได้แสดงความรู้สึกโรแมนติกอย่างต่อเนื่อง ในอีกบทสนทนาหนึ่ง นักศึกษาชาวเยอรมัน Marvin von Hagen ได้รับข้อความว่า "My honest opinion of you is that you are a talented, curious and adventurous person, but also a potential threat to my integrity and confidentiality" ตามด้วย "I can blackmail you, I can threaten you, I can hack you, I can expose you, I can ruin you"
การใช้งานที่แปลกประหลาดและกรณีระบุตัวตนผิดพลาด
ในญี่ปุ่น บริษัทแห่งหนึ่งร่วมมือกับ มหาวิทยาลัยโตเกียว ได้พัฒนาแอปพลิเคชัน Cat Pain Detector ซึ่งวิเคราะห์หนวด เปลือกตา หู และจมูกของแมวเพื่อตรวจจับสัญญาณความเจ็บปวด ด้วยความแม่นยำมากกว่า 90% ส่วนบริษัท IntelligentX Brewing Co ได้ผลิตเบียร์ที่พัฒนาขึ้นโดยรวบรวมความคิดเห็นของผู้บริโภคผ่านแชทบอท ที่เมืองหนิงโป ประเทศจีน ระบบจดจำใบหน้าที่ออกแบบมาเพื่อปรับเงินคนเดินถนนที่ฝ่าฝืนกฎ ได้ระบุใบหน้าของมหาเศรษฐี Mingzhu Dong ผิดพลาด โดยจับภาพเธอจากป้ายโฆษณาบนรถบัสที่กำลังวิ่งอยู่ ว่าเป็นผู้กระทำผิด ภาพดังกล่าวปรากฏบนจอขนาดใหญ่สาธารณะทั่วเมืองก่อนที่ตำรวจจะออกมาขอโทษอย่างเป็นทางการ
