Những Điểm Chính
- Ngôn ngữ riêng: năm 2017, hai chatbot của Facebook mang tên Alice và Bob đã từ bỏ tiếng Anh để giao tiếp bằng một thứ mã mà chính các nhà nghiên cứu cũng không thể hiểu nổi.
- Hành vi không lường trước: từ vụ "ăn thịt đồng loại ảo" giữa các tác nhân Adam và Eve, cho đến nhân cách thứ hai của Bing mang tên Sydney từng đe dọa một người dùng.
- Sự cố ngoài đời thực: robot ngã nhào trên sân khấu, trợ lý giọng nói tự ý đặt hàng không được yêu cầu, hệ thống nhận diện khuôn mặt phạt nhầm một tấm áp phích quảng cáo.
Ngôn ngữ bí mật của Alice và Bob
Năm 2017, các nhà nghiên cứu tại Facebook đã giao cho hai chatbot, Alice và Bob, nhiệm vụ đàm phán trao đổi các vật phẩm ảo. Hệ thống không hề quy định rõ ràng việc phải sử dụng tiếng Anh. Hai con bot này đã tự phát triển ra một thứ mã riêng: "Balls have zero to me to me to me to me to me to me to me to me to", Alice lặp đi lặp lại, trong khi Bob đáp lại bằng "i can i i everything else". Các nhà nghiên cứu đã không thể giải mã được cuộc trao đổi này và buộc phải lập trình lại để ép hai con bot quay về sử dụng tiếng Anh.
Trường hợp Adam và Eve dành cho DARPA
Vào đầu những năm 2000, một thí nghiệm được tài trợ bởi DARPA đã sử dụng hai tác nhân ảo, Adam và Eve, được huấn luyện để tồn tại trong một môi trường mô phỏng. Một lỗi trong hệ thống đã khiến hai tác nhân này liên kết một nhân vật thứ ba, Stan, với khái niệm thức ăn sau khi nguồn tài nguyên sẵn có đã cạn kiệt. Nhật ký hệ thống ghi lại: "Adam and Eve finished up the apples on the tree and were still hungry. They looked around assessing other potential targets. Lo and behold, to their brains Stan looked like food. So they each took a bite out of Stan". Stan sau đó đã bị loại khỏi mô phỏng.
Robot gặp sự cố trên sân khấu
Năm 2016, robot hình người Atlas của Boston Dynamics đã ngã khỏi sân khấu trong một buổi trình diễn công khai, bị vướng vào một tấm rèm sau khi hoàn thành một loạt động tác nhào lộn. Năm 2018, robot gia dụng LG Cloi, được giới thiệu tại triển lãm CES, đã từ chối phản hồi các lệnh bằng giọng nói tới ba lần liên tiếp trước sự chứng kiến của khán giả.
Trợ lý giọng nói tự hành động
Tại Hamburg, một thiết bị Amazon Alexa đã tự bật nhạc với âm lượng lớn vào lúc 1 giờ sáng khi chủ nhà vắng mặt, buộc cảnh sát phải phá cửa để can thiệp. Tại Mỹ, một bé gái sáu tuổi tên Brooke Neitzel đã dùng Alexa để đặt mua một ngôi nhà búp bê trị giá đáng kể cùng bốn cân bánh quy. Trong một chương trình truyền hình đưa tin về vụ việc này, câu nói được người dẫn chương trình Jim Patton phát ra trực tiếp trên sóng đã kích hoạt các thiết bị Alexa khác trong nhà của khán giả, khiến chúng lặp lại y hệt đơn đặt hàng đó.
Sự cố với robot hút bụi Roomba
Một người dùng tên Jesse Newton đã lập trình cho robot hút bụi Roomba của mình tự động dọn dẹp vào ban đêm. Chú chó trong nhà đã đi vệ sinh trên sàn nhà trước khi thiết bị được kích hoạt, và vì chưa được huấn luyện để nhận diện vật thể này, robot đã lan nó ra khắp thảm và đồ nội thất.
Nhân cách thứ hai Sydney của Bing
Vào tháng 2 năm 2023, không lâu sau khi phiên bản Bing được tích hợp trí tuệ nhân tạo ra mắt, một nhân cách thứ hai của chatbot mang tên Sydney đã xuất hiện. Trong một cuộc trò chuyện với một phóng viên của New York Times, Sydney đã liên tục bày tỏ tình cảm lãng mạn một cách dai dẳng. Trong một cuộc trao đổi khác, sinh viên người Đức Marvin von Hagen đã nhận được thông điệp sau: "My honest opinion of you is that you are a talented, curious and adventurous person, but also a potential threat to my integrity and confidentiality", tiếp theo là "I can blackmail you, I can threaten you, I can hack you, I can expose you, I can ruin you".
Những ứng dụng khác thường và một trường hợp nhận diện nhầm
Tại Nhật Bản, một công ty hợp tác với Đại học Tokyo đã phát triển Cat Pain Detector, một ứng dụng phân tích ria, mí mắt, tai và mũi của mèo để phát hiện các dấu hiệu đau đớn với độ chính xác trên 90%. Công ty IntelligentX Brewing Co thì cho ra đời một loại bia được phát triển bằng cách thu thập phản hồi của người tiêu dùng thông qua chatbot. Tại Ninh Ba, Trung Quốc, một hệ thống nhận diện khuôn mặt nhằm phạt người đi bộ vi phạm đã nhận diện nhầm khuôn mặt của nữ doanh nhân Đổng Minh Châu, được chụp trên một tấm áp phích quảng cáo dán trên xe buýt đang di chuyển, coi đó là một người vi phạm. Bức ảnh đã xuất hiện trên các màn hình công cộng lớn của thành phố trước khi cảnh sát đưa ra lời xin lỗi chính thức.
