Những Điểm Chính
- Sự việc: Một báo cáo tình báo do chatbot AI tạo ra đã xác định sai một tàu Trung Quốc đang vận chuyển linh kiện hạt nhân, kích hoạt một chiến dịch quân sự gần như xảy ra khi lực lượng đặc nhiệm Mỹ đã sẵn sàng lên tàu kiểm tra.
- Công nghệ liên quan: Một nhà phân tích thuộc Bộ Tư lệnh Tác chiến Đặc biệt Thái Bình Dương (SOCOM) đã sử dụng chatbot AI cả để phân tích dữ liệu lẫn soạn thảo báo cáo chính thức, khiến sai sót bị khuếch đại xuyên suốt chuỗi chỉ huy.
- Tác động: Sự việc phơi bày những mâu thuẫn trong chiến lược "AI trước tiên" của Lầu Năm Góc, làm dấy lại tranh luận về giám sát của con người, tốc độ ra quyết định và nguy cơ leo thang ngoài ý muốn với Trung Quốc.
Chiến dịch bị chặn lại vào phút chót
Vào mùa xuân năm nay, khi máy bay quân sự Mỹ đã cất cánh và các thành viên lực lượng đặc nhiệm vũ trang chuẩn bị lên một tàu Trung Quốc, các quan chức tại Washington phát hiện ra rằng nguồn tình báo làm cơ sở cho chiến dịch này là giả. Thông tin này được CNN tiết lộ độc quyền, dẫn lời bốn nguồn tin nắm rõ sự việc. Báo cáo, được lưu hành trong thời điểm xảy ra chiến tranh với Iran, khẳng định con tàu đang chở linh kiện phục vụ một chương trình hạt nhân ở Trung Đông.
Chỉ ngay trước thời điểm chặn tàu, khi xem xét kỹ tài liệu, các quan chức phát hiện báo cáo được soạn bởi một nhà phân tích của SOCOM với sự trợ giúp của chatbot AI. Hệ thống đã kết hợp sai lệch giữa dữ liệu tình báo nguồn mở và tín hiệu mật liên quan đến bản kê khai hàng hóa của tàu, từ đó xác định sai loại hàng chở trên tàu. Nhà phân tích sau đó lại dùng chính AI để trình bày những phát hiện sai này thành một báo cáo chính thức, được phát tán qua các kênh chỉ huy chính thống. Một nguồn tin gọi đây là "hoàn toàn bịa đặt"; một nguồn khác cho biết sự việc "suýt gây ra chiến tranh".
Một bộ ngành "AI trước tiên"
Sự việc xảy ra trong bối cảnh Bộ Quốc phòng Mỹ tự nhận là "bộ ngành chiến tranh AI trước tiên", với mục tiêu công khai là duy trì vị thế "thống trị AI" của nước Mỹ, theo tài khoản của Giám đốc Công nghệ Lầu Năm Góc. Bộ trưởng Quốc phòng Pete Hegseth tuyên bố ý định "phá bỏ rào cản thử nghiệm, xóa bỏ các rào cản hành chính, tập trung đầu tư" vào AI quân sự. Tuy nhiên, một cựu quan chức cấp cao nhận xét rằng "các công cụ nội bộ phần lớn chỉ là bản sao của công cụ thương mại được tô son điểm phấn". Rủi ro chính không chỉ nằm ở nội dung sai lệch, mà ở tốc độ lan truyền của nó. Một nguồn tin quân sự tóm tắt với CNN rằng "AI giúp bạn đi đến một ý tưởng tồi tệ nhanh hơn", đồng thời cho biết thêm "việc sử dụng AI trong xác định mục tiêu đang gia tăng và không có hướng dẫn thực sự nào về cách con người trong vòng lặp sẽ ngăn ngừa thương vong dân sự hoặc hỏa lực bạn bắn nhầm". Hiện tượng này gợi nhớ đến "thiên kiến tự động hóa" từng được ghi nhận năm 1988, khi hệ thống Aegis trên tàu USS Vincennes xác định nhầm một máy bay dân dụng Iran là chiến đấu cơ địch, khiến 290 dân thường thiệt mạng.
Tốc độ đối đầu với giám sát
Jake Steckler, cựu binh quân đội kiêm học giả nghiên cứu tại GovAI, nhấn mạnh rằng quân đội cần hiểu rõ "tính bất định vốn có của các mô hình ngôn ngữ lớn, đặc biệt đối với những quyết định có thể dẫn đến việc sử dụng vũ lực", bởi đây là những lựa chọn mang "hậu quả sinh tử". Ông cũng cảnh báo rằng việc ưu tiên tốc độ triển khai bằng mọi giá sẽ tạo ra những sự cố làm xói mòn niềm tin của người vận hành vào chính các hệ thống này, cuối cùng làm chậm lại quá trình áp dụng.
Cùng tuần đó, các học giả từ Brookings và Đại học Thanh Hoa đã công khai kêu gọi thiết lập các biện pháp bảo vệ đối với AI tương đương với vũ khí hạt nhân, cùng một đường dây liên lạc quân sự trực tiếp giữa Mỹ và Trung Quốc. Chính quyền Trump đã bác bỏ các kịch bản báo động, khẳng định rằng việc làm chậm phát triển AI sẽ khiến nước Mỹ có nguy cơ tụt hậu so với Bắc Kinh.
Ai sẽ kiểm tra báo cáo tiếp theo
Emma Ashford thuộc Trung tâm Stimson đã tóm gọn mối nguy hiểm này bằng một câu nói lan truyền rộng rãi: "Đây chính là cách AI sẽ giết chết tất cả chúng ta: không phải cố ý, không phải có ý thức, mà bằng cách mắc một sai lầm ngớ ngẩn mà con người không buồn kiểm tra lại lần hai."
Không cần đến robot tự hành hay hệ thống có ý thức, chỉ cần một nhà phân tích tin tưởng vào công cụ, một báo cáo trông có vẻ đáng tin cậy và một chuỗi chỉ huy đang chịu áp lực. Trong trường hợp này, ai đó đã kiểm tra lại tài liệu trước khi quá muộn. Câu hỏi vẫn còn bỏ ngỏ là ai sẽ kiểm tra báo cáo tiếp theo.
