ประเด็นสำคัญ
- เหตุการณ์: รายงานข่าวกรองที่สร้างโดยแชทบอท AI ระบุผิดพลาดว่าเรือจีนลำหนึ่งกำลังขนส่งชิ้นส่วนนิวเคลียร์ ทำให้เกือบเกิดปฏิบัติการทางทหารของสหรัฐฯ โดยหน่วยรบพิเศษเตรียมพร้อมเข้าตรวจค้นแล้ว
- เทคโนโลยีที่เกี่ยวข้อง: นักวิเคราะห์จาก กองบัญชาการปฏิบัติการพิเศษภาคแปซิฟิก (SOCOM) ใช้แชทบอท AI ทั้งในการวิเคราะห์ข้อมูลและการเขียนรายงานอย่างเป็นทางการ ทำให้ความผิดพลาดขยายตัวไปตามสายบังคับบัญชา
- ผลกระทบ: เหตุการณ์นี้เผยให้เห็นความย้อนแย้งของยุทธศาสตร์ "AI เป็นอันดับหนึ่ง" ของกระทรวงกลาโหมสหรัฐฯ จุดประเด็นถกเถียงเรื่องการควบคุมโดยมนุษย์ ความเร็วในการตัดสินใจ และความเสี่ยงต่อการยกระดับความขัดแย้งโดยไม่ตั้งใจกับจีน
ปฏิบัติการที่ถูกยับยั้งในวินาทีสุดท้าย
ในช่วงฤดูใบไม้ผลิที่ผ่านมา ขณะที่เครื่องบินทหารสหรัฐฯ กำลังบินอยู่ในอากาศ และกำลังพลหน่วยรบพิเศษพร้อมอาวุธเตรียมขึ้นตรวจค้นเรือจีนลำหนึ่ง เจ้าหน้าที่ในกรุงวอชิงตันกลับพบว่าข่าวกรองที่ใช้เป็นฐานของปฏิบัติการนี้เป็นข้อมูลเท็จ CNN รายงานเป็นข่าวเจาะโดยอ้างแหล่งข่าวสี่รายที่รู้เรื่องนี้ รายงานฉบับดังกล่าวถูกเผยแพร่ในช่วงสงครามกับอิหร่าน โดยระบุว่าเรือลำนั้นบรรทุกชิ้นส่วนสำหรับโครงการนิวเคลียร์ในตะวันออกกลาง
เพียงไม่นานก่อนการเข้าสกัดจับ เมื่อเจ้าหน้าที่เจาะลึกเข้าไปในเอกสารดังกล่าว จึงพบว่ารายงานนี้ถูกเขียนขึ้นโดยนักวิเคราะห์จาก SOCOM ด้วยความช่วยเหลือของแชทบอท AI ระบบดังกล่าวได้ผสมผสานข้อมูลข่าวกรองแบบเปิดกับข้อมูลลับเกี่ยวกับรายการสินค้าบนเรืออย่างผิดพลาด จนระบุประเภทสินค้าผิดไป จากนั้นนักวิเคราะห์คนเดิมยังใช้ AI อีกครั้งเพื่อจัดรูปแบบข้อค้นพบที่ผิดพลาดให้เป็นรายงานทางการ ซึ่งถูกส่งผ่านช่องทางบังคับบัญชาอย่างเป็นทางการ แหล่งข่าวรายหนึ่งระบุว่ารายงานนี้ "เป็นเท็จทั้งหมด" ส่วนอีกรายกล่าวว่า "มันเกือบจุดชนวนให้เกิดสงคราม"
กระทรวงที่ยึด "AI เป็นอันดับหนึ่ง"
เหตุการณ์นี้เกิดขึ้นในขณะที่กระทรวงกลาโหมสหรัฐฯ นิยามตัวเองว่าเป็น "กระทรวงสงครามที่ยึด AI เป็นอันดับหนึ่ง" โดยมีเป้าหมายชัดเจนที่จะรักษาความเป็นผู้นำด้าน AI ของสหรัฐฯ ตามที่บัญชีของประธานเจ้าหน้าที่เทคโนโลยีของกระทรวงกลาโหมรายงาน รัฐมนตรีกลาโหม พีท เฮกเซธ ประกาศเจตนาที่จะ "ปลดล็อกการทดลอง กำจัดอุปสรรคทางระเบียบราชการ และมุ่งเน้นการลงทุน" ในด้าน AI ทางทหาร แต่อดีตเจ้าหน้าที่ระดับสูงรายหนึ่งกล่าวว่า "เครื่องมือภายในส่วนใหญ่เป็นแค่สำเนาของเครื่องมือเชิงพาณิชย์ที่แต่งหน้าใหม่"
ความเสี่ยงหลักไม่ได้อยู่ที่เนื้อหาที่ผิดพลาดเท่านั้น แต่อยู่ที่ความเร็วในการแพร่กระจายของมัน แหล่งข่าวทางทหารรายหนึ่งสรุปให้ CNN ฟังว่า "AI ทำให้คุณไปถึงความคิดที่แย่ได้เร็วขึ้น" และเสริมว่า "การใช้ AI ในการกำหนดเป้าหมายกำลังเพิ่มขึ้น และไม่มีแนวทางที่ชัดเจนว่ามนุษย์ในวงจรการตัดสินใจจะป้องกันความสูญเสียของพลเรือนหรือการยิงพวกเดียวกันเองได้อย่างไร" ปรากฏการณ์นี้สะท้อนถึง "ความเอนเอียงจากระบบอัตโนมัติ" ที่เคยเกิดขึ้นในปี 1988 เมื่อระบบ Aegis ของเรือ USS Vincennes ระบุผิดพลาดว่าเครื่องบินพาณิชย์ของอิหร่านเป็นเครื่องบินรบของศัตรู ส่งผลให้พลเรือนเสียชีวิต 290 คน
ความเร็วปะทะการควบคุมดูแล
เจค สเตคเลอร์ ทหารผ่านศึกและนักวิจัยจาก GovAI ชี้ว่ากองทัพต้องเข้าใจ "ความไม่แน่นอนที่แท้จริงของโมเดลภาษาขนาดใหญ่ โดยเฉพาะสำหรับการตัดสินใจที่อาจนำไปสู่การใช้กำลัง" เนื่องจากเป็นการตัดสินใจที่มี "ผลลัพธ์เป็นเรื่องความเป็นความตาย" เขายังเตือนว่าการให้ความสำคัญกับความเร็วในการนำระบบมาใช้โดยไม่คำนึงถึงสิ่งอื่นจะก่อให้เกิดอุบัติเหตุที่บ่อนเซาะความเชื่อมั่นของผู้ปฏิบัติงานที่มีต่อระบบเอง และท้ายที่สุดจะทำให้การนำระบบไปใช้ล่าช้าลง
ในสัปดาห์เดียวกันนั้น นักวิชาการจาก Brookings และมหาวิทยาลัย Tsinghua ได้เรียกร้องต่อสาธารณะให้มีมาตรการป้องกันด้าน AI ที่เทียบเท่ากับมาตรการด้านนิวเคลียร์ พร้อมทั้งเสนอให้มีสายด่วนทางทหารระหว่างสหรัฐฯ กับจีน แต่รัฐบาลทรัมป์ปฏิเสธสถานการณ์ที่น่าตื่นตระหนกเหล่านี้ โดยยืนยันว่าการชะลอการพัฒนา AI จะเสี่ยงทำให้เสียเปรียบต่อปักกิ่ง
ใครจะตรวจสอบรายงานฉบับต่อไป
เอ็มมา แอชฟอร์ด จาก Stimson Center สรุปความน่ากลัวนี้ไว้ในประโยคที่กลายเป็นไวรัล: "นี่คือวิธีที่ AI จะทำลายเราทุกคน ไม่ใช่ด้วยความตั้งใจ ไม่ใช่ด้วยความรู้สึกตัว แต่ด้วยการทำผิดพลาดโง่ๆ ที่มนุษย์ไม่ยอมตรวจสอบซ้ำอีกครั้ง"
ไม่จำเป็นต้องมีหุ่นยนต์อัตโนมัติหรือระบบที่มีสำนึกรู้ตัว เพียงแค่มีนักวิเคราะห์ที่ไว้วางใจเครื่องมือ รายงานที่ดูน่าเชื่อถือ และสายบังคับบัญชาที่ตกอยู่ภายใต้ความกดดัน ในกรณีนี้ยังมีคนตรวจสอบเอกสารก่อนที่จะสายเกินไป แต่คำถามที่ยังไม่มีคำตอบคือ ใครจะเป็นผู้ตรวจสอบรายงานฉบับต่อไป
