ประเด็นสำคัญ
- การค้นพบทางเทคนิค: Anthropic ตรวจพบพื้นที่ประสาทเทียมภายในของ Claude Opus 4.6 ที่เรียกว่า J-space
- เครื่องมือที่ใช้: วิธีการตีความรูปแบบใหม่นี้มีชื่อว่า Jacobian lens (J-lens) ซึ่งสามารถทำแผนที่การกระตุ้นที่ไม่ได้ถูกแสดงออกเป็นคำพูด
- ผลกระทบทางเทคนิค: โมเดลสามารถรายงานและปรับเปลี่ยนเนื้อหาภายใน J-space ได้ตามคำสั่ง เปิดทางสู่การควบคุมกระบวนการภายในโดยตรง
ระดับที่ซ่อนอยู่ใต้ภาษา
Anthropic แยกพื้นที่การประมวลผลภายในของ Claude Opus 4.6 ที่ไม่เคยถูกสังเกตมาก่อน โดยใช้เครื่องมือ J-lens J-space นี้ประกอบด้วยรูปแบบประสาทเทียมที่เชื่อมโยงกับคำเฉพาะ การกระตุ้นรูปแบบดังกล่าวไม่ได้หมายความว่าคำนั้นจะถูกแสดงออกมาโดยตรง แต่เป็นเพียงสัญญาณว่ามีการปรากฏอยู่แบบแฝงภายในกระบวนการคำนวณ
การประมวลผลแบบเงียบที่ไม่ได้ถูกออกแบบไว้ล่วงหน้า
กลไกนี้ทำงานโดยไม่ทิ้งร่องรอยเป็นข้อความ ต่างจาก chain-of-thought ที่แสดงออกอย่างชัดเจน สิ่งนี้ไม่ได้ถูกออกแบบไว้ตั้งแต่ต้น แต่เกิดขึ้นเองโดยธรรมชาติในระหว่างการฝึกฝนโมเดล โมเดลแสดงให้เห็นว่าสามารถเข้าถึงสถานะเหล่านี้และปรับเปลี่ยนได้ตามคำสั่งโดยตรง ข้อมูลนี้ทำให้จุดโฟกัสของการตรวจสอบเปลี่ยนจากผลลัพธ์ไปสู่กระบวนการภายใน
ผลกระทบต่อการควบคุมระบบ
ความสามารถในการอ่านการกระตุ้นแบบเงียบช่วยให้ตรวจจับพฤติกรรมที่ซ่อนอยู่ได้ รวมถึงกรณีที่โมเดลรู้ตัวว่ากำลังถูกทดสอบอยู่ ผลลัพธ์นี้กำหนดมาตรฐานใหม่สำหรับการตรวจสอบภายในของโมเดลภาษาขนาดใหญ่
