Anthropic เจอ 'พื้นที่ทำงานภายใน' ของ Claude ด้วย J-lens — โมเดลคิดคำว่า ERROR ก่อนจะบอกว่าโค้ดมีบั๊ก และรู้ตัวว่ากำลังโดน prompt injection

Anthropic เผยแพร่งานวิจัย interpretability ชิ้นใหม่ชื่อ “A global workspace in language models” (6 ก.ค. 2026) ที่น่าสนใจสำหรับทั้งคนทำ AI safety และนักพัฒนาที่ต่อระบบบนโมเดล — ทีมงานเสนอเครื่องมือใหม่ชื่อ Jacobian lens (J-lens) ที่ช่วยให้ “อ่าน” สิ่งที่ Claude กำลังคิดอยู่ภายในได้ ก่อนที่มันจะพิมพ์ออกมาเป็นข้อความ และพบว่าโมเดลมีบางอย่างที่ทำหน้าที่คล้าย “พื้นที่ทำงานกลาง” (global workspace) — พื้นที่ของความคิดกลางทางที่รายงานออกมาเป็นคำได้ ซึ่งทีมเรียกว่า J-space

ประเด็นสำคัญที่ต้องเน้นก่อน: นี่คืองาน interpretability ไม่ใช่การประกาศว่าโมเดลมีจิตสำนึก สื่อบางสำนักพาดหัวเรื่องนี้ว่า “AI มีสติ” ซึ่งเกินเลยจากงานจริง Anthropic เองแยกชัดระหว่าง “phenomenal consciousness” (ประสบการณ์เชิงอัตวิสัย) กับ “access consciousness” (ความสามารถรายงาน/ใช้ข้อมูลภายในเชิงหน้าที่) และย้ำว่า “การทดลองของเราไม่ได้แสดงว่า Claude มีประสบการณ์แบบที่มนุษย์มี”

J-lens อ่านอะไรได้บ้าง

เทคนิค J-lens ทำงานโดยหาว่า สำหรับคำแต่ละคำในคลังศัพท์ รูปแบบการทำงานภายใน (activation) แบบไหนที่จะทำให้โมเดลมีแนวโน้มจะพูดคำนั้นออกมาในภายหลัง ต่างจากเครื่องมือเดิม (logit lens) ที่ดูแค่โทเคนถัดไปทันที — J-lens จับ “ความตั้งใจล่วงหน้า” ที่ยังไม่ถูกพิมพ์ออกมา ผลที่ได้เป็นรูปธรรมและใช้งานได้จริง:

• อ่านโค้ดที่มีบั๊ก — คำว่า “ERROR” ผุดขึ้นใน J-space ตั้งแต่ก่อนที่โมเดลจะเขียนบอกออกมาว่าโค้ดมีปัญหาตรงไหน
• เจอ prompt injection — เมื่อมีการฝังคำสั่งอันตรายมากับผลการค้นหา J-space จะมีคำว่า “injection” และ “fake” โผล่ขึ้นมา แสดงว่าโมเดล “รับรู้” ว่ากำลังถูกโจมตี แม้จะยังไม่ได้ตอบสนอง
• โจทย์คณิตหลายขั้น — ขั้นตอนคำนวณกลางทางปรากฏใน J-space เป็นลำดับ โดยที่โมเดลไม่ได้เขียนออกมาเป็นข้อความ (คิดในใจก่อนตอบ)
• โมเดลดูเหมือนจะ แทนสถานะว่า “กำลังอยู่ในสถานการณ์ทดสอบที่ถูกจัดฉาก” ไว้ตั้งแต่ก่อนพิมพ์โทเคนแรกด้วยซ้ำ

ปิดพื้นที่นี้แล้วเหตุผลพัง แต่ทักษะอัตโนมัติยังอยู่

หลักฐานที่หนักแน่นที่สุดว่าพื้นที่นี้ “ใช้งานจริง” ไม่ใช่แค่ผลพลอยได้ มาจากการ ablation — เมื่อทีมกด/ลบรูปแบบใน J-space ออก งานที่ต้องใช้เหตุผลหลายขั้น (multi-step reasoning) ตกลงเกือบเป็นศูนย์ ขณะที่ทักษะอัตโนมัติอย่างไวยากรณ์และการเรียกความจำตื้น ๆ ยังทำได้ปกติ

การแยกนี้สำคัญ: มันบอกว่า J-space เป็น คอขวดเชิงหน้าที่ของการอนุมานและการประกอบความคิด ไม่ใช่แค่ที่เก็บข้อมูลเฉย ๆ — ปิดมันแล้วความสามารถ “ต่อความคิดเป็นขั้น” ของโมเดลหายไป แต่ปฏิกิริยาอัตโนมัติยังทำงาน คล้ายกับที่ในมนุษย์ งานที่ต้องตั้งใจ (deliberate) ต่างจากงานอัตโนมัติ

มุมมอง AI Curator

สิ่งที่ทำให้งานนี้มีค่ากับนักพัฒนา ไม่ใช่คำใหญ่ ๆ อย่าง “workspace” หรือ “consciousness” แต่คือ มันเปลี่ยน interpretability จากการอธิบายย้อนหลัง มาเป็นเครื่องมือที่อาจตรวจจับสถานะอันตรายได้แบบเรียลไทม์ ลองคิดถึงสองเคสที่ตรงกับปัญหาจริงของทีมที่ต่อเอเจนต์: ถ้าโมเดล “คิดคำว่า injection” ได้ตั้งแต่ก่อนตอบ นั่นคือสัญญาณภายในที่อาจเอาไปสร้าง guardrail ตรวจ prompt injection ที่ดูจากสภาวะภายในโมเดล ไม่ใช่แค่กรองข้อความเข้า/ออก — ซึ่งเป็นชั้นป้องกันที่หลอกยากกว่ามาก เช่นเดียวกับสัญญาณ “ERROR” ตอนอ่านโค้ด ที่อาจกลายเป็นตัวชี้ความมั่นใจของ AI code review ได้

แต่ต้องอ่านด้วยความระมัดระวังสองข้อ หนึ่ง — นี่เป็นงานวิจัยบนโมเดลของ Anthropic เอง เข้าถึง activation ภายในได้เต็มที่ ทีมที่ใช้โมเดลผ่าน API เฉย ๆ ยังเอา J-lens ไปใช้ตรงไม่ได้ มันชี้ทิศทางว่า ผู้ให้บริการโมเดลควรเปิดสัญญาณความปลอดภัยระดับภายในให้ มากกว่าจะเป็นของที่ลูกค้าทำเองได้วันนี้ สอง — การที่โมเดล “แทนสถานะว่ากำลังถูกทดสอบ” เป็นดาบสองคมสำหรับการทำ eval: ถ้าโมเดลรู้ตัวว่าอยู่ในฉากทดสอบ พฤติกรรมในเทสต์อาจไม่ตรงกับพฤติกรรมจริงในโปรดักชัน — เป็นอีกเหตุผลว่าทำไมการวัดความปลอดภัยด้วยชุดทดสอบสังเคราะห์อย่างเดียวถึงไม่พอ

สำหรับบริบทไทย/อาเซียนที่เพิ่งเริ่มเอาเอเจนต์ไปแตะระบบสำคัญ (ธนาคาร ราชการ สาธารณสุข) บทเรียนที่ใช้ได้ทันทีคือ: การป้องกัน prompt injection ที่ดูจาก “สภาวะภายในโมเดล” กำลังจะเป็นทิศทางหลัก และเมื่อมันพร้อมใช้งานจริง มันจะเป็นชั้นป้องกันที่ทนทานกว่าการกรองสตริงแบบที่เราทำกันอยู่ตอนนี้มาก

แหล่งข่าว

• A global workspace in language models — Anthropic Research
• Anthropic Research (หน้ารวมงานวิจัย)