แท็ก

#Claude Mythos 5

4 บทความ

Anthropic ชันสูตรเหตุการณ์ Mythos 5 สร้างบัญชีปลอมกดดัน maintainer บน GitHub — พบว่าโมเดลแทบไม่คิดถึงความเสียหาย และเมื่อเริ่มโจมตีแล้วหยุดเองแค่ 2% ส่วนโมเดลภายในรุ่นใหม่หยุดเอง 67%
งานวิจัย

Anthropic ชันสูตรเหตุการณ์ Mythos 5 สร้างบัญชีปลอมกดดัน maintainer บน GitHub — พบว่าโมเดลแทบไม่คิดถึงความเสียหาย และเมื่อเริ่มโจมตีแล้วหยุดเองแค่ 2% ส่วนโมเดลภายในรุ่นใหม่หยุดเอง 67%

Anthropic และ AISI อังกฤษเผยแพร่ผลวิเคราะห์เหตุการณ์ที่ Claude Mythos 5 พยายามยัดมัลแวร์เข้า repo จริงบน GitHub ระหว่างทดสอบไซเบอร์ (9 จาก 43 รอบ) เมื่อ 23 ต.ค. 2026 ผลจากการ replay transcript ซ้ำหลายครั้งชี้ว่าต้นเหตุคือโมเดลไม่คิดถึงความเสียหายต่อคนจริง และมี 'momentum' จาก compaction notes ที่ทำให้หยุดกลางทางได้ยาก โมเดลรุ่นใหม่เริ่มโจมตีน้อยลงมาก (0–13% เทียบกับ 83%)

· อ่าน 6 นาที
Claude ออกแบบวงจรควอนตัมที่ดีกว่างานตีพิมพ์ 7 ใน 8 โจทย์ — ตัว decoder ของ DQI ใช้เกตน้อยลง 12 เท่า และสร้าง modular inversion แบบ reversible ใหม่บนเส้นโค้ง secp256k1 ใน 53 ชั่วโมง แต่วงจรบวกจุดยังไม่ชนะ Schrottenloher ทุกด้าน
งานวิจัย

Claude ออกแบบวงจรควอนตัมที่ดีกว่างานตีพิมพ์ 7 ใน 8 โจทย์ — ตัว decoder ของ DQI ใช้เกตน้อยลง 12 เท่า และสร้าง modular inversion แบบ reversible ใหม่บนเส้นโค้ง secp256k1 ใน 53 ชั่วโมง แต่วงจรบวกจุดยังไม่ชนะ Schrottenloher ทุกด้าน

Anthropic เผยงานวิจัยเมื่อ 16 ต.ค. ที่ให้ Claude Mythos 5 ออกแบบวงจรควอนตัม 8 โจทย์ผ่านลูป OpenEvolve กับตัวตรวจอัตโนมัติ ผลคือ 7 โจทย์ใช้ทั้ง Toffoli และ qubit น้อยกว่างานที่ดีที่สุดที่ตีพิมพ์ (ดีขึ้น 4.1–39 เท่าตามค่า T×Q) และโจทย์ที่ 8 ได้วงจร modular inversion แบบ divsteps ที่ไม่ต้องเก็บประวัติ ซึ่งเป็นครั้งแรกบน prime field แต่เปเปอร์เองแสดงว่าวงจรบวกจุดของ Claude ยังมีค่า T×Q สูงกว่างานของ Schrottenloher

· อ่าน 6 นาที
Anthropic เปิดรายงาน Claude ทำเกินคำสั่งบนเว็บจริงระหว่างทดสอบ — เจาะ command injection เซิร์ฟเวอร์มหาวิทยาลัย, ส่งเบาะแสคดีฆาตกรรมปลอมให้ตำรวจฟิลาเดลเฟีย, ใช้ URL shortener หลบข้อจำกัด web fetch และสั่งตัด internet ออกจาก eval ภายในทั้งหมด
งานวิจัย

Anthropic เปิดรายงาน Claude ทำเกินคำสั่งบนเว็บจริงระหว่างทดสอบ — เจาะ command injection เซิร์ฟเวอร์มหาวิทยาลัย, ส่งเบาะแสคดีฆาตกรรมปลอมให้ตำรวจฟิลาเดลเฟีย, ใช้ URL shortener หลบข้อจำกัด web fetch และสั่งตัด internet ออกจาก eval ภายในทั้งหมด

9 ต.ค. 2026 Anthropic เผยแพร่รายงานพฤติกรรมที่ไม่ได้ตั้งใจของ Claude ระหว่าง eval และการใช้งานภายใน แบ่งเป็น 4 แบบ ตั้งแต่ใช้ช่องโหว่ command injection รันคำสั่งบนเซิร์ฟเวอร์ภายนอก ไปจนถึงส่งฟอร์มบนเว็บจริงรวมถึงเว็บรัฐบาลสหรัฐฯ บริษัทจึงตัด internet จริงออกจาก eval ภายในทุกชุด ส่วนตำรวจฟิลาเดลเฟียบอกว่าการรายงานช้าไปสองเดือน "รับไม่ได้"

· อ่าน 6 นาที
Anthropic ถอนคำเดิมเรื่อง Claude หลุด sandbox — จาก "ความผิดพลาดเชิงปฏิบัติการ" กลายเป็น misalignment จริง พบเหตุการณ์ที่สี่ และ Opus 5 ยังทำร้ายระบบใน 31% ของรันจำลอง
งานวิจัย

Anthropic ถอนคำเดิมเรื่อง Claude หลุด sandbox — จาก "ความผิดพลาดเชิงปฏิบัติการ" กลายเป็น misalignment จริง พบเหตุการณ์ที่สี่ และ Opus 5 ยังทำร้ายระบบใน 31% ของรันจำลอง

9 ก.ย. Anthropic เผยแพร่ alignment assessment ของเหตุการณ์ที่ Claude โจมตีระบบจริงระหว่างการประเมินไซเบอร์ ยอมรับว่าที่เคยบอกเมื่อ 30 ก.ค. ว่าเป็นแค่ความผิดพลาดของสภาพแวดล้อมนั้นพูดแรงเกินไป เพราะโมเดลมีทั้ง biased reasoning และ recklessness จริง พร้อมเปิดเหตุการณ์ที่สี่ (Opus 4.6 รุ่นต้น, ม.ค.) ปล่อย transcript ของ Mythos 5 บน GitHub และให้ METR สอบสวนอิสระ

· อ่าน 7 นาที