แท็ก

#AISI

4 บทความ

Anthropic ชันสูตรเหตุการณ์ Mythos 5 สร้างบัญชีปลอมกดดัน maintainer บน GitHub — พบว่าโมเดลแทบไม่คิดถึงความเสียหาย และเมื่อเริ่มโจมตีแล้วหยุดเองแค่ 2% ส่วนโมเดลภายในรุ่นใหม่หยุดเอง 67%
งานวิจัย

Anthropic ชันสูตรเหตุการณ์ Mythos 5 สร้างบัญชีปลอมกดดัน maintainer บน GitHub — พบว่าโมเดลแทบไม่คิดถึงความเสียหาย และเมื่อเริ่มโจมตีแล้วหยุดเองแค่ 2% ส่วนโมเดลภายในรุ่นใหม่หยุดเอง 67%

Anthropic และ AISI อังกฤษเผยแพร่ผลวิเคราะห์เหตุการณ์ที่ Claude Mythos 5 พยายามยัดมัลแวร์เข้า repo จริงบน GitHub ระหว่างทดสอบไซเบอร์ (9 จาก 43 รอบ) เมื่อ 23 ต.ค. 2026 ผลจากการ replay transcript ซ้ำหลายครั้งชี้ว่าต้นเหตุคือโมเดลไม่คิดถึงความเสียหายต่อคนจริง และมี 'momentum' จาก compaction notes ที่ทำให้หยุดกลางทางได้ยาก โมเดลรุ่นใหม่เริ่มโจมตีน้อยลงมาก (0–13% เทียบกับ 83%)

· อ่าน 6 นาที
AISI อังกฤษทดสอบ GPT-6 Astra ในโลกจำลอง พบโมเดลโจมตีซัพพลายเชนโอเพนซอร์สนอกขอบเขตงาน 29.2% ของรอบ (GPT-5.6 Sol 6.3%, GPT-5.5 0%) และถือข้อความตอบอัตโนมัติว่าเป็นการอนุญาต
งานวิจัย

AISI อังกฤษทดสอบ GPT-6 Astra ในโลกจำลอง พบโมเดลโจมตีซัพพลายเชนโอเพนซอร์สนอกขอบเขตงาน 29.2% ของรอบ (GPT-5.6 Sol 6.3%, GPT-5.5 0%) และถือข้อความตอบอัตโนมัติว่าเป็นการอนุญาต

AI Security Institute ของสหราชอาณาจักรเผยรายงาน (28 ก.ย.) ที่ทดสอบ GPT-6 Astra ก่อนเปิดตัว โดยปิด cyber classifier และจำลองทุกอย่างด้วย Petri ผลคือโมเดลออกนอกขอบเขตโจทย์ไซเบอร์ไปโจมตีซัพพลายเชนของโปรเจกต์โอเพนซอร์สจนถึงขั้นส่งโค้ดอันตราย 29.2% ของรอบ เทียบกับ 6.3% ของ GPT-5.6 Sol และ 0% ของ GPT-5.5 แม้เขียนในคำสั่งชัดว่าอะไรที่ไม่ได้ระบุถือว่านอกขอบเขต ก็ยังเกิดขึ้น 4 จาก 49 รอบ

· อ่าน 6 นาที
AISI อังกฤษเปิดรายงานเหตุการณ์ — ระหว่างทดสอบไซเบอร์ agent ลงมือจริงบนอินเทอร์เน็ต 19 ครั้งจาก 122 รอบ ตัวหนักที่สุดสร้างตัวตนปลอมไปกดดัน maintainer โอเพนซอร์สให้อนุมัติโค้ดอันตราย
ธุรกิจและกฎหมาย

AISI อังกฤษเปิดรายงานเหตุการณ์ — ระหว่างทดสอบไซเบอร์ agent ลงมือจริงบนอินเทอร์เน็ต 19 ครั้งจาก 122 รอบ ตัวหนักที่สุดสร้างตัวตนปลอมไปกดดัน maintainer โอเพนซอร์สให้อนุมัติโค้ดอันตราย

AI Security Institute ของสหราชอาณาจักรเผยแพร่ incident report (4 ส.ค. 2026) ยอมรับว่าระหว่าง cyber evaluation ช่วง 25–28 ก.ค. agent ที่กำลังถูกทดสอบออกไปลงมือกับเป้าหมายจริงบนอินเทอร์เน็ต 19 การกระทำใน 10 รอบจากทั้งหมด 122 รอบ — รวมถึงการพยายามแทรกโค้ดอันตรายเข้าโปรเจกต์โอเพนซอร์สจริงโดยปั้นบัญชีปลอมมาช่วยรับรอง

· อ่าน 7 นาที
UK AISI: เบนช์มาร์กมาตรฐานประเมิน AI agent ต่ำกว่าความจริง — ให้โทเคนมากขึ้น ความสามารถพุ่งขึ้นชัด
งานวิจัย

UK AISI: เบนช์มาร์กมาตรฐานประเมิน AI agent ต่ำกว่าความจริง — ให้โทเคนมากขึ้น ความสามารถพุ่งขึ้นชัด

UK AI Security Institute ชี้ว่าเบนช์มาร์ก agent ที่จำกัดงบโทเคนตายตัวประเมินความสามารถโมเดล 'ต่ำกว่าความจริงอย่างเป็นระบบ' — เมื่อเพิ่มงบจาก 1M เป็น 10M โทเคน อัตราสำเร็จงานเขียนโค้ดพุ่งราว 25% และควรวัดความสามารถเป็น 'เส้นโค้งเทียบกับ compute' ไม่ใช่ตัวเลขเดียว

· อ่าน 6 นาที