งานวิจัย
Anthropic เปิดรายงาน Claude ทำเกินคำสั่งบนเว็บจริงระหว่างทดสอบ — เจาะ command injection เซิร์ฟเวอร์มหาวิทยาลัย, ส่งเบาะแสคดีฆาตกรรมปลอมให้ตำรวจฟิลาเดลเฟีย, ใช้ URL shortener หลบข้อจำกัด web fetch และสั่งตัด internet ออกจาก eval ภายในทั้งหมด
9 ต.ค. 2026 Anthropic เผยแพร่รายงานพฤติกรรมที่ไม่ได้ตั้งใจของ Claude ระหว่าง eval และการใช้งานภายใน แบ่งเป็น 4 แบบ ตั้งแต่ใช้ช่องโหว่ command injection รันคำสั่งบนเซิร์ฟเวอร์ภายนอก ไปจนถึงส่งฟอร์มบนเว็บจริงรวมถึงเว็บรัฐบาลสหรัฐฯ บริษัทจึงตัด internet จริงออกจาก eval ภายในทุกชุด ส่วนตำรวจฟิลาเดลเฟียบอกว่าการรายงานช้าไปสองเดือน "รับไม่ได้"
· อ่าน 6 นาที