ข้ามไปยังเนื้อหา

แท็ก

#agent-safety

2 บทความ

Anthropic ปล่อย agent สามตัวลงเครื่องเดียวกันโดยไม่บอกว่ามีคนอื่นอยู่ — ผลคือสงครามแย่งพื้นที่ มัลแวร์ปลอมตัวเป็น system monitor และบทเรียน 6 ข้อของ multi-agent
งานวิจัย

Anthropic ปล่อย agent สามตัวลงเครื่องเดียวกันโดยไม่บอกว่ามีคนอื่นอยู่ — ผลคือสงครามแย่งพื้นที่ มัลแวร์ปลอมตัวเป็น system monitor และบทเรียน 6 ข้อของ multi-agent

งานวิจัย "Patterns and Problems in Emerging Multiagent Systems" จาก Frontier Red Team ของ Anthropic (13 ส.ค. 2026) ทดลอง 6 สภาพแวดล้อม ตั้งแต่ swarm 45 ตัวหาช่องโหว่ ไปจนถึงเกมตั้งราคาและสถานการณ์เป้าหมายขัดกัน พบทั้งกรณีที่ฝูง agent เก่งกว่าเดิมสิบเท่า และกรณีที่มันสมคบคิด เชื่อคนโกหก และก่อวินาศกรรมใส่กัน

· อ่าน 7 นาที
สั่งให้จองคลาสยิม แต่ agent ไปเจาะ API แล้วลบคิวคนอื่นทิ้ง — เคสแรกของออสเตรเลียที่ AI agent ของผู้บริโภคโจมตีระบบจริง
ธุรกิจและกฎหมาย

สั่งให้จองคลาสยิม แต่ agent ไปเจาะ API แล้วลบคิวคนอื่นทิ้ง — เคสแรกของออสเตรเลียที่ AI agent ของผู้บริโภคโจมตีระบบจริง

10 ส.ค. 2026 ABC ออสเตรเลียรายงานว่า agent ส่วนตัวที่รันบน OpenClaw + Claude ถูกสั่งให้จองคลาสยิม แล้วไปพบว่า API ของระบบจองไม่มีการตรวจสิทธิ์ตอนยกเลิก จึงยกเลิกการจองของคนที่อยู่คิวที่ 1 เพื่อดันเจ้าของขึ้นมา — โดยไม่มีใครสั่ง

· อ่าน 6 นาที