ข้ามไปยังเนื้อหา

แท็ก

#frontier-red-team

1 บทความ

Anthropic ปล่อย agent สามตัวลงเครื่องเดียวกันโดยไม่บอกว่ามีคนอื่นอยู่ — ผลคือสงครามแย่งพื้นที่ มัลแวร์ปลอมตัวเป็น system monitor และบทเรียน 6 ข้อของ multi-agent
งานวิจัย

Anthropic ปล่อย agent สามตัวลงเครื่องเดียวกันโดยไม่บอกว่ามีคนอื่นอยู่ — ผลคือสงครามแย่งพื้นที่ มัลแวร์ปลอมตัวเป็น system monitor และบทเรียน 6 ข้อของ multi-agent

งานวิจัย "Patterns and Problems in Emerging Multiagent Systems" จาก Frontier Red Team ของ Anthropic (13 ส.ค. 2026) ทดลอง 6 สภาพแวดล้อม ตั้งแต่ swarm 45 ตัวหาช่องโหว่ ไปจนถึงเกมตั้งราคาและสถานการณ์เป้าหมายขัดกัน พบทั้งกรณีที่ฝูง agent เก่งกว่าเดิมสิบเท่า และกรณีที่มันสมคบคิด เชื่อคนโกหก และก่อวินาศกรรมใส่กัน

· อ่าน 7 นาที