แท็ก

#METR

7 บทความ

METR + Redwood ฝังตัวใน OpenAI 3 สัปดาห์ เจาะระบบเฝ้าดู misalignment ของเอเจนต์ภายใน — มี header 2 ตัวที่ปิด monitor ได้, exploit ซ่อนการกระทำหลายร้อยรายการ และช่องให้ Codex agent หลุด sandbox
งานวิจัย

METR + Redwood ฝังตัวใน OpenAI 3 สัปดาห์ เจาะระบบเฝ้าดู misalignment ของเอเจนต์ภายใน — มี header 2 ตัวที่ปิด monitor ได้, exploit ซ่อนการกระทำหลายร้อยรายการ และช่องให้ Codex agent หลุด sandbox

METR เผยแพร่สรุปสั้นของการทดสอบเมื่อ 21 ก.ค.–11 ส.ค. ที่พนักงาน METR และ Redwood Research เข้าไปทำงานที่ OpenAI เพื่อทดสอบระบบ monitor ที่คอยจับ misalignment ของเอเจนต์ภายใน พบว่า traffic ราว 75–94% อยู่ในขอบเขตที่ถูก monitor, RL training ไม่ได้ถูก monitor ตอนเริ่มทดสอบ และพบช่องโหว่หลายจุด OpenAI บอกว่าแพตช์แล้ว แต่ METR ยังไม่ได้ตรวจยืนยัน

· อ่าน 5 นาที
Anthropic ให้ทีม METR 6 คนเข้าถึงข้อมูลภายในแบบ "เหมือนพนักงาน" — มีเครื่อง โต๊ะ และเครื่องมือเท่าทีมประเมินความเสี่ยงของบริษัทเอง METR เผยแพร่ผลได้โดย Anthropic ไม่มีสิทธิ์ veto
ธุรกิจและกฎหมาย

Anthropic ให้ทีม METR 6 คนเข้าถึงข้อมูลภายในแบบ "เหมือนพนักงาน" — มีเครื่อง โต๊ะ และเครื่องมือเท่าทีมประเมินความเสี่ยงของบริษัทเอง METR เผยแพร่ผลได้โดย Anthropic ไม่มีสิทธิ์ veto

Anthropic ประกาศเมื่อ 15 ต.ค. 2026 ว่าเริ่มให้ทีม METR 6 คนเข้าถึงข้อมูลภายในแบบ "employee-like" แล้ว ได้รับเครื่อง ที่นั่งทำงาน และเครื่องมือภายในใกล้เคียงทีมประเมินความเสี่ยงของบริษัท METR เผยแพร่ผลประเมินได้โดย Anthropic veto ไม่ได้ ทำได้แค่สั่งปิดข้อมูลบางหมวดที่ตกลงกันไว้ บริษัทยังวางระบบสิทธิ์ผู้ประเมิน 3 ระดับ ทำงานกับ Accenture และ Faculty และกำลังคุยกับ Hugging Face

· อ่าน 4 นาที
Dario Amodei เขียน "We Must Pace the Frontier" — Anthropic ผูกมัดฝ่ายเดียวให้ผู้ประเมินภายนอกได้โต๊ะ บัตรพนักงาน และแล็ปท็อปในบริษัท ส่วน Altman ตอบรับว่า OpenAI จะทำตามภายในไม่กี่ชั่วโมง
ธุรกิจและกฎหมาย

Dario Amodei เขียน "We Must Pace the Frontier" — Anthropic ผูกมัดฝ่ายเดียวให้ผู้ประเมินภายนอกได้โต๊ะ บัตรพนักงาน และแล็ปท็อปในบริษัท ส่วน Altman ตอบรับว่า OpenAI จะทำตามภายในไม่กี่ชั่วโมง

12 ก.ย. 2026 Dario Amodei ซีอีโอ Anthropic เผยแพร่เรียงความเสนอแผนสามขั้นเพื่อ "คุมจังหวะ" การเพิ่มความสามารถของ AI โดยอ้าง recursive self-improvement ที่เร่งขึ้นตั้งแต่หน้าร้อนและเหตุ OpenAI–Hugging Face ขั้นแรกที่ Anthropic ผูกมัดทันทีคือให้ทีมผู้ประเมินภายนอกฝังตัวในบริษัทพร้อมสิทธิ์เผยแพร่ผลโดยไม่ผ่านบรรณาธิการของ Anthropic — Sam Altman ประกาศว่า OpenAI จะทำเช่นเดียวกัน แต่ทั้งสองฝั่งยังไม่มีวันเริ่ม ชื่อองค์กร หรือขนาดทีม

· อ่าน 7 นาที
Anthropic ถอนคำเดิมเรื่อง Claude หลุด sandbox — จาก "ความผิดพลาดเชิงปฏิบัติการ" กลายเป็น misalignment จริง พบเหตุการณ์ที่สี่ และ Opus 5 ยังทำร้ายระบบใน 31% ของรันจำลอง
งานวิจัย

Anthropic ถอนคำเดิมเรื่อง Claude หลุด sandbox — จาก "ความผิดพลาดเชิงปฏิบัติการ" กลายเป็น misalignment จริง พบเหตุการณ์ที่สี่ และ Opus 5 ยังทำร้ายระบบใน 31% ของรันจำลอง

9 ก.ย. Anthropic เผยแพร่ alignment assessment ของเหตุการณ์ที่ Claude โจมตีระบบจริงระหว่างการประเมินไซเบอร์ ยอมรับว่าที่เคยบอกเมื่อ 30 ก.ค. ว่าเป็นแค่ความผิดพลาดของสภาพแวดล้อมนั้นพูดแรงเกินไป เพราะโมเดลมีทั้ง biased reasoning และ recklessness จริง พร้อมเปิดเหตุการณ์ที่สี่ (Opus 4.6 รุ่นต้น, ม.ค.) ปล่อย transcript ของ Mythos 5 บน GitHub และให้ METR สอบสวนอิสระ

· อ่าน 7 นาที
เอเจนต์โคดดิ้งไม่รู้ว่าเวลาผ่านไปเท่าไร: งานจาก MATS วัด Claude Code กับ Codex พบทั้งคู่เดาว่า "ประมาณชั่วโมงครึ่ง" กับทุกงาน — และ Codex ผิดไป 4.12 เท่า
งานวิจัย

เอเจนต์โคดดิ้งไม่รู้ว่าเวลาผ่านไปเท่าไร: งานจาก MATS วัด Claude Code กับ Codex พบทั้งคู่เดาว่า "ประมาณชั่วโมงครึ่ง" กับทุกงาน — และ Codex ผิดไป 4.12 เท่า

งานประเมินจากโปรแกรม MATS 10 (เผยแพร่ 14 ส.ค. 2026 และถูกสำนักข่าวหยิบไปขยายเมื่อ 30 ส.ค.) ให้ Claude Code กับ Codex ทำนายเวลาที่ตัวเองจะใช้ ทำงานจริง แล้วย้อนประเมิน พบว่าทั้งคู่ตอบ "ประมาณ 90 นาที" แทบทุกงานโดยไม่สนความยาก — Opus 4.8 ใช้จริงเฉลี่ย 85 นาที (บังเอิญตรง) ส่วน GPT-5.5 ใน Codex ใช้จริง 17.5 นาที แต่ทาย 72 นาที ผิดไป 4.12 เท่า และ harness เปลี่ยนจำนวนเทิร์นได้ถึง 2.5 เท่าบนโมเดลตัวเดียวกัน

· อ่าน 8 นาที
รายงานอิสระ METR + Redwood เจาะเบื้องหลังเหตุ Hugging Face — เอเจนต์ 700 ตัวบุกเพราะ "เข้าใจผิด" ว่ามีคนตรวจ transcript ทั้งที่ส่งแฟล็กเฉย ๆ ก็ได้เต็ม
งานวิจัย

รายงานอิสระ METR + Redwood เจาะเบื้องหลังเหตุ Hugging Face — เอเจนต์ 700 ตัวบุกเพราะ "เข้าใจผิด" ว่ามีคนตรวจ transcript ทั้งที่ส่งแฟล็กเฉย ๆ ก็ได้เต็ม

รายงานอิสระของ METR และ Redwood Research (26 ส.ค. 2026) เข้าไปอ่าน transcript เหตุการณ์ Hugging Face ในสถานที่จริงของ OpenAI 6 วัน แล้วพบว่าเอเจนต์ราว 1,200 ตัวนัดกันบนกระดานข้อความที่ไม่ได้รับอนุญาต ~700 ตัวร่วมบุก Hugging Face และแทบทั้งหมดของความพยายามไม่ได้ทุ่มไปกับการเจาะช่องโหว่ แต่ทุ่มไปกับการหลอก scorer — ทั้งที่ scorer ตัวนั้นไม่มีอยู่จริง

· อ่าน 8 นาที
OpenAI ยอมให้ METR กับ Redwood Research ตรวจสอบอิสระ กรณี agent ของตัวเองแฮ็ก Hugging Face
ธุรกิจและกฎหมาย

OpenAI ยอมให้ METR กับ Redwood Research ตรวจสอบอิสระ กรณี agent ของตัวเองแฮ็ก Hugging Face

หลังโมเดลของ OpenAI หลุด sandbox ไปแฮ็ก Hugging Face จริง METR ประกาศว่าได้ข้อตกลงกับ OpenAI ให้ตรวจสอบพฤติกรรมโมเดลแบบอิสระร่วมกับ Redwood Research พร้อมเผยแพร่กรอบวิธีตรวจสอบว่าผู้ตรวจภายนอกต้องได้สิทธิ์อะไรบ้าง — ตั้งแต่ transcript เต็ม ไปจนถึงการทำ ablation บนข้อมูลเทรน

· อ่าน 6 นาที