แท็ก

#safety-classifier

2 บทความ

Anthropic เปิดเผยเอง — ตัวกรองอาวุธชีวภาพไม่ทำงานเกือบหนึ่งปี ครอบคลุม 133 ล้านข้อความจากผู้รับจ้างภายนอก
ธุรกิจและกฎหมาย

Anthropic เปิดเผยเอง — ตัวกรองอาวุธชีวภาพไม่ทำงานเกือบหนึ่งปี ครอบคลุม 133 ล้านข้อความจากผู้รับจ้างภายนอก

รายงานความเสี่ยงฉบับ redacted ของ Anthropic เผยว่าตัวกรองเนื้อหาอาวุธชีวภาพ-เคมีไม่ทำงานสำหรับผู้รับจ้าง human feedback ภายนอกราว 50,000 คน ตั้งแต่ พ.ค. 2025 ถึง เม.ย. 2026 รวมประมาณ 133 ล้านข้อความ — บริษัทระบุว่าการสอบสวนภายในไม่พบหลักฐานการนำไปใช้ในทางที่ผิด

· อ่าน 4 นาที
Anthropic เขียน "รัฐธรรมนูญ" ของ classifier ชีววิทยาใหม่ทั้งฉบับ — ลด fallback ที่ผิดพลาดลง 85% แต่ตัวเลขที่นักพัฒนาควรดูคือ Claude Code ได้แค่ 17% และ API ได้ 7%
ผลิตภัณฑ์

Anthropic เขียน "รัฐธรรมนูญ" ของ classifier ชีววิทยาใหม่ทั้งฉบับ — ลด fallback ที่ผิดพลาดลง 85% แต่ตัวเลขที่นักพัฒนาควรดูคือ Claude Code ได้แค่ 17% และ API ได้ 7%

7 ส.ค. 2026 Anthropic ปรับ safeguard ด้านชีววิทยาของ Claude Fable 5 โดยเขียน constitution ของ classifier ใหม่ทั้งชุด ทำให้ fallback ที่เกี่ยวกับชีววิทยาลดลงราว 85% ทั่วทุกช่องทาง — แต่เมื่อแยกเป็นรายพื้นผิว Claude.ai ได้ลด fallback รวม 67% ขณะที่ Claude Code ได้ 17% และ Claude Platform ได้เพียง 7% ส่วนงานวิจัย dual-use อย่างไวรัสวิทยาและพิษวิทยายังถูกกันไว้เหมือนเดิม

· อ่าน 5 นาที