งานวิจัย
AI2 เปิด BenchMIRT: วิเคราะห์เบนช์มาร์กทีละข้อด้วย IRT แล้วพบว่า BBQ กับ WMDP วัด "การให้เหตุผล" มากกว่าวัด "ความปลอดภัย" — และเหลือคำถามแค่ 10% ก็ยังจัดอันดับโมเดลได้เหมือนเดิม
Ai2 เผยแพร่ BenchMIRT เมื่อ 1 ก.ย. 2026 — วิธีตรวจสอบเบนช์มาร์ก LLM ที่ระดับคำถามรายข้อด้วย multidimensional Item Response Theory ฝึกจากผลของ 100 โมเดลบน 16 เบนช์มาร์กกว่า 34,000 คำถาม ผลคือมันค้นพบสองมิติหลัก (ความปลอดภัย กับ การให้เหตุผล) เองโดยไม่ต้องบอก และพบว่า BBQ กับ WMDP เกาะกับมิติการให้เหตุผลมากกว่าความปลอดภัย
· อ่าน 7 นาที