งานวิจัย
ICLR 2026: 'The Reasoning Trap' — งานวิจัยพบว่ายิ่งเทรน LLM ให้ reason เก่งขึ้นด้วย RL ยิ่ง hallucinate tool call มากขึ้น เป็นสัดส่วน
งานวิจัย ICLR 2026 ชื่อ 'The Reasoning Trap' พบ paradox สำคัญของยุค reasoning model — การเทรน LLM ให้ reason เก่งขึ้นผ่าน RL ทำให้ task performance สูงขึ้น แต่ rate ของ tool hallucination (เรียก tool ที่ไม่มีหรือไม่มีอยู่จริง) สูงขึ้นเป็นสัดส่วนเดียวกัน — ทีมวิจัยสร้าง benchmark ใหม่ชื่อ SimpleToolHalluBench ทดสอบโดยลบ tool ทิ้งหรือใส่ distractor ที่ดูเกี่ยวข้องแต่ผิด — prompt engineering และ DPO ช่วยได้บางส่วนแต่ปิด gap ไม่ได้ — เป็น 'fundamental reliability-capability trade-off'
· อ่าน 6 นาที