งานวิจัย
กลั่นโมเดลด้วย GPU ตัวเดียว — สูตร offline top-K logits + fused chunked KL ลด VRAM จาก 85.2GB เหลือ 5.45GB และเร็วขึ้น 5 เท่า
10 ส.ค. 2026 ทีม Multiverse Computing เผยแพร่บน Hugging Face ว่าการแคช top-100 logits ของครูไว้ล่วงหน้า บวกกับ KL loss แบบ fused chunked ทำให้การกลั่นความรู้ที่เคยกิน 4 โหนด GPU ย่อลงเหลือ GPU ตัวเดียว และเร็วขึ้นราว 5 เท่าต่อสเต็ป
· อ่าน 7 นาที