เครื่องมือนักพัฒนา
SGLang 0.5.20: มาสก์การสุ่มสำหรับ RL rollout ที่เล่นซ้ำได้, radix tree รวมร่างดัน cache hit 43.8%→60.8% และโหลดโมเดลบน ROCm จาก 505 วินาทีเหลือ 40 วินาที
SGLang v0.5.20 (18 ก.ย. 2026) รวม 713 PR จาก 237 ผู้ร่วมพัฒนา ของเด่นคือ return_sampling_mask ที่ทำให้ trainer เล่น rollout ซ้ำได้โดยไม่ต้องสร้าง top-k/top-p ใหม่, unified radix tree ที่แคชจุดแตกแขนงของ SWA, ตัวจำลองสเกดูเลอร์ที่รันบน CPU ล้วน และการซ่อม path โหลดโมเดลบน ROCm ที่เร็วขึ้นกว่า 12 เท่า
· อ่าน 7 นาที