SGLang 0.5.22 ออกแล้ว — ตัด Python 3.10 แบบเงียบ ๆ, `--enable-dp-attention` ถูกแทนด้วย `--attn-dp-size`, รันบน Mac ได้ด้วย PyTorch และโหลดโมเดลเร็วขึ้น 10 เท่า

SGLang ปล่อย v0.5.22 เมื่อ 19 ต.ค. 2026 รวม 950 PR จากผู้ร่วมพัฒนา 245 คน ห่างจาก 0.5.21 ราวสองสัปดาห์ และออกตามหลัง vLLM 0.32 เพียงวันเดียว ทั้งสองโปรเจกต์ตัด Python 3.10 ในรอบเดียวกัน

ใน release note ของ SGLang มีข้อหนึ่งที่ควรระวังเป็นพิเศษ ถ้าเครื่องยังใช้ Python 3.10 (เช่น Python ของระบบใน Ubuntu 22.04) คำสั่ง pip install sglang จะไม่ล้ม แต่ pip จะเลือกเวอร์ชันสุดท้ายที่ยังรองรับ 3.10 มาติดตั้งแทนโดยไม่แจ้งอะไร ผลคือ CI ผ่านตามปกติ แต่ได้ SGLang เวอร์ชันเก่าที่ไม่มีทั้งฟีเจอร์และ bug fix ของรุ่นนี้

Breaking change ที่ต้องเช็กก่อนอัปเกรด

• ต้องใช้ Python 3.11 ขึ้นไป (#43021) ส่วน Docker image ของ CUDA เปลี่ยนไปใช้ Python 3.12 ที่จัดการด้วย uv
• --enable-dp-attention เลิกใช้แล้ว ให้ใช้ --attn-dp-size N แทน (#41818) และ --dp-size จะนับเฉพาะจำนวน replica ของโมเดลเท่านั้น ถ้าใช้ --dp-size N --enable-dp-attention แบบเดิม SGLang ยังแปลงให้พร้อมแสดงคำเตือน แต่ถ้าตั้ง replica คู่กับ attention DP หรือใส่ทั้งสองแบบพร้อมกัน server จะไม่ยอมเริ่มทำงาน สำหรับ DeepSeek ที่ใช้ context parallelism นั้น --dp-size ยังหมายถึง attention DP อยู่ แต่จะถูกปฏิเสธหลัง 31 ธ.ค. 2026
• --disaggregation-decode-host-receive-threshold กลับความหมาย (#43407) ค่า 1 ซึ่งเป็นค่าเริ่มต้นใหม่หมายถึงปิด host receive ส่วน 0 หมายถึงเปิดเสมอ config ไหนที่เคยใส่ 0 เพื่อปิด ต้องเปลี่ยนเป็น 1 ข้อนี้ไม่มี error เตือน ระบบจะเปลี่ยนพฤติกรรมไปเลย
• ลบ ChunkCache และ prefill graph backend tc_piecewise ออกแล้ว ถ้าใช้ --disable-radix-cache ระบบจะไปใช้ UnifiedRadixCache ในโหมดปิดแทน ส่วน streaming session ใช้ได้เฉพาะกับ UnifiedRadixCache
• response แบบ OpenAI เปลี่ยนสามจุด ถ้าส่ง tool_choice: "none" โมเดล DeepSeek จะไม่เห็น schema ของ tool อีก, ถ้าไม่มี tool_calls ฟิลด์นี้จะหายไปจาก response แทนที่จะเป็น null และ stream หนึ่งใช้ timestamp created ค่าเดียวตลอด ข้อที่สองอาจทำให้ client ที่เช็ก "tool_calls" in msg ทำงานผิด
• environment variable หลายตัวถูกเปลี่ยนชื่อหรือไม่มีผลแล้ว เช่น SGLANG_DSPARK_FAST_SAMPLING ส่วนคนเขียนโมเดลหรือ plugin ควรรู้ว่า ModelRunner.tp_group ถูกลบ ต้องอ่านผ่าน get_parallel() แทน

ของใหม่ที่น่าสนใจ

• รันบน Apple Silicon ด้วย PyTorch ปกติ (#36780) ใช้ MPS ใน model runner มาตรฐาน เพิ่มจาก backend MLX ที่มีอยู่แล้ว ทำให้เขียนและทดสอบ config บน Mac ได้ก่อนนำไปรันบน GPU จริง
• InstantTensor loader (#40453) ตัวเลขใน PR คือ DeepSeek-R1 บน H200 8 ใบ โหลดเสร็จใน 15.3 วินาที เทียบกับเดิม 160 วินาที เมื่ออ่านจาก storage ความเร็ว 50 GB/s ต้องติดตั้งเพิ่มเองผ่าน sglang[instanttensor]
• ประสิทธิภาพของโมเดลเปิดยอดนิยม DeepSeek-V4.1 ได้ throughput ต่อ GPU บน H200 เพิ่มสูงสุด 2.3 เท่า และรันบน AMD MI350X/MI355X ได้แล้ว, GLM-5.3 เมื่อใช้ decode context parallelism คู่กับ MTP decode เร็วขึ้นสูงสุด 2.1 เท่า, MiMo-V2.6-Pro บน B300 ได้ decode throughput 1.85 เท่า
• PD disaggregation ได้ throughput เพิ่มสูงสุด 27% และ p95 TTFT ลดลงครึ่งหนึ่งกับ workload ที่ prompt ยาว ส่วน HiSparse ที่เก็บ KV cache ใน RAM ของ CPU ตอนนี้ใช้ร่วมกับ EAGLE และ MTP ได้
• โมเดลใหม่ ได้แก่ Clef / Clef Flash ของ Cloudflare บน /v1/systemone, PPLX-Decider, EmbeddingGemma 2, LLaDA2.2 และฝั่ง diffusion มี HunyuanImage-3.0-Instruct, Kandinsky 6, Wan-Animate-2 และ SANA-Video 2.0 ตอนนี้ MiniMax-H3 กับ Qwen-Image 2.1 รันใน ComfyUI ผ่าน SGLang Diffusion ได้ด้วย

bug fix ที่ควรรู้

release note ระบุเป็น “important fix” ว่า โมเดลแบบ hybrid linear (ตระกูล Mamba) อาจดึง mamba state ผิดตัวมาใช้ต่อ เมื่อเปิด speculative decoding พร้อมกับ structured output (#43029) ผู้ที่พบปัญหานี้คือ Baseten บั๊กลักษณะนี้ไม่ทำให้ server ล้ม แต่ทำให้คำตอบเพี้ยน ทีมที่ให้บริการโมเดล hybrid และใช้ JSON mode คู่กับ spec decoding ควรอัปเกรดเป็นลำดับแรก

มุมมอง AI Curator

เรื่องที่สำคัญที่สุดของรุ่นนี้ไม่ใช่ฟีเจอร์ใหม่ แต่คือการที่ Python 3.10 ถูกทิ้งไปเงียบ ๆ เครื่อง GPU ของมหาวิทยาลัยและบริษัทในไทยจำนวนมากยังเป็น Ubuntu 22.04 ที่ใช้ Python ของระบบ ถ้า pipeline ของทีม pin แค่ sglang>=0.5 จะได้เวอร์ชันที่ค้างอยู่ตลอด และอาจใช้เวลาหลายสัปดาห์กว่าจะมีคนรู้ว่าทำไม bug ที่ upstream แก้ไปแล้วยังเกิดอยู่ วิธีป้องกันง่าย ๆ คือ pin เวอร์ชันแบบตรงตัว แล้วให้ CI ตรวจว่า sglang.__version__ เป็นค่าที่ตั้งใจไว้จริง ทั้ง vLLM และ SGLang ตัด 3.10 ในสัปดาห์เดียวกัน นี่จึงเป็นจังหวะที่ควรย้ายไปใช้ uv และ Python 3.12 พร้อมกันทั้งระบบ

ข้อที่สองคือ flag ที่เปลี่ยนความหมายโดยไม่มี error เตือน ทั้ง --disaggregation-decode-host-receive-threshold และการที่ tool_calls: null กลายเป็นไม่มีฟิลด์นี้เลย ทั้งสองข้อไม่ทำให้ server ล้ม แต่ทำให้ระบบทำงานต่างจากเดิม รอบนี้จึงไม่ควรอัปเกรดด้วยการแก้ tag ใน Docker แค่บรรทัดเดียว ควรมี smoke test ที่ทดสอบ tool calling และ PD disaggregation ก่อน

ส่วนการรันบน Mac ด้วย PyTorch ดูเป็นของเล็ก แต่ช่วยนักพัฒนาที่ใช้ MacBook เป็นเครื่องหลักได้มาก เพราะทดสอบ config ของ SGLang ในเครื่องตัวเองได้ก่อนส่งไปรันบนคลัสเตอร์ ช่องว่างระหว่าง “เครื่องที่ใช้เขียนโค้ด” กับ “เครื่องที่ใช้ serve” ลดลง ไม่ต้องเช่า GPU เพียงเพื่อเช็กว่า flag ที่ตั้งไว้ถูกหรือไม่

แหล่งข่าว

• SGLang v0.5.22 release notes (GitHub)
• PR #41818 — Add —attn-dp-size and deprecate —enable-dp-attention
• PR #36780 — Apple Silicon (MPS) platform for the Torch model runner
• PR #43029 — Use committed length in spec mamba track boundary check