SGLang v0.5.19 ออกเช้านี้ — 786 PR, beam search ที่ยังใช้ร่วมกับ spec decoding ไม่ได้, radix tree รวมเป็นดีฟอลต์ และคู่มือรันโมเดลใหญ่บนการ์ดใบเดียว

5 กันยายน 2026 เวลา 02:27 UTC โปรเจกต์ SGLang ปล่อย v0.5.19 ซึ่งเป็นรีลีสก้อนใหญ่: 786 PR จากผู้ร่วมพัฒนา 214 คน นับจาก v0.5.18 เมื่อ 22 ส.ค. — สองสัปดาห์เศษ

SGLang เป็นเซิร์ฟเวอร์ inference สายเดียวกับ vLLM ที่คนไทยหลายทีมใช้เป็นตัวเสิร์ฟโมเดลเปิดในองค์กร แต่รีลีสนี้มีสองด้านที่ต้องอ่านคู่กัน: ด้านที่เพิ่มความสามารถให้คนมี GPU น้อย กับ ด้านที่เปลี่ยนดีฟอลต์และบังคับอัป dependency จนอาจพังของเดิม

ด้านที่น่าสนใจสำหรับคนรันเครื่องเดียว

รีลีสนี้เพิ่มคู่มือใน cookbook ที่ตอบคำถาม “รันได้บนการ์ดอะไร” อย่างเจาะจง ซึ่งเป็นสิ่งที่หายากในเอกสารเซิร์ฟเวอร์ inference:

• MiniMax-H3 บน GPU 24 GB หรือ DGX Spark พร้อมคู่มือปรับจูนสำหรับการ์ดผู้บริโภค (#36169, #35816)
• Qwen3.8-27B บน RTX 5090, RTX PRO 6000 และ DGX Spark โดยระบุว่าวัดใหม่แล้ว (#35825)
• Ling-3.0-flash บน DGX Spark (#36364)
• Kimi-K3 บน Ascend A3 และ Kimi-K2.7-Code MXFP4 บน MI355X — คือไม่ผูกกับ NVIDIA อย่างเดียว

โมเดลที่รองรับใหม่ในรอบนี้ได้แก่ Qwen3.8 (2.4T-A95B), Qwen3.8-27B, dots3.note (RedNote), Ling-3.0-flash และ -tiny, Spark2.5, MiniCPM-SALA, Granite 4.2 และฝั่ง diffusion คือ LongCat-Image-Edit พร้อมคู่มือ deploy GLM-5.3 และ PaddleOCR-VL

Beam search เป็นฟีเจอร์ใหม่ที่ขอมานาน: ส่ง beam_width มาในคำขอแล้วได้ลำดับที่ดีที่สุด n อันแทนการสุ่มครั้งเดียว ใช้ปนกับคำขอปกติได้เลย — แต่ยังใช้ร่วมกับ speculative decoding, disaggregation, DP attention หรือ HiCache ไม่ได้ (#31626) ซึ่งเป็นข้อจำกัดที่ใหญ่กว่าที่ฟังดู เพราะเซตอัปที่เน้นความเร็วส่วนใหญ่เปิด spec decoding ไว้อยู่แล้ว

ตัวเลขความเร็ว: อ่านให้ตรงว่าอันไหนใหญ่ อันไหนเล็ก

รีลีสโน้ตให้ตัวเลขมาเยอะ แต่ขนาดของผลต่างกันมาก จัดเรียงตามผลกระทบจริง:

การเปลี่ยนแปลง	ผลที่รายงาน	เงื่อนไข
Lean attention บน AMD (#33576)	throughput สูงสุด 1.52 เท่า, inter-token latency ต่ำลงสูงสุด 3.62 เท่า	MI355X, batch decode ที่ยาวหรือไม่สม่ำเสมอ
GLM-5.2 disaggregated บน ROCm (#36714)	decode TPOT จาก 23 ms เหลือ 8 ms	8x MI355X
KDA fused accept (#33722)	เวลา MTP verify-and-commit ลด 45-63%	รูปทรง Kimi-Linear, ผลลัพธ์ตรงบิตเดิม
W4A8 MoE บน Hopper (#34967)	output throughput +12% โดย GSM8K ไม่เปลี่ยน	DeepSeek-V4-Flash, ต้อง FlashInfer 0.6.18
Gemma-4 FP8 MTP (#32440)	อัตรายอมรับ จาก 0% เป็น 60%	เป็นการแก้บั๊ก ไม่ใช่การเร่ง
LayerNorm sequence parallelism (#30915)	prefill เร็วขึ้น 3.5% (H100) / 5.6% (B200)	Qwen3 dense เท่านั้น, ยิ่ง TP สูงยิ่งได้มาก

สองแถวล่างสำคัญในทางกลับกัน: LayerNorm SP ที่ต้องเปิดเองด้วย --enable-layernorm-sp ให้ผลแค่ 3.5-5.6% ซึ่งเล็กกว่าที่ชื่อฟีเจอร์ชวนคิด ส่วนแถว Gemma-4 คือเรื่องที่ควรอ่านเป็นคำเตือน: อัตรายอมรับ MTP เป็น 0% มาก่อนหน้านี้ แปลว่าใครที่เปิด speculative decoding กับ Gemma-4 FP8 อยู่ ได้จ่ายค่าประมวลผลของ draft model ไปฟรี ๆ โดยไม่ได้ความเร็วกลับมาเลย — และไม่มีอะไรใน log บอก

ตัวเลขทั้งหมดนี้มาจากผู้ส่ง PR เอง เป็นการวัดคอนฟิกเดียวบนฮาร์ดแวร์ระดับดาต้าเซ็นเตอร์เป็นส่วนใหญ่ (B200, GB300, MI355X) คำว่า “up to” อยู่ในเกือบทุกประโยค

14 breaking change — และข้อที่ไม่ส่งเสียง

หัวข้อ Breaking Changes ของรีลีสนี้มี 14 รายการ ที่กระทบมากที่สุด:

1. unified radix tree เป็นดีฟอลต์ของทุกคอนฟิกแล้ว ไม่ใช่เฉพาะโมเดล hybrid — ธง SGLANG_ENABLE_UNIFIED_RADIX_TREE ถูกยกเลิก (#35081)
2. บังคับ FlashInfer 0.6.18 โดย --dsa-topk-backend flashinfer และโหมด CuTe DSL NVFP4 W4A16 ไม่มี fallback ให้ API รุ่นเก่า (#36954)
3. การสร้าง ServerArgs ไม่ resolve ค่าให้อีกต่อไป โปรแกรมที่สร้าง record เองต้องเรียก resolve_once() ก่อนอ่านค่า (#35907) — ข้อนี้กระทบคนที่ฝัง SGLang เป็นไลบรารีมากกว่าคนที่รันเป็นเซิร์ฟเวอร์
4. Spark3 ถูกเปลี่ยนชื่อเป็น Spark2.5 ทั้ง config, คลาสโมเดล และ ชื่อ tool-call parser จาก spark เป็น spark25 (#36416)
5. คำขอถูกจำกัดที่ stop string 32 อันและ stop regex 32 แพตเทิร์น อันละไม่เกิน 256 ไบต์ เกินนั้นได้ HTTP 400 (#37029)
6. อิมเมจ ROCm 7.2.4 ย้ายไป Python 3.12, torch 2.11, triton 3.7 และมีอิมเมจ ROCm 10 ใหม่สำหรับ gfx942/gfx950/gfx1250

ข้อที่อันตรายที่สุดกลับไม่ใช่ข้อที่พังเสียงดัง: W4A4 MegaMoE ย้ายไปใช้ --enable-w4a4-megamoe โดยตัวแปรสภาพแวดล้อมเดิม (SGLANG_OPT_DEEPGEMM_MEGA_MOE_USE_FP4_ACTS และ ..._USE_MXF4_KIND) “now only warn” (#35918) — คือคอนฟิกเดิมยังสตาร์ตขึ้นและให้บริการต่อ เพียงแต่ไม่ได้ทำในสิ่งที่คุณสั่ง อีกข้อในกลุ่มเดียวกันคือ DeepSeek-V4 FP4 เปลี่ยนไปใช้ FlashInfer MXFP4 MoE runner เป็นดีฟอลต์ บน SM90/SM100/SM120 เมื่อปล่อย --moe-runner-backend ไว้ที่ auto

นี่คือรูปแบบเดียวกับที่เราเขียนถึงตอน Polars 2.0 rc: breaking change ที่ throw error จะถูกแก้ในนาทีแรก ส่วนอันที่แค่เตือนหรือเปลี่ยนดีฟอลต์เงียบ ๆ จะอยู่ในระบบไปอีกหลายเดือน และถ้าเป็นเอเจนต์ที่อัปเวอร์ชันให้ มันจะรายงานว่า “อัปสำเร็จ เทสต์เขียว” อย่างซื่อสัตย์

ฝั่งความปลอดภัยมีสามข้อ: จำกัดหน่วยความจำ CUDA ใน image preprocessing (#36295), จำกัด stop string/regex ตามข้อ 5 และฝั่ง CI คือ ถอด /rerun-stage ออกและกำหนดให้ /rerun-test ใช้ได้เฉพาะผู้แสดงความเห็นที่เชื่อถือได้ (#35750) — ข้อหลังคือการอุดช่องที่คนนอกสั่งรัน CI ของโปรเจกต์ได้ ซึ่งเป็นความเสี่ยงห่วงโซ่อุปทานที่โปรเจกต์โอเพนซอร์สใหญ่ ๆ เพิ่งทยอยแก้กัน

มุมมอง AI Curator

ถ้าอ่านรีลีสนี้เร็ว ๆ จะเห็นเป็นรายการงานวิศวกรรมล้วน ๆ แต่สิ่งที่เปลี่ยนจริงคือ ตำแหน่งของ SGLang ในตลาด เมื่อสองปีก่อนเซิร์ฟเวอร์ inference คือของสำหรับคนมีคลัสเตอร์ รอบนี้ครึ่งหนึ่งของ cookbook พูดถึง RTX 5090, GPU 24 GB และ DGX Spark — และมีหัวข้อชื่อ “Local & Desktop AI” กับการอัป MLX bridge สำหรับ Apple Silicon อยู่ในรีลีสโน้ตเดียวกับ optimization สำหรับ GB300 นี่คือการยอมรับว่าผู้ใช้จำนวนมากเสิร์ฟโมเดลจากเครื่องเดียว ไม่ใช่จากแร็ค

สำหรับทีมไทยที่ต้องเสิร์ฟโมเดลเองเพราะข้อกำหนดเรื่องข้อมูล (โรงพยาบาล ธนาคาร หน่วยงานรัฐ) ข้อสรุปที่ใช้ได้คือ: คู่มือรุ่นต่อการ์ดคือของจริงที่มีค่ากว่าตัวเลข throughput เพราะคำถามแรกเสมอคือ “โมเดลนี้ลงการ์ดที่เรามีอยู่ไหม” ไม่ใช่ “เร็วกว่าคู่แข่งกี่เปอร์เซ็นต์” และการที่รีลีสนี้ระบุว่าตัวเลขของ Qwen3.8-27B บน RTX 5090 ถูกวัดใหม่ ก็มีค่ามากกว่าตัวเลขที่ค้างอยู่จากรีลีสก่อน

ข้อควรระวังที่ต้องพูดตรง ๆ: 786 PR ในสองสัปดาห์ไม่ใช่จังหวะที่เหมาะกับ production ที่ตรึงเวอร์ชันตามช่วง ใครที่รันของจริงควรตรึงเป็น v0.5.19 เต็ม ๆ ไม่ใช่ v0.5.x แล้วอ่านหัวข้อ Breaking Changes ทุกครั้ง โดยเฉพาะสองข้อที่ไม่ทำให้เซิร์ฟเวอร์พัง — ธง W4A4 ที่กลายเป็นแค่คำเตือน และ MoE runner ที่เปลี่ยนดีฟอลต์เมื่อปล่อยไว้ที่ auto วิธีตรวจที่ถูกต้องหลังอัปคือ วัด throughput และรันชุด eval สั้น ๆ เทียบกับก่อนอัป ไม่ใช่ดูว่าเซิร์ฟเวอร์สตาร์ตขึ้นหรือไม่ เพราะสองข้อนั้นสตาร์ตขึ้นเสมอ

สุดท้าย แถว Gemma-4 ที่ MTP acceptance เคยเป็น 0% คือบทเรียนที่ควรติดผนัง: ฟีเจอร์เร่งความเร็วที่ไม่ทำงานจะไม่ส่งเสียงเตือน มันแค่เงียบและกินทรัพยากรเพิ่ม ถ้าเปิด speculative decoding ไว้ ควรวัดอัตรายอมรับจริงเป็นระยะ ไม่ใช่เปิดแล้วเชื่อว่าได้ผล

แหล่งข่าว

• SGLang v0.5.19 — GitHub Releases (5 ก.ย. 2026)
• SGLang cookbook — คู่มือ deploy รายโมเดลและรายการ์ด
• PR #31626 — beam search พร้อมข้อจำกัดที่ยังใช้ร่วมกับ spec decoding ไม่ได้
• PR #35918 — W4A4 MegaMoE ย้ายไปธงใหม่ ตัวแปรเดิมเหลือแค่คำเตือน