Axolotl v0.18.0 — ไฟน์จูนโมเดล MoE ยักษ์ด้วย LoRA 4-bit NVFP4 รองรับ GLM-5.2 และรันได้บน RTX 50xx

วันที่ 17 กรกฎาคม 2026 โปรเจกต์ Axolotl — ไลบรารีไฟน์จูน LLM แบบ config-driven ที่ทีมวิจัยและสตาร์ทอัพจำนวนมากใช้เป็นเครื่องมือมาตรฐาน — ปล่อยเวอร์ชัน v0.18.0 ออกมา รวมกว่า 90 commit นับตั้งแต่ v0.17.0 เมื่อ 3 มิถุนายน

ธีมของรุ่นนี้ชัดมากและตรงกับปัญหาที่นักพัฒนากำลังเจอจริงในเดือนนี้: โมเดลเปิดที่น่าใช้ที่สุดตอนนี้เป็น sparse MoE ขนาดมหึมาเกือบทั้งหมด — GLM-5.2, DeepSeek-V4, Gemma 4, Kimi K3 — แต่การจะไฟน์จูนมันบนฮาร์ดแวร์ที่หาได้จริงยังเป็นเรื่องยาก v0.18.0 คือความพยายามอุดช่องว่างตรงนั้น

expert LoRA แบบ 4-bit บนทั้งสอง MoE backend

หัวใจของรุ่นนี้คือประโยคที่ release note เขียนไว้เองว่า “4-bit NVFP4 expert LoRA now runs fast on both MoE kernel backends”

ฝั่ง ScatterMoE ได้เส้นทาง NVFP4 แบบ fused (ผ่าน Marlin/DeepGEMM) และเส้นทาง bnb-4bit สำหรับ Gemma 4 (128 experts) และ DeepSeek-V4 จุดที่น่าสนใจสำหรับคนวางแผนหน่วยความจำคือ Axolotl ระบุว่า active VRAM แทบไม่ขยับเลยเมื่อเพิ่ม context จาก 4k ไป 32k — ซึ่งเป็นพฤติกรรมที่ต่างจากการไฟน์จูนแบบ dense อย่างสิ้นเชิง และทำให้ประมาณการฮาร์ดแวร์ล่วงหน้าได้ง่ายขึ้นมาก

ฝั่ง SonicMoE ไปไกลกว่านั้นอีกขั้น: รองรับ W4A4 คือ quantize ทั้ง น้ำหนักและ activation เป็น 4-bit (ไม่ใช่แค่น้ำหนัก) ผ่านเคอร์เนล quack/CUTLASS ตัวเลขที่ระบุไว้คือ บน B200 มันชนะเส้นทาง Marlin W4A16 ที่ทุกความยาว sequence โดยคุณภาพเทียบเท่ากัน

และประเด็นที่กระทบคนทั่วไปมากที่สุด: การย้ายไปใช้ quack 0.6 ทำให้เส้นทางนี้ รันได้บน Blackwell ระดับผู้บริโภค — RTX 50xx / sm120 ไม่ใช่เฉพาะการ์ดศูนย์ข้อมูลอีกต่อไป

GLM-5.2 และการยืด context ด้วย activation offloading

v0.18.0 เพิ่มการรองรับไฟน์จูน GLM-5.2 (สถาปัตยกรรม DSA) ซึ่ง Axolotl อธิบายว่ามี 256 routed experts พร้อม Lightning-Indexer token selection โดยทำงานบนหลาย GPU ผ่าน FSDP2 พร้อม 2D expert parallelism

อีกฟีเจอร์ที่ใช้ได้กับโมเดล dense ทั่วไปด้วยคือโหมดใหม่ activation_offloading: hidden_states ตัวเลขที่ให้มาคือ บน Qwen3-8B แบบ full-parameter โหมดนี้ไปถึง context 128k ในจุดที่ gradient checkpointing ธรรมดา OOM และใช้หน่วยความจำ น้อยลง 1.23 เท่าที่ 64k โดย throughput เท่าเดิม

นอกจากนี้ยังมีของเล็กแต่ใช้บ่อย: axolotl inference config.yaml --chat เปิดโหมดแชตหลายเทิร์นแบบ streaming ไว้ลองโมเดลที่เพิ่งเทรนเสร็จได้ทันที ไม่ต้องเขียนสคริปต์ทดสอบเอง

มุมมอง AI Curator

ข่าวนี้อ่านผ่าน ๆ เหมือน changelog ธรรมดา แต่จริง ๆ แล้วมันคือสัญญาณของการเปลี่ยนแปลงเชิงโครงสร้างที่สำคัญกว่านั้น

ตลอดครึ่งปีที่ผ่านมา บล็อกนี้รายงานโมเดลเปิดขนาดยักษ์แทบทุกสัปดาห์ — Kimi K3 ที่ 2.8T, Inkling ที่ 975B, GLM-5.2 ที่ 753B ทุกครั้งคำถามที่ตามมาจากผู้อ่านคือคำถามเดิม: “แล้วเราเอามาทำอะไรได้จริงบ้าง ถ้าไม่มีคลัสเตอร์ H100?” คำตอบที่ซื่อสัตย์ตลอดมาคือ “รัน inference ได้ถ้า quantize แต่ไฟน์จูนลืมไปได้เลย” — และ นั่นแหละคือสิ่งที่รุ่นนี้กำลังกัดเซาะ การที่ expert LoRA แบบ 4-bit รันได้บน RTX 50xx หมายความว่าเส้นแบ่งระหว่าง “องค์กรที่ปรับโมเดลเปิดให้เข้ากับงานตัวเองได้” กับ “องค์กรที่ทำได้แค่เรียก API” ขยับลงมาอีกขั้นหนึ่ง

สำหรับบริบทไทยและ SEA เรื่องนี้มีน้ำหนักเป็นพิเศษ เพราะข้อจำกัดของทีมที่นี่มักไม่ใช่ความรู้ แต่เป็น ต้นทุนการเข้าถึง GPU ทีมที่อยากปรับโมเดลเปิดให้เข้าใจภาษาไทย ศัพท์เฉพาะทางการแพทย์ไทย หรือเอกสารราชการ ที่ผ่านมาต้องเลือกระหว่างเช่าคลัสเตอร์ราคาแพงกับยอมใช้โมเดลเล็กที่คุณภาพไม่พอ เส้นทางที่สามที่เพิ่งเปิดขึ้น — LoRA บน MoE ใหญ่ ๆ ด้วยการ์ดที่ซื้อได้จริง — เป็นเส้นทางที่เหมาะกับข้อจำกัดของภูมิภาคนี้มาก และเป็นเหตุผลที่ควรจับตา Axolotl ให้มากกว่าที่หลายทีมจับตาอยู่ตอนนี้

แต่ต้องพูดข้อควรระวังให้ตรง: ตัวเลขที่อ้างมาทั้งหมดเป็นตัวเลขของผู้พัฒนาเอง ยังไม่มีการยืนยันจากบุคคลที่สาม โดยเฉพาะคำว่า “คุณภาพเทียบเท่ากัน” ในเส้นทาง W4A4 — การ quantize activation เป็น 4-bit เป็นเทคนิคที่ก้าวร้าวกว่าการ quantize เฉพาะน้ำหนักมาก และผลกระทบต่อคุณภาพมักไม่โผล่ในเบนช์มาร์กมาตรฐาน แต่ไปโผล่ในงานเฉพาะทาง ทีมที่จะใช้จริงควร วัดกับชุดทดสอบของตัวเอง ไม่ใช่เชื่อ release note อีกจุดคือตัวเลข B200 กับตัวเลข RTX 50xx เป็นคนละเรื่องกัน — “รันได้” บนการ์ดผู้บริโภคไม่ได้แปลว่า “เร็วเท่า” และ release note ก็ไม่ได้อ้างแบบนั้น

แหล่งข่าว

• Axolotl v0.18.0 Release Notes — GitHub (17 ก.ค. 2026)
• Axolotl — GitHub
• Axolotl Documentation