NVIDIA ปล่อย Nemotron-3-Puzzle-75B-A9B โอเพนเวต — บีบโมเดล 120B เหลือ 75B แล้วได้ throughput เพิ่ม 2 เท่า

(ข่าวตามเก็บ — น้ำหนักโมเดลขึ้น Hugging Face เมื่อ 6 กรกฎาคม 2026 และมีการวิเคราะห์เชิงลึกตามมา 9 กรกฎาคม เราเพิ่งได้เขียนถึงวันนี้)

NVIDIA เปิดน้ำหนัก NVIDIA-Nemotron-Labs-3-Puzzle-75B-A9B ใต้ไลเซนส์ OpenMDW-1.1 — ไม่ใช่โมเดลที่เทรนใหม่จากศูนย์ แต่เป็น โมเดลที่ถูกบีบอัด มาจาก Nemotron-3-Super-120B-A12B ที่เราเคยเขียนถึงตั้งแต่มีนาคม

ตัวเลขคือหัวใจของข่าวนี้: จาก 120.7B พารามิเตอร์รวม / 12.8B active เหลือ 75.3B รวม / 9.3B active แล้วได้ server throughput สูงขึ้นราว 2 เท่า บนโหนด 8×B200 ที่ระดับ user throughput เท่ากัน — โดยความแม่นยำหล่นไปเพียงไม่กี่จุด

Puzzle คืออะไร: บีบอัดเป็นขั้นตอน ไม่ใช่ตัดทิ้ง

เทคนิคที่ใช้ชื่อว่า Iterative Puzzle — กรอบการบีบอัดหลังเทรน (post-training compression) ที่สลับระหว่าง การบีบแบบมีขอบเขต กับ การกลั่นความรู้ (knowledge distillation) สั้น ๆ เพื่อฟื้นความสามารถ ทำซ้ำเป็นรอบ ๆ แทนที่จะตัดพารามิเตอร์ทีเดียวจบแล้วหวังว่าโมเดลจะรอด

ทางเลือกของแต่ละเลเยอร์ถูกให้คะแนนแล้วเลือกด้วย mixed-integer programming เทคนิคย่อยที่ใช้มีทั้งการ prune ช่อง intermediate, ลดจำนวน expert ที่ top-k เลือก, และการปรับ state ของชั้น SSM

สถาปัตยกรรมที่ได้เป็น hybrid Mamba2-Transformer ผสม Latent MoE และ Multi-Token Prediction โดยมี 88 บล็อก แบ่งเป็น Mamba 40, MoE 40 และ attention 8 บล็อก — สังเกตว่า attention เหลือน้อยมาก ซึ่งเป็นเหตุผลที่มันรับ context ยาวได้ถูกกว่าโมเดล transformer ล้วน

รองรับ context สูงสุด 1M โทเคน (ค่าเริ่มต้น 256K) และรองรับ 7 ภาษา (อังกฤษ ฝรั่งเศส เยอรมัน อิตาลี ญี่ปุ่น สเปน จีน — ไม่มีไทย)

กำไรที่ได้ กับราคาที่จ่าย

ฝั่งกำไร วัดที่ระดับ NVFP4 quantization เท่ากัน บน 8×B200:

• ช่วง input 8K / output 64K (งาน reasoning ยาว): throughput 2.03–2.14 เท่า
• ช่วง input 50K / output 2K (งาน RAG/สรุปเอกสาร): throughput 1.60–1.79 เท่า
• บน H100 ตัวเดียวที่ context 1M: รับได้ 8 request พร้อมกัน เทียบกับ 1 request ของโมเดลแม่

ตัวเลขสุดท้ายคือตัวที่แรงที่สุด — จาก 1 เป็น 8 concurrent request บนการ์ดใบเดียวคือความต่างระหว่าง “สาธิตได้” กับ “ให้บริการได้”

ฝั่งราคา เทียบ BF16 กับโมเดลแม่:

Benchmark	Puzzle-75B-A9B	Nemotron-3-Super-120B	ส่วนต่าง
MMLU-Pro	82.4	83.8	−1.4
AIME25	89.7	92.2	−2.5
Arena-Hard-V2	—	—	−4.2
SWE-Bench	—	—	−2.6
RULER 1M	—	—	−1.7
AA-LCR	—	—	+0.1

ตกไปมากสุดคือ Arena-Hard-V2 (−4.2) ซึ่งวัดคุณภาพคำตอบแบบเปิด และ SWE-Bench (−2.6) ส่วนงาน long-context แทบไม่เสีย (AA-LCR ขึ้นนิดเดียว, RULER 1M ลง 1.7)

น้ำหนักมีให้สามแบบ — BF16, FP8 และ NVFP4 — ปรับจูนมาสำหรับ vLLM บน GPU สถาปัตยกรรม Hopper และ Blackwell รายละเอียดวิธีการอยู่ในเปเปอร์ arXiv:2607.04371

มุมมอง AI Curator

ปี 2026 วงการเลิกวัดกันที่ “โมเดลใครใหญ่กว่า” ไปแล้ว และโมเดลตัวนี้คือหลักฐานที่ชัดที่สุด — เพราะ NVIDIA ปล่อยโมเดลที่แย่กว่าโมเดลตัวเองโดยตั้งใจ แล้วเรียกมันว่าความสำเร็จ

เหตุผลที่มันสมเหตุสมผลคือ เศรษฐศาสตร์ของ inference ไม่ได้อยู่ที่คะแนน benchmark แต่อยู่ที่ ต้นทุนต่อ request การเสีย MMLU-Pro ไป 1.4 จุดแลกกับการรับ request ได้ 8 เท่าบนการ์ดใบเดียว เป็นดีลที่ทีม production แทบทุกทีมจะรับทันที ในขณะที่ทีมวิจัยจะปฏิเสธ — ซึ่งบอกเราว่าโมเดลนี้ไม่ได้ทำมาให้ขึ้นลีดเดอร์บอร์ด

จุดที่นักพัฒนาไทยควรอ่านให้ขาดคือ ตัวเลข H100 ตัวเดียว ภูมิภาคเราไม่ได้มีโหนด 8×B200 ให้เล่นกันทุกที่ แต่ H100 ใบเดียว — หรือคลาวด์ที่เช่า H100 รายชั่วโมง — เป็นสิ่งที่สตาร์ทอัพหรือทีมในมหาวิทยาลัยเอื้อมถึง การที่ context 1M รับได้ 8 request พร้อมกันแทนที่จะเป็น 1 เปลี่ยนโมเดลนี้จากของสาธิตเป็นของที่ตั้ง endpoint ให้ทีมใช้จริงได้

แต่ต้องอ่านให้ครบสองบรรทัด: ไม่มีภาษาไทยในรายชื่อ 7 ภาษาที่รองรับ และการบีบอัดมักทำให้ความสามารถภาษาที่อยู่ปลายแถวของ distribution เสียหายมากกว่าภาษาหลัก — ถ้าคุณจะใช้กับงานภาษาไทย ต้องวัดเองก่อน อย่าอนุมานจากคะแนน MMLU-Pro ภาษาอังกฤษ

ประเด็นที่ลึกกว่านั้น: Puzzle เป็นเทคนิค ไม่ใช่แค่โมเดล ถ้าการสลับ “บีบ → distill ฟื้น” เป็นรอบ ๆ ได้ผลจริงตามที่เปเปอร์อ้าง มันจะกลายเป็นขั้นตอนมาตรฐานหลังเทรนเสร็จ เหมือนที่ quantization กลายเป็นมาตรฐานไปแล้ว และนั่นแปลว่าโมเดลโอเพนเวตรุ่นถัดไปจะมาพร้อม “รุ่นบีบ” ตั้งแต่วันเปิดตัว — ซึ่งเป็นข่าวดีสำหรับทุกคนที่รันโมเดลเองมากกว่าคนที่เรียก API

ข้อสังเกตสุดท้ายที่ไม่ควรมองข้าม: ไลเซนส์ OpenMDW-1.1 ไม่ใช่ Apache 2.0 ก่อนเอาไปใช้เชิงพาณิชย์ ควรอ่านเงื่อนไขจริงจากหน้าโมเดล ไม่ใช่เหมาว่า “NVIDIA ปล่อยโอเพน” แล้วจบ

แหล่งข่าว

• nvidia/NVIDIA-Nemotron-Labs-3-Puzzle-75B-A9B-BF16 — Hugging Face
• เช็กพอยต์ NVFP4 — Hugging Face
• NVIDIA Releases Nemotron-Labs-3-Puzzle-75B-A9B — MarkTechPost (9 ก.ค. 2026)
• เปเปอร์ Iterative Puzzle — arXiv:2607.04371