NVIDIA เปิด Nemotron-Labs-Diffusion โมเดลเปิดที่รันได้ 3 โหมดในตัวเดียว — AR, diffusion และ self-speculation

NVIDIA ปล่อยงานวิจัยชื่อ Nemotron-Labs-Diffusion พร้อมน้ำหนักโมเดลแบบเปิดบน Hugging Face (arXiv ลงวันที่ 7 กรกฎาคม 2026) ที่ตอบโจทย์คำถามเก่าแก่ในวงการ inference: ทำอย่างไรให้โมเดลภาษาถอดรหัส (decode) ได้เร็วขึ้นโดยไม่เสียคุณภาพ คำตอบของ NVIDIA คือรวมสามวิธีถอดรหัสที่ปกติแยกกันคนละโมเดล เข้าไว้ในน้ำหนักชุดเดียว แล้วสลับโหมดได้ตามงาน

ที่น่าสนใจสำหรับนักพัฒนาคือโหมดที่สาม — self-speculation — ที่ให้ตัวโมเดลใช้ diffusion “ร่าง” หลายโทเคนไปข้างหน้าพร้อมกัน แล้วใช้ AR (autoregressive) “ตรวจ” ความถูกต้องบน KV cache ชุดเดียวกัน กล่าวคือโมเดลทำหน้าที่เป็น draft model ให้ตัวเองได้เลย ไม่ต้องโหลดโมเดลเล็กเสริมมาคู่กันแบบ speculative decoding เดิม (เช่น Eagle3/MTP) ทีมงานเปิดทั้งขนาด 3B, 8B, 14B พร้อมรุ่น base, instruct และ vision-language ภายใต้ NVIDIA Nemotron Open Model License ที่อนุญาตให้ใช้เชิงพาณิชย์ได้

สามโหมดในน้ำหนักเดียว

จุดขายหลักคือ “tri-mode” — น้ำหนักชุดเดียวเลือกใช้ได้ตามสถานการณ์:

• Autoregressive (AR): ถอดทีละโทเคนซ้ายไปขวาแบบดั้งเดิม ให้ prior เชิงภาษาที่แม่นยำ
• Diffusion (dLM): ถอดหลายโทเคนขนานกัน ช่วยการวางแผนแบบมองไปข้างหน้า (lookahead planning)
• Linear self-speculation: ใช้ diffusion ร่าง + AR ตรวจ บน KV cache ร่วม เร่งความเร็วโดยคงความถูกต้องระดับ AR

แนวคิดเบื้องหลังคือ diffusion เก่งเรื่องการวางแผนล่วงหน้า ส่วน AR ให้ความถูกต้องเชิงภาษาแบบซ้ายไปขวา การรวมสองอย่างในโมเดลเดียวจึงได้ทั้งความเร็วและคุณภาพ แทนที่จะต้องเลือกอย่างใดอย่างหนึ่ง

ตัวเลขที่ NVIDIA รายงาน

ตามเปเปอร์และ model card (ตัวเลขจากผู้พัฒนาเอง ยังรอการตรวจสอบอิสระ):

• รุ่น 8B ถอดได้ ~5.9 เท่าของจำนวนโทเคนต่อ forward pass เมื่อเทียบกับ Qwen3-8B ที่ความแม่นยำใกล้เคียงกัน
• โหมด self-speculation ให้ acceptance length สูงขึ้น 3 เท่า และเร็วขึ้น 2.2 เท่า เทียบกับ Qwen3-8B ที่ใช้ Eagle3
• บน DGX Spark (เครื่องเดสก์ท็อป AI): 112 tok/s เทียบกับ 41.8 tok/s ของโหมด AR (เร็วขึ้น ~2.7 เท่า)
• บน GB200: 850 tok/s เทียบกับ 253 tok/s (AR) และ 360 tok/s (Eagle3) — เร็วขึ้น ~3.3 เท่า
• ทำ throughput ได้ ~4 เท่า บน SPEED-Bench เมื่อรันด้วย SGLang บน GB200

ตัวเลข DGX Spark น่าสนใจเป็นพิเศษ เพราะมันคือคลาสฮาร์ดแวร์ที่นักพัฒนาซื้อมาวางบนโต๊ะได้ ไม่ใช่คลัสเตอร์ดาต้าเซ็นเตอร์

ทำไมนักพัฒนาควรสนใจ

speculative decoding มาตรฐานทุกวันนี้ต้องจับคู่โมเดลใหญ่กับโมเดล draft เล็กอีกตัว ซึ่งหมายถึงต้องเทรน จัดการ และโหลดโมเดลสองชุด กินหน่วยความจำและงาน ops เพิ่ม การที่โมเดลตัวเดียว “ร่างให้ตัวเอง” ได้ ตัดความยุ่งยากตรงนี้ทิ้ง — โดยเฉพาะเวลารันบนเครื่อง local ที่ VRAM มีจำกัด และ license แบบเปิดเชิงพาณิชย์ทำให้เอาไปต่อยอดในโปรดักต์จริงได้โดยไม่ติดข้อจำกัดแบบโมเดลปิด

มุมมอง AI Curator

ปี 2026 เต็มไปด้วยโมเดล diffusion-LLM ที่เคลมว่าเร็วกว่า AR (DiffusionGemma, Nemotron-Labs-TwoTower ก่อนหน้านี้) แต่ปัญหาที่ค้างมาตลอดคือ diffusion มักแลกความเร็วด้วยคุณภาพ หรือต้องมี pipeline แยกจากระบบ AR ที่ทีมส่วนใหญ่ใช้อยู่ สิ่งที่ Nemotron-Labs-Diffusion ทำได้ฉลาดคือไม่บังคับให้เลือกข้าง — มันวาง diffusion เป็น “เครื่องเร่ง” ให้ AR ผ่านกลไก self-speculation แทนที่จะเป็นคู่แข่ง นี่คือการวางตำแหน่งที่ตรงกับความเป็นจริงของ production มากกว่า

สำหรับบริบทไทยและเอเชียตะวันออกเฉียงใต้ ประเด็นที่กระทบจริงคือ ต้นทุน inference บนฮาร์ดแวร์ที่หาได้. ทีมเล็กและสตาร์ตอัปในภูมิภาคนี้มัก self-host โมเดลเปิดบน GPU ตัวเดียวหรือเครื่องคลาส workstation เพื่อเลี่ยงค่า API ที่คิดเป็นดอลลาร์ ถ้าตัวเลข “112 tok/s บน DGX Spark” ยืนได้จริงในงานของเราเอง มันแปลว่าได้ throughput ระดับใช้งานได้จริงจากโมเดล 8B บนเครื่องเดียว โดยไม่ต้องเซ็ต pipeline draft-model สองชั้น อย่างไรก็ตาม ทั้งหมดนี้ยังเป็นตัวเลขจาก NVIDIA เอง — ก่อนตัดสินใจย้าย stack ควรทดสอบบน workload จริงของตัวเอง โดยเฉพาะภาษาไทยที่ tokenizer และพฤติกรรม diffusion อาจต่างจาก benchmark ภาษาอังกฤษ

แหล่งข่าว:

• Nemotron-Labs-Diffusion: A Tri-Mode Language Model… (arXiv)
• NVIDIA Nemotron-Labs-Diffusion collection (Hugging Face)
• nvidia/Nemotron-Labs-Diffusion-8B model card