NVIDIA ปล่อย Nemotron 3.5 Lightning — MoE 30B active 3B ใบอนุญาต OpenMDW context 1M เร็วเกือบ 670 โทเคน/วินาที

เมื่อ 11 สิงหาคม 2026 NVIDIA เปิดตัว Nemotron 3.5 Lightning โมเดลตัวแรกของตระกูล Nemotron 3.5 พร้อมปล่อย weights, ข้อมูล และสูตรเทรนภายใต้ใบอนุญาต OpenMDW-1.1 ที่ใช้เชิงพาณิชย์ได้ จุดขายไม่ใช่ “ฉลาดที่สุด” แต่คือตำแหน่งบนเส้น Pareto ระหว่างความแม่นกับความเร็ว — โมเดลที่ทำงาน agent ยาว ๆ ได้จบโดยไม่ต้องจ่ายค่า latency ของโมเดล frontier

ตัวเลขที่อธิบายเรื่องนี้ได้ดีที่สุดมาจาก Artificial Analysis: Lightning ทำคะแนน Intelligence Index ได้ 24 เท่ากับ gpt-oss-120b ของ OpenAI ทั้งที่มีพารามิเตอร์รวมราวหนึ่งในสี่ และกระโดดขึ้นจากรุ่นก่อนหน้า Nemotron 3 Nano ที่ได้ 15 ถึงเก้าแต้ม ขณะที่วัดความเร็วได้ เกือบ 670 โทเคน/วินาที ซึ่งเป็นค่าสูงสุดในกลุ่มที่นำมาเทียบ

สเปกที่นักพัฒนาต้องดู

รายการ	ค่า
พารามิเตอร์รวม	~31.6B
พารามิเตอร์ที่ activate	~3.6B
สถาปัตยกรรม	hybrid MoE — สลับชั้น Mamba-2 กับ MoE และแทรกชั้น Attention บางจุด
context	สูงสุด 1,000,000 โทเคน (แนะนำ 256K สำหรับ H100 ใบเดียว)
checkpoint	NVFP4 และ BF16
ใบอนุญาต	OpenMDW-1.1 — ใช้เชิงพาณิชย์ได้
repo	nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 และรุ่น -NVFP4

สถาปัตยกรรมสืบทอดมาจาก Nemotron 3 Nano 30B A3B โดยตรง — ยังเป็นสาย hybrid Mamba-Transformer ที่ NVIDIA เดินมาตั้งแต่ Nemotron 3 Super เมื่อเดือนมีนาคม เหตุผลทางวิศวกรรมยังเหมือนเดิม: ชั้น Mamba-2 มีต้นทุนเชิงเส้นกับความยาว context จึงเป็นเงื่อนไขที่ทำให้ context 1M เป็นไปได้จริงโดยไม่ระเบิดหน่วยความจำเหมือน attention ล้วน

ฝั่ง deployment ครบสายตั้งแต่วันแรก: vLLM, SGLang, TensorRT-LLM สำหรับเซิร์ฟเวอร์ และ Ollama, LM Studio, llama.cpp, Unsloth สำหรับคนรันเครื่องตัวเอง NVIDIA ระบุว่ารันได้บน GeForce RTX 5090, DGX Spark, DGX Station และ Jetson

ความเร็วมาจากไหน — MTP กับ drafter สองตัว

จุดที่น่าสนใจทางเทคนิคที่สุดคือ NVIDIA ไม่ได้เอา speculative decoding มาแปะทีหลัง แต่ ฝัง multi-token prediction (MTP) ไว้ตั้งแต่ขั้น pretraining แล้วปล่อย draft model มาให้สองตัวแยกตามสภาพการใช้งาน:

• DSpark — สำหรับงาน concurrency ต่ำ คือกรณีรันในเครื่องตัวเองหรือ agent ตัวเดียวที่ต้องการ latency ต่ำสุด
• DFlash — ปรับจูนมาสำหรับ GPU สถาปัตยกรรม Blackwell

ผลลัพธ์ที่ NVIDIA อ้างคือ เร็วกว่าโมเดลขนาดใกล้เคียงกันได้ถึง 4 เท่า และในการทดสอบบน PinchBench ทำความแม่นได้ 86% พร้อมกับทำงาน 10,000 งานจบ เร็วกว่า Qwen3.6 35B อยู่ 30%

อีกจุดที่บอกว่าโมเดลนี้ออกแบบมาเพื่อ agent จริง ๆ คือ NVIDIA ระบุว่าเทรนกับ agent harness ที่คนใช้กันจริง เพื่อดันความแม่นของการเรียกเครื่องมือ ไม่ใช่เทรนแบบทั่วไปแล้วหวังว่า tool calling จะดีเอง

อ่านเบนช์มาร์กให้ครบ — นี่ไม่ใช่โมเดลที่เก่งที่สุด

ตัวเลขจาก Artificial Analysis ที่ต้องอ่านคู่กัน:

โมเดล	Intelligence Index
Nemotron 3 Nano	15
Nemotron 3.5 Lightning	24
gpt-oss-120b	24
Nemotron 3 Super	26
Qwen3.6 35B A3B	32
Muse Glimmer	35

คะแนนอื่น: GDPval-AA v2 Elo 824 และ Terminal-Bench v2.1 ได้ 24%

แปลตรง ๆ คือ Lightning แพ้ Qwen3.6 35B A3B และ Muse Glimmer ของ Meta ในด้านความฉลาดล้วน ๆ ทั้งที่สองตัวนั้นก็เป็นโมเดลเปิดขนาดใกล้เคียงกัน และคะแนน Terminal-Bench 24% ก็บอกว่างานบนเทอร์มินัลที่ซับซ้อนยังไม่ใช่จุดแข็ง สิ่งที่ Lightning ชนะคือ เวลาเฉลี่ยต่องานราว 0.5 นาที — ถูกที่สุดและเร็วที่สุดในกลุ่มที่คะแนนใกล้กัน

นี่จึงไม่ใช่โมเดลที่ควรเอาไปแทน frontier แต่เป็นโมเดลที่ควรเอาไปวางในขั้นตอนที่ต้องเรียกซ้ำหลายพันครั้ง

มุมมอง AI Curator

การเปิดตัวนี้ต้องอ่านคู่กับ NeMo Switchyard ที่ NVIDIA ปล่อยพร้อมกันในวันเดียวกัน (เราเขียนแยกไว้แล้ว) เพราะสองอย่างนี้คือข้อเสนอเดียวกัน: NVIDIA ไม่ได้บอกว่า “ใช้ Lightning แทน Opus” แต่บอกว่า “ใช้ Lightning ทำงานส่วนใหญ่ แล้วส่งเฉพาะงานยากขึ้นไปหาโมเดลใหญ่” คะแนน 24 ที่ดูไม่น่าตื่นเต้นจึงไม่ใช่จุดอ่อนของสินค้า มันคือสเปกที่ตั้งใจ — โมเดลชั้นล่างของ pipeline ไม่ต้องฉลาดที่สุด ต้องเร็วและถูกพอที่จะเรียกได้ไม่จำกัด

จุดที่ทีมไทยควรสนใจเป็นพิเศษคือ บรรทัด context 1 ล้านโทเคนบวกกับ active 3.6B ซึ่งเป็นการผสมที่หายาก งาน RAG และงานอ่านเอกสารกองใหญ่ในองค์กรไทย — สัญญา ระเบียบราชการ เวชระเบียน — ที่ผ่านมาติดกำแพงเดียวกันเสมอคือ context ยาวแปลว่าค่า attention ระเบิด ทำให้ต้องหั่นเอกสารแล้วยอมเสียบริบท สถาปัตยกรรม Mamba-2 ที่มีต้นทุนเชิงเส้นเปลี่ยนสมการนี้จริง และเมื่อ activate แค่ 3.6B ก็แปลว่า throughput บนเครื่องเดียวสูงพอจะให้บริการหลายคนพร้อมกัน

แต่มีสองข้อที่ต้องระวัง หนึ่ง — ใบอนุญาต OpenMDW-1.1 ไม่ใช่ Apache 2.0 มันเป็นใบอนุญาตที่ NVIDIA ผลักดันเองและครอบคลุมทั้ง weights, ข้อมูล และสูตรเทรน ซึ่งกว้างกว่าใบอนุญาตโมเดลทั่วไป ก่อนเอาไปใช้ในผลิตภัณฑ์ที่ขายจริง ควรให้ฝ่ายกฎหมายอ่านฉบับเต็มเอง อย่าเชื่อคำว่า “permissive” ในบล็อกประกาศ สอง — ตัวเลข 670 โทเคน/วินาที วัดบน endpoint ก่อนเปิดตัวของ DeepInfra ไม่ใช่บนเครื่องคุณ ความเร็วจริงบน RTX 5090 ที่บ้านหรือบนเซิร์ฟเวอร์ในไทยจะต่างออกไปมาก โดยเฉพาะเมื่อ context ยาวขึ้นและ KV cache เริ่มกินหน่วยความจำ ทดสอบกับ workload ตัวเองก่อนตัดสินใจย้ายเสมอ

ภาพใหญ่ที่น่าสนใจกว่านั้น: ภายในสองวัน Meta ปล่อย Muse Glimmer 30B (10 ส.ค.) และ NVIDIA ปล่อย Lightning 30B (11 ส.ค.) — ทั้งคู่เป็นโมเดลเปิดที่โฆษณาว่ารันการ์ดจอใบเดียวได้ ขนาดราว 30B กำลังกลายเป็นมาตรฐานโดยพฤตินัยของ “โมเดลที่องค์กรรันเองได้” ซึ่งเป็นข่าวดีสำหรับคนที่ข้อมูลออกนอกประเทศไม่ได้ (ฝั่ง Alibaba ยังค้างอยู่ — weights ของ Qwen3.8 ที่สัญญาไว้ว่าจะปล่อยภายในสัปดาห์ของ 10 ส.ค. ยังไม่ขึ้น Hugging Face ณ วันที่เขียน)

แหล่งข่าว

• NVIDIA Nemotron 3.5 Lightning Delivers Fast, Accurate Specialized Task Execution for Long-Running Agents — NVIDIA Technical Blog
• NVIDIA launches Nemotron 3.5 Lightning — Artificial Analysis
• NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 model card — Hugging Face
• Nvidia’s open-weight Nemotron 3.5 Lightning prioritizes speed over maximum intelligence — The Decoder