แท็ก

#NVFP4

12 บทความ

KRAFTON ปล่อย Raon-1 mini preview โมเดล MoE 28.8B (active 4.3B) เทรนเองตั้งแต่ศูนย์ ใช้ Apache-2.0 มีภาษาไทยในชุดเทรน — KV cache แค่ 7 จาก 25 ชั้น รันบน RTX 5090 ตัวเดียวได้ แต่ vLLM/llama.cpp ยังต้องใช้ fork
โมเดลใหม่

KRAFTON ปล่อย Raon-1 mini preview โมเดล MoE 28.8B (active 4.3B) เทรนเองตั้งแต่ศูนย์ ใช้ Apache-2.0 มีภาษาไทยในชุดเทรน — KV cache แค่ 7 จาก 25 ชั้น รันบน RTX 5090 ตัวเดียวได้ แต่ vLLM/llama.cpp ยังต้องใช้ fork

KRAFTON AI (บริษัทแม่ของ PUBG) อัปโหลด Raon-1 mini preview ขึ้น Hugging Face เมื่อ 21 ต.ค. 2026 เป็น MoE 28.8B/active 4.3B ที่เทรนเองตั้งแต่ศูนย์ ใช้ linear attention แบบใหม่ 18 ชั้น + MLA 7 ชั้น บริบท 262K ภาษาไทยอยู่ในชุดเทรน ไลเซนส์ Apache-2.0 มี NVFP4 (~17.6GB) สำหรับ RTX 5090 ตัวเดียว คะแนนชนะ Qwen3.6-35B-A3B ด้าน instruction following และ SWE-bench Verified แต่แพ้ด้าน knowledge และ Terminal-Bench

· อ่าน 5 นาที
MiniMax ปล่อยน้ำหนัก M3.1 Flash แล้ว — 428B (active 23B) แจกมาเป็น NVFP4 จาก quantization-aware training ไม่มี BF16, ไฟล์ 252GB ต้องใช้ B200 4 ใบหรือ H100 8 ใบ และ license เป็น MiniMax Community แบบเดียวกับ M3
โมเดลใหม่

MiniMax ปล่อยน้ำหนัก M3.1 Flash แล้ว — 428B (active 23B) แจกมาเป็น NVFP4 จาก quantization-aware training ไม่มี BF16, ไฟล์ 252GB ต้องใช้ B200 4 ใบหรือ H100 8 ใบ และ license เป็น MiniMax Community แบบเดียวกับ M3

4 วันหลังเปิดตัวแบบ API-only MiniMax ปล่อยน้ำหนัก M3.1 Flash ขึ้น Hugging Face เมื่อ 23 ต.ค. 2026 (03:37 UTC) ขนาดประมาณ 428B พารามิเตอร์ active 23B ต่อโทเคน context 1M รับภาพและวิดีโอ ไฟล์ทั้งหมด 252GB เพราะ expert ถูกเทรนแบบ quantization-aware เป็น NVFP4 และไม่มีเวอร์ชัน BF16 ให้ vLLM แนะนำ B200/GB200 4 ใบ หรือ H100/H200 8 ใบ ใช้ license MiniMax Community ที่ต้องแจ้ง MiniMax ก่อนใช้เชิงพาณิชย์

· อ่าน 5 นาที
Recursive ปล่อย Flint โมเดลเขียนโค้ด 40B-A2.5B ใต้ Apache-2.0 รันบน Mac 48GB ได้ — ชนะ MoE ขนาดเดียวกันขาด แต่ยังแพ้ Qwen3.8 แบบ dense ใน 4 จาก 6 benchmark
โมเดลใหม่

Recursive ปล่อย Flint โมเดลเขียนโค้ด 40B-A2.5B ใต้ Apache-2.0 รันบน Mac 48GB ได้ — ชนะ MoE ขนาดเดียวกันขาด แต่ยังแพ้ Qwen3.8 แบบ dense ใน 4 จาก 6 benchmark

21 ต.ค. 2026 Recursive (บริษัทของ Richard Socher ที่ระดมทุน $650M เมื่อ พ.ค.) ปล่อย Flint โมเดล MoE สำหรับ coding agent ขนาด 39.8B พารามิเตอร์ active ~2.5B ใต้ Apache-2.0 จริง มีไฟล์ NVFP4/INT4 ขนาด 22-26GB สำหรับ GPU 48GB หรือ Mac 48GB พร้อม engine rec และ llama.cpp ที่ merge รองรับในวันเดียวกัน SWE-bench Verified 74.2% ชนะ Qwen3.5/3.6 แบบ MoE แต่แพ้ Qwen3.8 แบบ dense ในงานเขียนโค้ด 4 จาก 6 รายการ

· อ่าน 6 นาที
Reflection ปล่อยน้ำหนัก Beam 1.0 (501B-A23B) แล้ว — Apache-2.0 จริงทั้งไฟล์ LICENSE มีทั้ง BF16/FP8/NVFP4 พร้อม Mirror CLI แต่สูตรรันเองต้องใช้ B300 สี่ใบ และ vLLM สายหลักยังไม่ merge
โมเดลใหม่

Reflection ปล่อยน้ำหนัก Beam 1.0 (501B-A23B) แล้ว — Apache-2.0 จริงทั้งไฟล์ LICENSE มีทั้ง BF16/FP8/NVFP4 พร้อม Mirror CLI แต่สูตรรันเองต้องใช้ B300 สี่ใบ และ vLLM สายหลักยังไม่ merge

16 ต.ค. 2026 Reflection เปิดน้ำหนัก Beam 1.0 บน Hugging Face ภายใต้ Apache-2.0 (มีไฟล์ LICENSE จริง) ครบทั้ง BF16 934 GiB, FP8 469 GiB, NVFP4 273 GiB และตัว drafter DFlash2 พร้อมเปิด API และ coding agent โอเพนซอร์สชื่อ Mirror CLI คะแนนสุดท้ายในการ์ดขยับจากวันประกาศเล็กน้อย ส่วนสูตรรันเองที่แนะนำต้องใช้ NVIDIA B300 สี่ใบ และ vLLM ยังต้องใช้อิมเมจพิเศษ

· อ่าน 6 นาที
Unsloth v0.1.902-beta: เทรน LoRA บนเช็กพอยต์ 4-bit (NVFP4/INT4/MXFP4) โดยไม่คลายเป็น 16-bit — Qwen3.8-27B-NVFP4 พีกลดจาก 72.9 GB เหลือ 40.2 GB
เครื่องมือนักพัฒนา

Unsloth v0.1.902-beta: เทรน LoRA บนเช็กพอยต์ 4-bit (NVFP4/INT4/MXFP4) โดยไม่คลายเป็น 16-bit — Qwen3.8-27B-NVFP4 พีกลดจาก 72.9 GB เหลือ 40.2 GB

1 ต.ค. 2026 Unsloth ปล่อย v0.1.902-beta ที่เทรน LoRA บนเช็กพอยต์ 4-bit แบบ NVFP4, INT4 และ MXFP4 ได้โดยเก็บน้ำหนักไว้ในรูป packed ตลอดการเทรน Qwen3.8-27B-NVFP4 ใช้หน่วยความจำพีก 40.2 GB แทน 72.9 GB และ INT4 ไม่ถูกแปลงซ้ำเป็น NF4 อีกต่อไป พร้อมคำสั่ง unsloth eval และ command palette

· อ่าน 5 นาที
ทำไมโมเดลที่รันเองถึง "โง่กว่า" ที่เขาโฆษณา — การทดลองวัด logit ทีละตัวชี้ว่าแค่เปลี่ยน attention backend คำตอบก็เปลี่ยน
เครื่องมือนักพัฒนา

ทำไมโมเดลที่รันเองถึง "โง่กว่า" ที่เขาโฆษณา — การทดลองวัด logit ทีละตัวชี้ว่าแค่เปลี่ยน attention backend คำตอบก็เปลี่ยน

22 ส.ค. 2026 โพสต์ทดลองบน Level1Techs วัด logit เต็ม vocabulary ของ Qwen3.6-27B บน RTX PRO 6000 พบว่าแค่สลับ attention backend ใน vLLM โดยไม่แตะอย่างอื่น โทเคนที่โมเดลจะเลือกก็ต่างกันแล้ว ส่วน KV cache แบบ int4 กับ NVFP4 ทำ tool call พังจริงและสั่งคำสั่ง Cisco ผิด โดย NVFP4 แตะ ~50% token flip ที่ context 88k

· อ่าน 8 นาที
NVIDIA ปล่อย Nemotron 3.5 Lightning — MoE 30B active 3B ใบอนุญาต OpenMDW context 1M เร็วเกือบ 670 โทเคน/วินาที
โมเดลใหม่

NVIDIA ปล่อย Nemotron 3.5 Lightning — MoE 30B active 3B ใบอนุญาต OpenMDW context 1M เร็วเกือบ 670 โทเคน/วินาที

11 ส.ค. 2026 NVIDIA เปิดตัว Nemotron 3.5 Lightning โมเดลเปิดตัวแรกของตระกูล 3.5 — hybrid Mamba-2 + MoE ขนาด 30B แต่ activate แค่ 3B, context 1 ล้านโทเคน, ใบอนุญาต OpenMDW-1.1 และทำความเร็วได้เกือบ 670 โทเคน/วินาที เทียบชั้นความฉลาดกับ gpt-oss-120b ที่ใหญ่กว่าราวสี่เท่า

· อ่าน 7 นาที
MiniMax H3 ลงเครื่องตัวเองภายใน 48 ชั่วโมง — ComfyUI ตัดจาก 123.6GB เหลือ 42.5GB ชุมชนปั๊ม quant 63 รีโป แต่คำว่า '2K บนเครื่อง' ยังไม่จริง
เครื่องมือนักพัฒนา

MiniMax H3 ลงเครื่องตัวเองภายใน 48 ชั่วโมง — ComfyUI ตัดจาก 123.6GB เหลือ 42.5GB ชุมชนปั๊ม quant 63 รีโป แต่คำว่า '2K บนเครื่อง' ยังไม่จริง

หลังน้ำหนัก MiniMax H3 ขึ้น Hugging Face เมื่อ 3 สิงหาคม ComfyUI รองรับทันทีวันแรกพร้อมชุดน้ำหนักที่ตัด modulation weights ~40% ทิ้งและควอนไทซ์ int8 จนเหลือ 42.5GB จาก 123.6GB ขณะที่ชุมชนสร้างรีโปแปลงร่าง 63 รีโปใน 48 ชั่วโมง — แต่ที่ ComfyUI บอกว่ารัน 2K ได้บนเครื่องนั้น เอกสารของ MiniMax เองระบุว่าโมดูล 2K ยังไม่เปิดซอร์ส

· อ่าน 7 นาที
Hugging Face รวม Nunchaku เข้า Diffusers — สร้างภาพแบบ 4-bit ประหยัด VRAM ครึ่งหนึ่ง เร็วขึ้น 30% บนการ์ดคอนซูเมอร์
เครื่องมือนักพัฒนา

Hugging Face รวม Nunchaku เข้า Diffusers — สร้างภาพแบบ 4-bit ประหยัด VRAM ครึ่งหนึ่ง เร็วขึ้น 30% บนการ์ดคอนซูเมอร์

Hugging Face ประกาศ (23 ก.ค. 2026) รวม Nunchaku ซึ่งใช้เทคนิค SVDQuant แบบ 4-bit ทั้ง weight และ activation (W4A4) เข้าเป็นส่วนหนึ่งของไลบรารี Diffusers โดยตรง โหลดผ่าน from_pretrained() ตามปกติ ลด VRAM ราวครึ่งหนึ่งและเร็วขึ้น ~30% พร้อม checkpoint สำเร็จรูปของ Krea 2 Turbo และ ERNIE-Image-Turbo ให้ดึงไปใช้ได้ทันที

· อ่าน 5 นาที
Axolotl v0.18.0 — ไฟน์จูนโมเดล MoE ยักษ์ด้วย LoRA 4-bit NVFP4 รองรับ GLM-5.2 และรันได้บน RTX 50xx
เครื่องมือนักพัฒนา

Axolotl v0.18.0 — ไฟน์จูนโมเดล MoE ยักษ์ด้วย LoRA 4-bit NVFP4 รองรับ GLM-5.2 และรันได้บน RTX 50xx

Axolotl ออกเวอร์ชัน 0.18.0 (17 ก.ค. 2026) รวมกว่า 90 commit ตั้งแต่ v0.17.0 จุดหลักคือ expert LoRA แบบ 4-bit NVFP4 ที่รันเร็วบนทั้งสอง MoE backend, เส้นทาง W4A4 ผ่าน SonicMoE ที่ชนะ Marlin W4A16 ทุกความยาว sequence บน B200, รองรับไฟน์จูน GLM-5.2 แบบหลาย GPU และรองรับ Blackwell ระดับผู้บริโภค (RTX 50xx / sm120)

· อ่าน 5 นาที
NVIDIA ปล่อย Nemotron-3-Puzzle-75B-A9B โอเพนเวต — บีบโมเดล 120B เหลือ 75B แล้วได้ throughput เพิ่ม 2 เท่า
โมเดลใหม่

NVIDIA ปล่อย Nemotron-3-Puzzle-75B-A9B โอเพนเวต — บีบโมเดล 120B เหลือ 75B แล้วได้ throughput เพิ่ม 2 เท่า

NVIDIA เปิดน้ำหนัก Nemotron-Labs-3-Puzzle-75B-A9B ใต้ไลเซนส์ OpenMDW-1.1 — บีบโมเดลแม่ 120.7B/12.8B active ลงเหลือ 75.3B/9.3B active ได้ server throughput ราว 2 เท่าบน 8×B200 โดยยอมแลกความแม่นยำไปไม่กี่จุด

· อ่าน 6 นาที
vLLM v0.22.0 — เซิร์ฟเวอร์ inference ตัวหลักรองรับ DeepSeek V4 เต็มตัว, NVFP4 บน Blackwell และ MTP speculative decoding
เครื่องมือนักพัฒนา

vLLM v0.22.0 — เซิร์ฟเวอร์ inference ตัวหลักรองรับ DeepSeek V4 เต็มตัว, NVFP4 บน Blackwell และ MTP speculative decoding

vLLM ปล่อยเวอร์ชัน 0.22.0 ยกเครื่องการรองรับ DeepSeek V4 เป็นแพ็กเกจเฉพาะ เพิ่ม NVFP4 fused MoE บน Blackwell, MTP speculative decoding และ KV cache offloading หลายชั้น รวม 459 commit จาก 230 ผู้ร่วมพัฒนา

· อ่าน 5 นาที