Hugging Face รวม Nunchaku เข้า Diffusers — สร้างภาพแบบ 4-bit ประหยัด VRAM ครึ่งหนึ่ง เร็วขึ้น 30% บนการ์ดคอนซูเมอร์

โมเดลสร้างภาพยุคใหม่ฉลาดขึ้นแต่ก็อ้วนขึ้นเรื่อย ๆ — transformer ตัวใหญ่กินทั้ง VRAM และเวลา จนคนที่มีการ์ดคอนซูเมอร์รันได้ลำบาก วันที่ 23 กรกฎาคม 2026 Hugging Face ประกาศรวม Nunchaku เอนจินอินเฟอเรนซ์แบบ 4-bit เข้าเป็นส่วนหนึ่งของไลบรารี Diffusers อย่างเป็นทางการ ผลคือรันโมเดลภาพระดับ diffusion transformer ด้วยหน่วยความจำครึ่งเดียวและเร็วขึ้นราว 30% โดยแทบไม่เสียคุณภาพ และที่สำคัญคือ ไม่ต้องคอมไพล์เองหรือเขียน pipeline พิเศษ — โหลดผ่าน from_pretrained() ตามที่นักพัฒนาคุ้นเคยอยู่แล้ว

จุดที่ทำให้เรื่องนี้น่าสนใจสำหรับคนสร้างของจริงคือ Nunchaku ไม่ใช่การ quantize แค่ weight อย่างที่วิธีทั่วไปทำกัน แต่กด ทั้ง weight และ activation ลงเหลือ 4-bit (W4A4) ด้วยเทคนิค SVDQuant ซึ่งหมายความว่านอกจากจะประหยัดหน่วยความจำแล้วยัง เร่งความเร็วการประมวลผลจริง ไปพร้อมกัน ไม่ใช่แค่ทำให้โมเดลเล็กลงบนดิสก์

ตัวเลขจริง: VRAM ลดครึ่ง เร็วขึ้นเกือบเท่าตัวเมื่อจูน

Hugging Face วัดผลบนการ์ด NVIDIA RTX PRO 6000 (สถาปัตยกรรม Blackwell) ที่ความละเอียด 1024×1024:

• BF16 พื้นฐาน: 3.0 วินาที/ภาพ, VRAM สูงสุด 31.1 GB (อ้างอิง 1.0x)
• Nunchaku NVFP4: 2.27 วินาที, VRAM 20.6 GB — เร็วขึ้น 1.35x
• Nunchaku + torch.compile: 1.68 วินาที, VRAM 20.6 GB — เร็วขึ้น 1.8x

สรุปคือ ลด VRAM ลงราว 50% และเร็วขึ้นราว 30% ในค่าเริ่มต้น และถ้าเปิด torch.compile ด้วยจะขยับไปเกือบ 2 เท่า การลด VRAM ครึ่งหนึ่งคือส่วนที่เปลี่ยนเกม เพราะมันหมายถึงงานที่เคยต้องใช้การ์ดระดับ 32 GB ขึ้นไป ตอนนี้ขยับลงมารันบนการ์ดที่มี VRAM น้อยกว่าได้จริง

รองรับทั้งการ์ดใหม่และการ์ดเก่า

Nunchaku ไม่ได้ผูกกับ Blackwell อย่างเดียว โดยแยกฟอร์แมตตามสถาปัตยกรรม:

• NVFP4 — สำหรับการ์ด Blackwell (RTX 50 series, B200)
• INT4 — สำหรับ Turing / Ampere / Ada (RTX 30/40 series)

นั่นแปลว่าคนที่ยังใช้ RTX 3090 หรือ 4090 ก็ได้ประโยชน์จากเส้นทาง INT4 ไม่ถูกทิ้งไว้ข้างหลัง ส่วน Nunchaku Lite คือแพ็กที่ทำให้ทั้งหมดนี้ทำงานใน Diffusers โดยไม่ต้องตั้ง environment ซับซ้อน

Hugging Face ยังเตรียม checkpoint แบบ quantize สำเร็จรูป ไว้บน Hub ให้ดึงไปใช้ได้เลย โดยในรอบเปิดตัวมี Krea 2 Turbo และ ERNIE-Image-Turbo เป็นตัวตั้งต้น — ไม่ต้อง quantize เองให้เสียเวลา

มุมมอง AI Curator

ข่าวนี้ตรงกับบ้านเรามากกว่าที่คิด เพราะ Krea 2 Turbo คือโมเดลตัวเดียวกับที่บล็อกนี้ใช้ generate ภาพปกทุกโพสต์ ผ่าน ComfyUI บนเครื่องท้องถิ่น การมี checkpoint 4-bit สำเร็จรูปบน Hub หมายความว่า workflow แบบเรา — และของนักพัฒนาไทยจำนวนมากที่รันภาพเองเพื่อเลี่ยงค่า API — จะเบาลงและเร็วขึ้นทันทีโดยไม่ต้องเปลี่ยนการ์ด

จุดที่ควรชั่งน้ำหนักคือคำว่า “แทบไม่เสียคุณภาพ” ยังต้องพิสูจน์กับงานจริงของแต่ละคน W4A4 ดุกว่า weight-only quantization และคุณภาพของภาพ (โดยเฉพาะรายละเอียดเล็ก ๆ และตัวอักษรในภาพ) อาจต่างจาก BF16 อยู่บ้าง แนวทางที่เวิร์กคือ generate ทั้งสองเวอร์ชันเทียบกันบน prompt จริงของงานตัวเองก่อนสลับถาวร ไม่ใช่เชื่อตัวเลข benchmark อย่างเดียว

ในภาพใหญ่ นี่คือเทรนด์ที่ชัดขึ้นตลอดปี 2026: การรันโมเดลเก่ง ๆ บนฮาร์ดแวร์ที่หาได้จริง กำลังกลายเป็นสนามแข่งที่สำคัญพอ ๆ กับการไล่คะแนน benchmark การที่ 4-bit W4A4 เข้ามาอยู่ใน Diffusers เป็น first-class — เหมือนที่ NVFP4 เข้าไปอยู่ในเครื่องมือ fine-tune อย่าง Axolotl ก่อนหน้านี้ — แปลว่าการบีบโมเดลให้ลงการ์ดคอนซูเมอร์ไม่ใช่ของเล่นสาย hacker อีกต่อไป แต่เป็นทางเลือกมาตรฐานที่ทีมเล็กควรหยิบมาใช้

แหล่งข่าว

• Bringing Nunchaku 4-bit Diffusion Inference to Diffusers — Hugging Face Blog (23 ก.ค. 2026)
• Diffusers — Hugging Face Documentation
• SVDQuant / Nunchaku — GitHub (mit-han-lab)