Unsloth Dynamic 3.0 GGUF: บีบ Qwen3.8-27B ลงเหลือ 6.2GB แล้วยังใช้ได้ — และเบนช์มาร์กใหม่ที่ Unsloth ยอมรับเองว่าตัวเลขเดิมวัดอะไรไม่ได้จริง

เมื่อ 19 สิงหาคม 2026 Unsloth ปล่อยเอกสารและไฟล์ชุดแรกของ Dynamic 3.0 GGUF — วิธีบีบโมเดล (quantization) รุ่นใหม่ที่ต่อจาก Dynamic 2.0 ที่ชุมชน local model ใช้กันเป็นมาตรฐานโดยพฤตินัยมาปีกว่า โพสต์ขึ้นหน้าแรก Hacker News ด้วยคะแนน 278 ในวันเดียวกัน

ข้อเรียกร้องหลักคือ “แม่นยำกว่าผู้ให้บริการรายอื่นทุกเจ้าเกิน 10% ที่ขนาดไฟล์เท่ากัน” โดยชุดแรกที่ปล่อยคือ Qwen3.8-27B ซึ่งเป็นโมเดลที่ Unsloth ระบุว่ามียอดดาวน์โหลดฝั่งตัวเองทะลุ 5.1 ล้านครั้งภายใน 5 วัน หลังเปิดตัว

แต่ถ้าอ่านเอกสารจนจบ สิ่งที่มีค่าที่สุดกลับไม่ใช่ตัวเลข 10% — มันคือย่อหน้าที่ Unsloth ยอมรับเองว่า มาตรวัดที่วงการ (รวมทั้งตัวเอง) ใช้อวดกันมาตลอดนั้น “ไม่ได้บอกอะไรเกี่ยวกับคุณภาพตอนใช้งานจริงเท่าไหร่”

ไฟล์ที่ปล่อยจริง และตัวเลขที่อ้าง

Qwen3.8-27B ตัวเต็มที่ BF16 มีขนาด 54.7GB — ต้องมีการ์ดระดับ A100 หรือกอง GPU ผู้บริโภคหลายใบถึงจะโหลดไหว ส่วนไฟล์ที่ Dynamic 3.0 ปล่อยออกมามีตั้งแต่:

• UD-IQ1_S — 6.2GB (1-bit) เล็กกว่าต้นฉบับ 89% โดย Unsloth อ้างว่ายังคงความแม่นยำ top-1 ไว้ราว 72%
• UD-Q2_K_XL — 9.83GB (2-bit) อ้างว่าแม่นกว่าเจ้าที่ดีที่สุดรองลงมา +8%
• ไล่ขึ้นไปจนถึง Q3 / Q4 / Q5 และ BF16 ตัวเต็ม

ตัวเลข 6.2GB มีความหมายตรงตัวสำหรับคนที่ประกอบเครื่องเอง: การ์ด 8GB อย่าง RTX 3060 Ti หรือ 4060 โหลดโมเดล 27B ตัวนี้ได้ทั้งก้อนใน VRAM ซึ่งเมื่อปีที่แล้วยังเป็นเรื่องที่ต้องยอมโหลดบางส่วนลง RAM แล้วรับ throughput ที่ตกฮวบ

สิ่งที่เปลี่ยนในเวอร์ชัน 3.0 มีสามอย่าง:

1. ชุดข้อมูล imatrix ใหม่ — imatrix (importance matrix) คือชุดข้อความที่ใช้รันผ่านโมเดลเพื่อดูว่าน้ำหนักตัวไหน “สำคัญ” และไม่ควรถูกบีบแรง Unsloth เปลี่ยนไปใช้ชุดที่คัดมาเพื่อ agentic coding, แชต และหลายภาษา โดยเฉพาะ แทนที่จะเป็นคลังข้อความทั่วไป และเปิดไฟล์ imatrix ให้ชุมชนเอาไปตรวจสอบหรือดัดแปลงได้เอง
2. การเลือกเลเยอร์แบบละเอียดขึ้น — แทนที่จะกำหนดระดับการบีบเป็นกลุ่มก้อน ตอนนี้ปรับ ชนิดการบีบของทุกเลเยอร์ที่ปรับได้ โดยชุดค่าผสมต่างกันไปตามแต่ละเลเยอร์และแต่ละโมเดล
3. ตัด MTP module ออกจากรุ่นเล็ก (Q2_K_XL ลงไป) ประหยัดพื้นที่ราว 500MB

และข้อที่ควรอ่านให้ชัด: Unsloth ย้ำว่า “เราไม่ได้ใช้ QAT หรือ QAD ทั้งหมดทำผ่าน post-training quantization” — ต่างจากสิ่งที่ Liquid AI เพิ่งทำกับ LFM2.5 เมื่อวานนี้ ที่เทรน student ให้เป็น 4-bit ตั้งแต่ต้นทาง Unsloth ยังทำงานกับน้ำหนักที่เทรนเสร็จแล้วเหมือนเดิม แค่ฉลาดขึ้นในการเลือกว่าจะบีบตรงไหนแค่ไหน ข้อดีคือมันใช้ได้กับโมเดลใครก็ได้ที่ปล่อยน้ำหนักออกมา ไม่ต้องรอเจ้าของโมเดลลงแรงให้

Divergence-300: เบนช์มาร์กที่แก้ปัญหาของเบนช์มาร์กเดิม

ส่วนที่ควรอ่านที่สุดคือตรงนี้ ตลอดสองปีที่ผ่านมา ตัวเลขที่ทุกเจ้าใช้เปรียบเทียบคุณภาพ quant คือ top-1 accuracy และ KL divergence — วัดว่าโมเดลที่ถูกบีบยังเดาโทเคนถัดไปตรงกับตัว BF16 แค่ไหน

Unsloth เขียนเองในเอกสารว่า top-1 นั้น “เป็น argmax บนการทำนายแค่ 1 ครั้ง จึงไม่ได้มีประสิทธิภาพในการวัดคุณภาพ inference จริงเท่าไหร่” ซึ่งเป็นคำสารภาพที่ตรงไปตรงมาผิดปกติสำหรับเอกสารที่ตัวเองใช้อวดตัวเลข +8% และ +10% อยู่ในหน้าเดียวกัน

เหตุผลที่มันวัดไม่ได้จริงคือ ความผิดพลาดมันสะสม โมเดลที่เดาโทเคนแรกตรง 99% ฟังดูดีมาก แต่ถ้าต้องเดาต่อกัน 32 โทเคนโดยแต่ละตัวป้อนกลับเข้าไปเป็น input ของตัวถัดไป โอกาสที่เส้นทางทั้งเส้นจะยังตรงกับต้นฉบับลดลงเร็วกว่าที่ตัวเลขเดี่ยว ๆ บอก และในงาน agentic ที่โมเดลต้องเรียกเครื่องมือหลายสิบรอบ เส้นทางที่เบนออกตั้งแต่ต้นคือความแตกต่างระหว่าง “ทำงานเสร็จ” กับ “วนลูปผิดจนหมด context”

Divergence-300 @32 คือความพยายามแก้ตรงนี้: สร้างชุดทดสอบ 300 ตัวอย่างที่กันไว้ต่างหาก คัดมาจาก Terminal-Bench 2.1, DeepSWE, Harbor, MathArena 2025-26 และพรอมป์ภาษาที่ไม่ใช่อักษรละตินกับเอกสารยาว แล้ววัดด้วยการ decode แบบ greedy argmax ต่อกัน 32 โทเคน เทียบ BF16 กับทุก quant ว่าเส้นทางโทเคนยังตรงกันแค่ไหน — เป็นการวัดการเบนสะสมข้ามหลายก้าว ไม่ใช่ความแม่นของก้าวเดียว

ที่น่าสังเกตคือชุดข้อมูลนี้จงใจใส่งานที่ยากกว่าคลังข้อความทั่วไปเข้าไป — coding แบบ agentic, เทอร์มินัล, คณิตศาสตร์ และภาษาที่ไม่ใช่อังกฤษ ซึ่งคือกรณีที่ quant มักพังก่อนเพื่อน

สิ่งที่ Unsloth ไม่ได้อ้าง และสิ่งที่ชุมชนยังไม่เชื่อ

เอกสารมีคำเตือนของตัวเองอยู่หลายจุดที่ไม่ควรมองข้าม:

• Dynamic 3.0 ใช้กับรุ่นเล็กเป็นหลัก — Unsloth บอกตรง ๆ ว่าสำหรับ quant ขนาดใหญ่ “เรายังใช้ UD-2 ตัวเดิม” เพราะปรับปรุงได้น้อยกว่า พูดอีกอย่างคือถ้าคุณรัน Q5 หรือ Q6 อยู่แล้ว 3.0 อาจไม่มีอะไรใหม่ให้คุณ
• ตอนปล่อย ชุดที่มีตัวเลขรับรองคือ Qwen3.8-27B ไม่ใช่ทุกโมเดลในคลังของ Unsloth

และในกระทู้ Hacker News 99 คอมเมนต์ ข้อโต้แย้งที่ตรงประเด็นที่สุดคือ Divergence-300 ก็ยังไม่ใช่การวัดงานจริงอยู่ดี — มันวัดว่าเส้นทางโทเคนตรงกับ BF16 แค่ไหน ไม่ได้วัดว่า “แก้บั๊กได้ไหม” หรือ “ทำ task สำเร็จกี่เปอร์เซ็นต์” ผู้ใช้หลายคนขอให้รัน pass rate บนโจทย์โค้ดจริงแทน ซึ่งเป็นคำขอที่สมเหตุสมผล เพราะ quant ที่เบนออกจาก BF16 ไม่ได้แปลว่าแย่เสมอไป (บางครั้งเบนแล้วยังแก้โจทย์ได้เหมือนเดิม) และ quant ที่ตรงกับ BF16 ก็ไม่ได้แปลว่าดี ถ้า BF16 เองก็ทำโจทย์นั้นไม่ได้

อีกเสียงบ่นที่ใช้ได้จริงคือ ชื่อไฟล์ซ้ำกันข้ามเวอร์ชัน — ไฟล์ UD-Q2_K_XL ของ 2.0 กับของ 3.0 ชื่อเหมือนกัน ทำให้คนที่โหลดมาเก็บไว้ไม่รู้ว่าตัวเองมีรุ่นไหน ซึ่งเป็นปัญหาจริงในทางปฏิบัติเมื่อคุณต้องรีโปรดิวซ์ผลการทดสอบของตัวเองในอีกสามเดือน

มุมมอง AI Curator

เรื่องที่ควรจำจากข่าวนี้ไม่ใช่ “Unsloth บีบได้เก่งขึ้น 10%” แต่คือวงการ local model กำลังเข้าสู่ช่วงที่ต้องเถียงกันเรื่องวิธีวัด ไม่ใช่แค่ตัวเลข

ทุกครั้งที่เทคโนโลยีอันหนึ่งเติบโตจน “ของใครก็อ้างว่าดีที่สุด” ได้เหมือนกันหมด สิ่งที่ตามมาคือการต่อสู้เรื่องมาตรวัด และคนที่เสนอมาตรวัดที่ดีกว่ามักได้เปรียบระยะยาวมากกว่าคนที่แค่ทำตัวเลขเดิมให้สูงขึ้น การที่ Unsloth ยอมเขียนในเอกสารตัวเองว่า top-1 วัดอะไรไม่ได้จริง ทั้งที่ยังใช้ตัวเลขนั้นโปรโมตอยู่ เป็นการเดินหมากที่ฉลาด — มันเปลี่ยนหัวข้อสนทนาจาก “ใครแม่นกว่า” เป็น “ใครวัดถูก” ซึ่งเป็นสนามที่ตัวเองตั้งกติกา

แต่ข้อโต้แย้งของ HN ก็ถูกต้องเช่นกัน และผมคิดว่ามันชี้ปัญหาเชิงโครงสร้างที่ใหญ่กว่านั้น: ทั้ง top-1, KL divergence และ Divergence-300 ล้วนวัด “ความเหมือน BF16” ไม่ใช่ “ความสามารถ” ทั้งสามตัวตั้งอยู่บนสมมติฐานว่าต้นฉบับคือเพดาน และการบีบคือการยอมเสีย ซึ่งเป็นกรอบที่ใช้ได้แต่ไม่ครบ เพราะสุดท้ายคำถามที่คนใช้งานถามคือ “โมเดลนี้ทำงานของฉันได้ไหม” ไม่ใช่ “มันคิดเหมือนพี่ใหญ่ของมันกี่เปอร์เซ็นต์” ตราบใดที่ยังไม่มีใครปล่อย pass rate บน SWE-bench หรือ Terminal-Bench เทียบทุก quant ออกมา การเลือกไฟล์ก็ยังเป็นการเดาที่มีข้อมูลประกอบ ไม่ใช่การตัดสินใจ

สำหรับนักพัฒนาไทย ตัวเลข 6.2GB คือประเด็นที่มีน้ำหนักที่สุดในข่าวนี้ ต้นทุนการ์ดจอในไทยยังแพงกว่าราคาป้ายต่างประเทศพอสมควร และทีมเล็ก ๆ ที่อยากลองรันโมเดลระดับ 27B ในองค์กร — เพราะข้อมูลลูกค้าออกนอกประเทศไม่ได้ตาม PDPA หรือเพราะไม่อยากผูกงบไว้กับ API ที่คิดตามโทเคน — ความต่างระหว่าง “ต้องมีการ์ด 24GB” กับ “การ์ด 8GB ที่มีอยู่แล้วก็พอ” คือความต่างระหว่างโครงการที่ได้ทำกับโครงการที่ไม่ได้เริ่ม

คำแนะนำที่ใช้ได้จริง: อย่าเลือก quant จากตารางเบนช์มาร์กของใครทั้งนั้น ประกอบชุดทดสอบเล็ก ๆ ของงานคุณเองสัก 30–50 เคส — พรอมป์จริง เอกสารภาษาไทยจริง โค้ดเบสจริง — แล้วรันเทียบสองสามไฟล์ที่พอดีกับ VRAM ที่คุณมี ใช้เวลาครึ่งวันแต่ได้คำตอบที่ตรงกับสถานการณ์คุณมากกว่าตัวเลขใด ๆ ที่ผู้ผลิตปล่อยออกมา และในเมื่อ Unsloth เปิดไฟล์ imatrix ให้แล้ว ทีมที่ทำงานภาษาไทยจริงจังก็มีทางเลือกเพิ่มอีกทางคือสร้าง imatrix จากคลังข้อความไทยของตัวเอง แทนที่จะรับชุดที่คัดมาเพื่อภาษาอังกฤษเป็นหลัก

แหล่งข่าว

• Unsloth Dynamic 3.0 GGUFs — เอกสารทางการของ Unsloth
• unsloth/Qwen3.8-27B-GGUF — ไฟล์ quant ทั้งหมดบน Hugging Face
• กระทู้ Hacker News (19 ส.ค. 2026, 278 คะแนน, 99 คอมเมนต์)
• Unsloth Dynamic 2.0 GGUFs — รุ่นก่อนหน้า สำหรับเทียบวิธีการ