Liquid AI ปล่อย QAD Q4_0 GGUF ของ LFM2.5 ทั้ง 4 ขนาด — เทรน student ให้เป็น 4-bit ตั้งแต่แรก ได้คุณภาพเท่า quant ที่ใหญ่กว่าแต่วิ่งเร็วกว่า 3–33%

19 สิงหาคม 2026 Liquid AI ปล่อยของที่ไม่ใช่โมเดลใหม่ แต่เป็นสิ่งที่คนรันโมเดลบนเครื่องตัวเองน่าจะสนใจกว่า — เช็คพอยต์ QAD Q4_0 ในรูปแบบ GGUF ของตระกูล LFM2.5 ทั้งสี่ขนาด: 230M, 350M, 1.2B-Instruct และ 2.6B

ประเด็นคือวิธีได้มาซึ่งไฟล์ 4-bit เหล่านี้ ปกติเวลาเราโหลด GGUF แบบ Q4 มาใช้ มันคือโมเดลที่เทรนเสร็จแล้วถูกบีบลงมาทีหลัง (post-training quantization) แล้วยอมเสียคุณภาพไปส่วนหนึ่ง แต่ QAD (Quantization-Aware Distillation) ทำคนละทาง คือเอาโมเดลครูความละเอียดสูงมา distill ลงไปยัง student ที่เป็น quantized model โดยตรง — ตัว student รู้ตัวว่าตัวเองเป็น 4-bit ตั้งแต่ระหว่างเทรน ไม่ใช่ถูกบีบตอนจบ

ตัวเลขที่ Liquid AI รายงาน

Liquid AI วัด “recovery” เป็นสัดส่วนของคะแนนเฉลี่ยที่รักษาไว้ได้เทียบกับ BF16 บนชุดเบนช์มาร์กที่ประกอบด้วย GPQA Diamond, MMLU-Pro, IFEval, IFBench, Multi-IF, BFCLv4 และเพิ่ม GSM8K สำหรับรุ่นเล็กกับ AIME25 สำหรับรุ่นใหญ่:

โมเดล	recovery เทียบ BF16
LFM2.5-230M	97.1%
LFM2.5-350M	96.5%
LFM2.5-1.2B-Instruct	97.4%
LFM2.5-2.6B	96.6%

ส่วนที่มีน้ำหนักจริงในทางปฏิบัติคือการเทียบกับ quant format อื่นที่คุณภาพใกล้กัน:

• 230M / 350M — QAD Q4_0 ให้คุณภาพเทียบเท่า Q5_K_M แต่ decode throughput สูงกว่า 4–33%
• 1.2B / 2.6B — QAD Q4_0 ให้คุณภาพเทียบเท่า Q4_K_M แต่ decode throughput สูงกว่า 3–14%

นี่คือสิ่งที่ทำให้มันน่าสนใจ: Q4_0 เป็นฟอร์แมตที่โครงสร้างเรียบที่สุดในบรรดา quant ของ llama.cpp จึงถอดรหัสได้เร็วที่สุด แต่ปกติก็แลกมาด้วยคุณภาพที่ต่ำกว่า K-quant ตระกูล Q4_K_M / Q5_K_M อย่างเห็นได้ชัด สิ่งที่ QAD ทำคือ ดึงคุณภาพกลับมาให้ทันรุ่นที่ช้ากว่า โดยยังใช้เส้นทางถอดรหัสที่เร็วที่สุดอยู่ — บนอุปกรณ์ที่ decode-bound (มือถือ, SBC, CPU โน้ตบุ๊กที่ไม่มี GPU) นั่นแปลว่าได้ token ต่อวินาทีเพิ่มฟรี ๆ

ไฟล์ถูกเพิ่มเข้าไปใน repo GGUF เดิมของแต่ละรุ่น ไม่ได้แยก repo ใหม่ — เช่นในรุ่น 2.6B ไฟล์ชื่อ LFM2.5-2.6B-QAD-Q4_0.gguf วางอยู่ข้าง ๆ Q4_0 / Q4_K_M / Q5_K_M / Q6_K / Q8_0 / BF16 ปกติ (Q4_0 ของรุ่น 2.6B อยู่ที่ราว 1.59 GB เทียบกับ Q5_K_M ที่ 1.94 GB และ BF16 ที่ 5.4 GB)

เรื่องที่ต้องอ่านก่อนใช้: ไลเซนส์

ทั้งสี่รุ่นยังอยู่ภายใต้ไลเซนส์ lfm1.0 ของ Liquid AI ไม่ใช่ Apache-2.0 หรือ MIT ซึ่งเป็นเรื่องเดียวกับที่เราเขียนไว้ตอน LFM2.5-2.6B ออกเมื่อ 5 ส.ค. — ไลเซนส์นี้มีเงื่อนไขเชิงพาณิชย์ที่ผูกกับขนาดรายได้ขององค์กรผู้ใช้ ทีมที่กำลังจะฝังโมเดลลงในผลิตภัณฑ์ที่ขายจริงควรเปิด LICENSE ในแต่ละ repo อ่านเองอีกรอบก่อน อย่าอนุมานจากคำว่า “โหลดได้ฟรีบน Hugging Face”

มุมมอง AI Curator

เรื่องนี้เล็กแต่ชี้ทิศทางที่ชัดเจน: ยุคของการมองว่า quantization คือ “ขั้นตอนหลังบ้าน” กำลังจบลง

ตลอดสองปีที่ผ่านมา workflow มาตรฐานของโลก local model คือ แล็บปล่อยน้ำหนัก BF16 → ชุมชน (unsloth, bartowski ฯลฯ) แปลงเป็น GGUF ทุกระดับ → ผู้ใช้เลือกไฟล์ที่พอดีกับ RAM ตัวเอง โดยยอมรับว่าทุกขั้นที่บีบลงคือการยอมเสียคุณภาพ QAD บอกว่าถ้าแล็บลงแรงตั้งแต่ต้นทาง — เทรน student ให้เป็น 4-bit ตั้งแต่แรกแทนที่จะบีบทีหลัง — ผู้ใช้จะได้ทั้งคุณภาพของ K-quant และความเร็วของ Q4_0 พร้อมกัน ซึ่งเป็นสิ่งที่การแปลงหลังบ้านให้ไม่ได้ไม่ว่าจะฉลาดแค่ไหน

นี่ต่อยอดจากแนวโน้มที่เราเห็นมาทั้งเดือน: NVIDIA เพิ่งทำให้เส้นทางจาก checkpoint ไปสู่ inference เนทีฟสั้นลงเหลือสองคำสั่งด้วย TensorRT Model Connect และ Liquid AI กำลังทำอีกด้านของสมการเดียวกัน — ย้ายงานที่เคยเป็นภาระของผู้ใช้ปลายทางกลับไปอยู่ในกระบวนการเทรนของผู้ผลิตโมเดล ทิศทางรวมคือ ระยะห่างระหว่าง “แล็บปล่อยโมเดล” กับ “โค้ดของคุณเรียกใช้ได้จริงบนฮาร์ดแวร์ที่มี” กำลังหดลงเรื่อย ๆ

สำหรับนักพัฒนาไทยที่ทำงานฝั่ง on-device — แอปมือถือ, กล่อง edge ในโรงงาน, ระบบที่ต้องรันออฟไลน์เพราะข้อจำกัดด้าน PDPA หรือเพราะหน้างานไม่มีเน็ต — ตัวเลข 3–14% บนรุ่น 1.2B/2.6B อาจฟังดูน้อย แต่ในโลกที่งบพลังงานและอุณหภูมิของอุปกรณ์เป็นเพดานจริง throughput ที่เพิ่มขึ้นโดยไม่เพิ่มหน่วยความจำคือของที่หายาก และตัวเลข 4–33% บนรุ่น 230M/350M นั้นมีนัยยะกว่ามาก เพราะรุ่นจิ๋วขนาดนั้นมักถูกใช้เป็นตัวคัดกรอง/จัดเส้นทางที่ต้องตอบภายในไม่กี่มิลลิวินาที

แต่คำเตือนเดิมยังอยู่ และผมจะพูดซ้ำทุกครั้งที่เขียนถึง Liquid AI: ของดีที่ไลเซนส์ไม่ใช่ Apache-2.0 ไม่ใช่ของฟรี ทีมที่ prototype ด้วยโมเดลตระกูล LFM แล้วพบว่าเวิร์ก ควรตรวจเงื่อนไขไลเซนส์ก่อนที่สถาปัตยกรรมจะแข็งตัวจนย้ายไม่ได้ ไม่ใช่ตอนกำลังจะขึ้น production

แหล่งข่าว

• LFM2.5 Q4_0 Checkpoints from Quantization-Aware Distillation — Liquid AI บน Hugging Face Blog (19 ส.ค. 2026)
• LiquidAI/LFM2.5-2.6B-GGUF — ไฟล์ LFM2.5-2.6B-QAD-Q4_0.gguf และไลเซนส์ lfm1.0
• LiquidAI/LFM2.5-1.2B-Instruct-GGUF