Liquid AI ปล่อย LFM2.5-VL-DSpark — drafter 280M ทำให้ VLM 3B ถอดรหัสเร็วขึ้นสูงสุด 3.13 เท่าบน Mac แต่ภาพยังต้องผ่าน prefill เท่าเดิม end-to-end จึงเร็วขึ้นแค่ 1.3–2.6 เท่า

Liquid AI เผยแพร่บล็อกบน Hugging Face เมื่อ 24 ก.ย. 2026 เปิดตัว LFM2.5-VL-3B-DSpark ซึ่งเป็นโมเดล draft สำหรับ speculative decoding ของ VLM ตัวเล็ก LFM2.5-VL-3B นี่คือภาคต่อของ LFM2.5-DSpark ฝั่งข้อความที่เราเขียนถึงเมื่อ 21 ส.ค. คราวนี้ขยายเทคนิคเดียวกันมาใช้กับงานที่มีภาพ

ประเด็นที่นักพัฒนาควรรู้มีสองข้อ ข้อแรกคือ ใช้งานได้จริงทันที เพราะ PR ที่ต้องใช้ทั้งใน llama.cpp, MLX-VLM และ SGLang ถูก merge ครบแล้ว ข้อสองคือบล็อกเองก็ยอมรับว่า speculative decoding เร่งได้เฉพาะช่วง decode ส่วนการเข้ารหัสภาพและ prefill ไม่ได้เร็วขึ้นเลย ดังนั้นตัวเลขที่ผู้ใช้รู้สึกได้จริงจะต่ำกว่าตัวเลขพาดหัว

drafter ตัวนี้คืออะไร

• เป็น drafter แบบ attention-only 4 ชั้น ขนาด 279.5M (decoder 193M, projection 21M, Markov head 65.5M) เพิ่มพารามิเตอร์ของระบบรวมแค่ 8.9%
• ดึง hidden state จากบางชั้นของโมเดลหลักแล้วร่างโทเคนออกมาเป็นบล็อกละ k ตัว (แนะนำ block size 8–9) เนื่องจากภาพกับข้อความถูกแปลงเป็นเวกเตอร์มิติเดียวกันตั้งแต่ก่อนถึงชั้นเหล่านั้น drafter จึงใช้ อัลกอริทึมเดียวกับรุ่นข้อความทุกอย่าง
• ผลลัพธ์เป็นแบบ exact เพราะโมเดลหลักตรวจทุกโทเคนที่ร่างมา ถ้าใช้ greedy จะได้ข้อความเหมือนการรันโมเดลหลักตัวเดียวทุกตัวอักษร
• น้ำหนักมีทั้ง safetensors (LiquidAI/LFM2.5-VL-3B-DSpark) และ GGUF F16 (LiquidAI/LFM2.5-VL-3B-DSpark-GGUF)

ตัวเลขความเร็ว (block size 8, 6 งานจาก MMSpec)

ฮาร์ดแวร์ / runtime	decode เร็วขึ้น	end-to-end เร็วขึ้น
M5 Max / MLX	2.30–3.13x	1.56–2.62x
M3 Ultra / llama.cpp	1.57–2.14x	1.30–1.77x
H100 (บล็อกไม่ระบุ runtime)	สูงสุด 2.66x	1.64–2.27x

ในบล็อก ค่าต่ำสุดของ H100 เขียนไว้ว่า “20.4x to 2.66x” ซึ่งน่าจะเป็นการพิมพ์ผิดจาก 2.04x เพราะเลขชุดนี้ต้องไม่เกินค่าสูงสุดที่ 2.66x ส่วนงานทั้ง 6 ที่ใช้วัดคือ VQA ทั่วไป, text VQA, captioning, chart VQA, reasoning และบทสนทนาหลายรอบ

วิธีเปิดใช้ และจุดที่ต้องระวัง

• llama.cpp: รันด้วย llama-server -m LFM2.5-VL-3B-F16.gguf --mmproj mmproj-LFM2.5-VL-3B-F16.gguf -md <drafter>.gguf --spec-type draft-dspark --spec-draft-n-max 8 ต้องใช้ build ที่มี PR #29339 (merge 23 ก.ย. ช่วง 23:16 UTC) ซึ่งเพิ่มการแปลง vision target และแก้บั๊ก rope ถูก reorder ซ้ำสองครั้งใน drafter ของ LFM2 หมายความว่าต้องใช้ nightly ที่ออกหลังจากนั้น ระวัง: คำสั่งตัวอย่างในบล็อกชี้ -md ไปที่ LFM2.5-2.6B-DSpark-F16.gguf ซึ่งเป็น drafter ฝั่งข้อความ แต่ไฟล์ในรีโป GGUF ของรุ่นภาพชื่อ LFM2.5-VL-3B-DSpark-F16.gguf
• MLX-VLM: mlx_vlm.server --model LiquidAI/LFM2.5-VL-3B --draft-model LiquidAI/LFM2.5-VL-3B-DSpark (ใช้ PR #2280 ซึ่ง merge ตั้งแต่ 18 ก.ย.)
• SGLang: เพิ่ม --speculative-algorithm DSPARK --speculative-draft-model-path LiquidAI/LFM2.5-VL-3B-DSpark (ใช้ PR #40651 ซึ่ง merge 22 ก.ย.) และต้อง --disable-radix-cache
• ใบอนุญาต: บล็อกปิดท้ายว่า “Download, fine-tune, and deploy without restrictions” แต่ไฟล์ LICENSE ในรีโปเป็น LFM Open License ซึ่ง ให้สิทธิ์ใช้เชิงพาณิชย์เฉพาะองค์กรที่มีรายได้ต่อปีต่ำกว่า 10 ล้านดอลลาร์ องค์กรที่ใหญ่กว่านั้นต้องขออนุญาตแยก

มุมมอง AI Curator

ส่วนที่มีค่าที่สุดของประกาศนี้ไม่ใช่ตัวเลข 3.13 เท่า แต่เป็นย่อหน้าที่ Liquid AI ยอมรับเองว่า กฎของ Amdahl จำกัดประโยชน์ของ speculative decoding ในงานภาพ บนอุปกรณ์ปลายทาง เวลาที่ใช้เข้ารหัสภาพและ prefill โทเคนภาพหลายร้อยตัวกินสัดส่วนใหญ่ของเวลาทั้งหมด ยิ่งคำตอบสั้น (เช่น “ในภาพมีกี่คน”) end-to-end ก็ยิ่งเข้าใกล้ 1.3 เท่า ส่วนงานที่ตอบยาว เช่นบรรยายภาพหรือสรุปกราฟ จะได้ประโยชน์ใกล้เคียงตัวเลขพาดหัวมากกว่า ใครจะนำไปใช้ควรวัดกับงานของตัวเองก่อน อย่าใช้ตัวเลขจากบล็อกเป็นตัวตั้ง

สำหรับนักพัฒนาไทยที่ทำแอปอ่านใบเสร็จ อ่านฉลาก หรือระบบ kiosk บนเครื่อง Mac หรือ mini PC โมเดล 3B + drafter 280M เป็นแพ็กเกจที่เล็กพอจะรันบนเครื่องได้จริง และเพราะผลลัพธ์เป็นแบบ exact ก็ ไม่ต้องทดสอบความแม่นใหม่ ถ้าเคยตรวจ LFM2.5-VL-3B กับภาษาไทยไว้แล้ว เปิด drafter ได้เลยโดยความแม่นไม่เปลี่ยน

ส่วนเรื่องที่ต้องจับตาคือช่องว่างระหว่างบล็อกกับของจริง ในประกาศเดียวมีทั้งตัวเลขที่น่าจะพิมพ์ผิด ชื่อไฟล์ในคำสั่งตัวอย่างที่ไม่ตรงกับรีโป และคำว่า “ไม่มีข้อจำกัด” ที่ขัดกับไฟล์ LICENSE ทั้งหมดนี้ไม่ได้ทำให้ตัวงานแย่ลง แต่ยืนยันนิสัยที่ดีคือ อ่าน LICENSE และรายชื่อไฟล์ในรีโปเองเสมอ ก่อนเอาโมเดลไปใช้ในผลิตภัณฑ์

แหล่งข่าว

• Accelerating vision-language models with LFM2.5-VL-DSpark — Liquid AI บน Hugging Face Blog (24 ก.ย. 2026)
• LiquidAI/LFM2.5-VL-3B-DSpark — Hugging Face (model + LICENSE)
• llama.cpp PR #29339: convert : allow vision target for DFlash/DSpark
• SGLang PR #40651: [LFM2-VL] Add DSpark speculative decoding