llama.cpp ผสาน Multi-Token Prediction — speculative decoding ในตัวที่เร่ง inference โลคอลเกิน 2 เท่า กระเพื่อมทั้งระบบนิเวศ GGUF
llama.cpp เครื่องยนต์ inference โลคอลที่อยู่เบื้องหลังเครื่องมือยอดนิยมมากมาย (Ollama, LM Studio และอีกนับไม่ถ้วน) ผสาน PR #22673 โดยผู้พัฒนา am17an เข้าสู่ master branch เมื่อ 16 พ.ค. 2026 เพิ่มการรองรับ Multi-Token Prediction (MTP) speculative decoding ซึ่งเป็นหนึ่งในฟีเจอร์ที่ชุมชน local inference เรียกร้องมากที่สุด ผลคือเทคนิคเร่งความเร็วระดับนี้กระจายสู่ทั้งระบบนิเวศ GGUF ในคราวเดียว
MTP คืออะไร ทำไมถึงเร็วขึ้น
ปกติโมเดลภาษา generate ทีละโทเคนต่อหนึ่งรอบการคำนวณ (forward pass) ซึ่งเป็นคอขวดของความเร็ว MTP ให้โมเดลทำนายหลายโทเคนต่อรอบ โดยมี “MTP head” ที่โหลดมาจากไฟล์ GGUF เดียวกัน เปิดใช้งานอัตโนมัติโดยไม่ต้องแจกจ่ายโมเดลแยก จากนั้นใช้กลไก speculative decoding ตรวจรับโทเคนที่ทำนายไว้
ตัวเลขจากการทดสอบใน PR น่าประทับใจ: ที่ --spec-draft-n-max 3 ได้อัตรารับ (acceptance) ราว 75% ให้ผลเร็วขึ้นกว่า 2 เท่าเทียบ baseline มีรายงานจากผู้ใช้จริงเช่นได้ความเร็วเพิ่ม 1.85 เท่า (22.97 → 42.45 โทเคน/วินาที) บน RTX 3090 และแม้แต่การ์ดแล็ปท็อปอย่าง RTX 3060 6GB ก็ได้เพิ่มราว 1.27 เท่า เปิดใช้งานผ่านแฟล็ก --spec-type draft-mtp --spec-draft-n-max [2-3] รองรับทั้ง CUDA, Vulkan และ Metal เริ่มจากตระกูล Qwen3.6 (27B และ 35B-A3B)
มุมมอง AI Curator
ข่าวนี้เป็นตัวอย่างคลาสสิกของ “การปรับปรุงที่ฐานราก แล้วกระเพื่อมขึ้นทั้งสแตก” — เพราะ llama.cpp คือชั้นล่างสุดที่เครื่องมือรันโมเดลโลคอลจำนวนมากสร้างทับอยู่ การที่ MTP เข้า master หมายความว่าผู้ใช้ Ollama, LM Studio และเครื่องมืออื่น ๆ จะได้ความเร็วเพิ่มนี้ “ฟรี” เมื่ออัปเดต โดยไม่ต้องเปลี่ยนฮาร์ดแวร์หรือโมเดล
สำหรับนักพัฒนาและผู้ใช้ในไทย นี่คือข่าวที่จับต้องได้จริงที่สุดในบรรดาข่าว AI ทั้งหมด เพราะมันแปลตรง ๆ เป็น “โมเดลที่รันบนการ์ดเดิมของคุณ เร็วขึ้นเท่าตัว” ความเร็วที่เพิ่มขึ้นบนฮาร์ดแวร์ผู้บริโภคทำให้การรันโมเดลโลคอลเป็นทางเลือกที่ใช้งานจริงได้มากขึ้น โดยเฉพาะกับโมเดลโอเพนอย่าง Qwen3.6 ที่รันบน GPU ตัวเดียวอยู่แล้ว บทเรียนเชิงปฏิบัติคือ อย่ามองข้ามการอัปเดต runtime — บางครั้งการอัปเกรด llama.cpp ให้ผลด้านความเร็ว/ต้นทุนมากกว่าการเปลี่ยนไปใช้โมเดลที่ใหญ่กว่าเสียอีก
แหล่งข่าว:
อ่านเพิ่มในหมวด เครื่องมือนักพัฒนา
Betelgeuse รัน Qwen3.8 Flash Next ขนาด 68GB บน RTX 3060 กับแรม 16GB ส่วน Basalt วัดให้เห็นว่าเอนจินที่เร่งด้วยแฟล็กลัดทำให้โมเดลลืมของ
Betelgeuse ฟอร์ก llama.cpp ที่เปิดเมื่อ 31 ต.ค. ดึง expert จาก NVMe เข้า VRAM ตามต้องการ อ้าง 22 tok/s แบบไม่ทิ้ง expert แต่ README เตือนเองว่ายังทดลองและตัวเลขมาจากคนละรอบ วันเดียวกันผู้พัฒนา Basalt เผยผลวัดว่าแฟล็กเร่งความเร็วทำคุณภาพ Q8 ตกไปใกล้ Q2
กฎห้ามโคลนเกมของ Claude Code เริ่มกระทบงานจริง บริษัทรับทำเกมกระดานร้องงานลูกค้าหยุด แต่รายงานหลายชิ้นปนกับตัวกรองไซเบอร์คนละเรื่อง
ต่อจากที่เราพบกฎนี้ในไบนารี Claude Code ผู้ใช้เริ่มรายงานว่างานเชิงพาณิชย์ถูกปฏิเสธ และ Tom's Hardware กับ Mashable หยิบไปรายงาน แต่เมื่อไล่ issue ที่อ้างถึง พบว่าหลายรายการเกิดก่อนกฎจะมา จึงน่าจะเป็นตัวกรองด้านไซเบอร์ ส่วน Anthropic ยังไม่ชี้แจง
Claude Code ส่ง transcript ของ background agent ให้โมเดลทุก ~30 วินาทีเพื่อเขียนสถานะ 3–5 คำ ผู้วัดรายงานกินราว 16% และยังปิดแบบทางการไม่ได้
รายงานอิสระพบว่าฟีเจอร์ agent_summary ของ Claude Code ส่ง transcript เต็มของ background agent ไปถามสถานะทุก ~30 วินาที คิดเป็น 16.4% ของค่าใช้จ่ายในระบบของผู้วัด Issue เปิดมาตั้งแต่ ส.ค. ยังไม่มีสวิตช์ปิดที่รองรับ เราตรวจพบโค้ดนี้ใน 2.1.314 และพบกฎใหม่เรื่องเกมที่ไม่อยู่ใน changelog