แท็ก

#Metal

5 บทความ

llama.cpp 0.6.0: MTP ทำให้ Qwen3.8-Flash-Next decode เร็วขึ้น 1.55 เท่าบน DGX Spark, Mac รุ่น M1–M4 รัน speculative decoding เร็วขึ้นราว 3.6 เท่า, รองรับ GLM-5.3-Flash และมี breaking change ฝั่ง C API (llama_batch_ext)
เครื่องมือนักพัฒนา

llama.cpp 0.6.0: MTP ทำให้ Qwen3.8-Flash-Next decode เร็วขึ้น 1.55 เท่าบน DGX Spark, Mac รุ่น M1–M4 รัน speculative decoding เร็วขึ้นราว 3.6 เท่า, รองรับ GLM-5.3-Flash และมี breaking change ฝั่ง C API (llama_batch_ext)

llama.cpp ปล่อย v0.6.0 เมื่อ 5 ต.ค. 2026 (ตรงกับ build b11429) เพิ่ม MTP speculative decoding ให้ Qwen3.8-Flash-Next (decode เร็วขึ้นเฉลี่ย 1.55 เท่าบน DGX Spark) เพิ่มเคอร์เนล Metal สำหรับ Mac ที่ยังไม่มี tensor API ทำให้ DFlash2 บน M3 Ultra เร็วขึ้นจาก 30.2 เป็น 110 tok/s รองรับ GLM-5.3-Flash 320B ทั้งข้อความและภาพ และเปลี่ยน C API มาใช้ llama_batch_ext

· อ่าน 5 นาที
antirez เขียน engine รัน MiniMax H3 บน Mac ด้วย Metal ล้วน — คลิป 512×512 ใน 3.5 วินาทีโหมดเร็ว และ int8 ที่ตัดพีค RAM จาก 36GB เหลือ 26GB
เครื่องมือนักพัฒนา

antirez เขียน engine รัน MiniMax H3 บน Mac ด้วย Metal ล้วน — คลิป 512×512 ใน 3.5 วินาทีโหมดเร็ว และ int8 ที่ตัดพีค RAM จาก 36GB เหลือ 26GB

Salvatore Sanfilippo (antirez) ผู้สร้าง Redis เปิดรีโป h3.c เมื่อ 9 ส.ค. 2026 — inference engine ภาษา C + Metal shader ล้วนสำหรับรันโมเดลวิดีโอ MiniMax H3 บน Mac โดยไม่ต้องมี Python หรือ PyTorch เลย ขึ้นอันดับต้นของ Hacker News วันนี้ด้วยดาว 848 ดวง

· อ่าน 6 นาที
Swiftlet รัน Qwen 80B บน Mac ด้วย RAM 4.3GB และ 35B บน iPhone — เคล็ดลับคือไม่โหลด expert เข้า RAM เลย แต่ pread จาก SSD ทีละตัว
เครื่องมือนักพัฒนา

Swiftlet รัน Qwen 80B บน Mac ด้วย RAM 4.3GB และ 35B บน iPhone — เคล็ดลับคือไม่โหลด expert เข้า RAM เลย แต่ pread จาก SSD ทีละตัว

Swiftlet (repo สร้าง 3 ส.ค., Apache 2.0, 336 ดาว) เป็น runtime Swift + Metal ที่รัน Qwen3-Next-80B-A3B บน Mac ด้วย peak RAM แค่ 4.3GB และ Qwen3.6-35B บน iPhone ด้วย ~2.5GB — โดยเก็บเฉพาะแกน dense ไว้ใน RAM แล้ว stream น้ำหนัก MoE จาก SSD ตามที่ router เรียก

· อ่าน 7 นาที
TurboFieldfare รัน Gemma 4 26B ด้วย RAM แค่ 2 GB บน MacBook Air 8 GB
เครื่องมือนักพัฒนา

TurboFieldfare รัน Gemma 4 26B ด้วย RAM แค่ 2 GB บน MacBook Air 8 GB

รันไทม์โอเพนซอร์ส Apache-2.0 เขียนด้วย Swift + Metal สตรีม expert ของ Gemma 4 26B-A4B จาก SSD ทีละโทเคน ทำให้โมเดล 26B รันได้บน Mac RAM 8 GB โดยใช้หน่วยความจำราว 2 GB วัดได้ 5.1–6.3 tok/s บน M2 MacBook Air และ 31–35 tok/s บน M5 Pro

· อ่าน 6 นาที
พอร์ตเกม Command & Conquer ปี 2003 ลง iOS แบบเนทีฟด้วย Claude Code + Fable 5 — บิลด์แรกใช้เวลา 40 นาที
เครื่องมือนักพัฒนา

พอร์ตเกม Command & Conquer ปี 2003 ลง iOS แบบเนทีฟด้วย Claude Code + Fable 5 — บิลด์แรกใช้เวลา 40 นาที

Ammaar Reshi (หัวหน้าฝ่ายผลิตภัณฑ์/ดีไซน์ของ Google AI Studio) ใช้ Claude Code กับโมเดล Fable 5 พอร์ตเกม RTS คลาสสิก Command & Conquer Generals: Zero Hour ลงรันเนทีฟบน Apple Silicon, iPhone และ iPad — บิลด์แรกเสร็จใน ~40 นาที รวมงานดีบักสองวัน แล้วเปิดซอร์สโค้ดทั้งหมด

· อ่าน 5 นาที