แท็ก

#edge-ai

6 บทความ

llama.cpp ยกเครื่อง Hexagon backend เช้านี้ — รัน NPU หลายตัวพร้อมกันบน Snapdragon, ทำงานแบบ async เต็มรูปแบบ และมาพร้อมชุดเครื่องมือ build/run/profile ของตัวเอง
เครื่องมือนักพัฒนา

llama.cpp ยกเครื่อง Hexagon backend เช้านี้ — รัน NPU หลายตัวพร้อมกันบน Snapdragon, ทำงานแบบ async เต็มรูปแบบ และมาพร้อมชุดเครื่องมือ build/run/profile ของตัวเอง

27 ส.ค. 2026 เวลา 01:46 UTC llama.cpp merge PR #26501 ที่รื้อ Hexagon backend ใหม่ทั้งก้อน — แก้ 44 ไฟล์ (+5,314/−3,139) เปิดทางให้กระจายโมเดลข้าม NPU หลายตัวบนชิป Qualcomm IQ9/IQ10 ด้วย tensor-split, เปลี่ยนทั้ง graph-compute/event/tensor-copy เป็น asynchronous, เปลี่ยนชื่ออุปกรณ์เป็นรูปแบบ HTP<physical>:<virtual> และเพิ่มสคริปต์ build.py/run.py พร้อม profiler กับ tracer สำหรับงาน Snapdragon โดยเฉพาะ

· อ่าน 7 นาที
Gemma 4 E2B วิ่งบน Raspberry Pi 5 ได้แล้ว — Google เปิดตัวเลขจริง decode 9 โทเคน/วินาที กินแรม 1.4GB ติดตั้งด้วยสองคำสั่ง
เครื่องมือนักพัฒนา

Gemma 4 E2B วิ่งบน Raspberry Pi 5 ได้แล้ว — Google เปิดตัวเลขจริง decode 9 โทเคน/วินาที กินแรม 1.4GB ติดตั้งด้วยสองคำสั่ง

11 ส.ค. 2026 Google ร่วมกับ Raspberry Pi Ltd และ Igalia เผยแพร่คู่มือรัน Gemma บน Raspberry Pi 5 ด้วย LiteRT พร้อมตัวเลขวัดจริง — Gemma 4 E2B ทำ prefill 99 โทเคน/วินาที decode 9 โทเคน/วินาที ใช้แรมสูงสุด 1,432 MB และติดตั้งได้ด้วยคำสั่งเดียวจาก Hugging Face

· อ่าน 5 นาที
DeepGrove ปล่อย Maple-Preview โมเดล 20B ที่เทรนเป็น ternary ตั้งแต่ต้น — เคลม 218 tok/s บน Mac mini M4 และเช็คพอยต์ 5.31GB แต่ไฟล์ที่โหลดได้จริงคือ 40.4GB
โมเดลใหม่

DeepGrove ปล่อย Maple-Preview โมเดล 20B ที่เทรนเป็น ternary ตั้งแต่ต้น — เคลม 218 tok/s บน Mac mini M4 และเช็คพอยต์ 5.31GB แต่ไฟล์ที่โหลดได้จริงคือ 40.4GB

DeepGrove เปิด Maple-Preview โมเดล reasoning 20B-A1B ที่ไม่ได้ควอนไทซ์ทีหลังแต่เทรนเป็น ternary มาตั้งแต่แรก ใต้ license MIT — แต่ไฟล์บน Hugging Face เป็น bf16 ขนาด 40.4GB และรันไทม์ที่ทำความเร็ว 218 tok/s บน Apple Silicon ยังไม่ถูกปล่อยออกมา

· อ่าน 6 นาที
Liquid AI ปล่อย LFM2.5-2.6B โมเดล 2.6B ที่เทรนด้วย RL ใน agent harness จริง — เคลมสู้โมเดลใหญ่กว่า 4 เท่าได้เรื่อง tool use แต่ license มีเพดานรายได้ 10 ล้านดอลลาร์
โมเดลใหม่

Liquid AI ปล่อย LFM2.5-2.6B โมเดล 2.6B ที่เทรนด้วย RL ใน agent harness จริง — เคลมสู้โมเดลใหญ่กว่า 4 เท่าได้เรื่อง tool use แต่ license มีเพดานรายได้ 10 ล้านดอลลาร์

Liquid AI เปิดตัว LFM2.5-2.6B (4 ส.ค. 2026) โมเดลบนเครื่องที่ post-train ด้วย agentic RL ใน harness จริงอย่าง OpenClaw — กินแรมต่ำกว่า 2.5GB คอนเท็กซ์ 128K และรันได้ทั้ง llama.cpp/MLX/ONNX/vLLM แต่ต้องอ่าน LFM Open License ให้จบก่อนใช้เชิงพาณิชย์

· อ่าน 6 นาที
NVIDIA เปิด Cosmos 3 Edge — world model 4B โอเพนเวต รันเรียลไทม์บนหุ่นยนต์
โมเดลใหม่

NVIDIA เปิด Cosmos 3 Edge — world model 4B โอเพนเวต รันเรียลไทม์บนหุ่นยนต์

NVIDIA ปล่อย Cosmos 3 Edge โมเดล world model ขนาด 4B แบบโอเพนเวต (ลิขสิทธิ์ OpenMDW-1.1) ที่รันควบคุมหุ่นยนต์เรียลไทม์ 15 Hz บน Jetson Thor ด้วยสถาปัตยกรรมสองหอคอย autoregressive + diffusion บล็อกนักพัฒนาเผยรายละเอียดวันที่ 20 ก.ค.

· อ่าน 6 นาที
Bonsai 27B: ย่อโมเดล 27B ให้รันบนมือถือได้จริง ด้วยการควอนไทซ์ 1-bit
โมเดลใหม่

Bonsai 27B: ย่อโมเดล 27B ให้รันบนมือถือได้จริง ด้วยการควอนไทซ์ 1-bit

PrismML ปล่อย Bonsai 27B โมเดลมัลติโมดัลจาก Qwen3.6-27B ที่ควอนไทซ์เหลือ 1-bit (3.9GB) และ ternary (5.9GB) — เคลมว่าเป็นโมเดลระดับ 27B ตัวแรกที่รันบน iPhone ได้ (11 tok/s) โดยยังรักษาความสามารถไว้ ~90-95% ของ FP16 แจกฟรี Apache 2.0

· อ่าน 6 นาที