เครื่องมือนักพัฒนา
Edge0 รันโมเดล MoE 35B บน Mac ด้วยหน่วยความจำ 2.9 GiB โดยสตรีม expert จาก SSD — แต่ runtime ตัดจำนวน expert ต่อโทเคนจาก 8 เหลือ 4 และผู้ใช้ M1 วัดได้ช้ากว่าตัวเลขที่ประกาศราว 30 เท่า
edge0 เฟรมเวิร์ก Apache-2.0 ที่เปิดตัว 8 ก.ย. และยังติดเทรนด์อันดับ 3 บน Hugging Face รัน Qwen3.5-35B-A3B แบบ 4 บิตบน Mac mini M4 Pro ได้ 14.9–17.7 tok/s โดยใช้หน่วยความจำ 2.9 GiB ด้วยการสตรีม expert จาก SSD, prerouter ที่เดาเส้นทางล่วงหน้า และ LoRA กู้คุณภาพหลัง quantize — แต่ซอร์สโค้ดตั้ง top_k=4 ขณะที่ config ของโมเดลเป็น 8, คะแนนฐาน fp16 ที่รันเองต่ำกว่าตัวเลขทางการของ Qwen และ issue จากผู้ใช้ M1 8 GB วัดรุ่น 8B ได้แค่ 0.7–0.8 tok/s
· อ่าน 7 นาที