เครื่องมือนักพัฒนา
Swiftlet รัน Qwen 80B บน Mac ด้วย RAM 4.3GB และ 35B บน iPhone — เคล็ดลับคือไม่โหลด expert เข้า RAM เลย แต่ pread จาก SSD ทีละตัว
Swiftlet (repo สร้าง 3 ส.ค., Apache 2.0, 336 ดาว) เป็น runtime Swift + Metal ที่รัน Qwen3-Next-80B-A3B บน Mac ด้วย peak RAM แค่ 4.3GB และ Qwen3.6-35B บน iPhone ด้วย ~2.5GB — โดยเก็บเฉพาะแกน dense ไว้ใน RAM แล้ว stream น้ำหนัก MoE จาก SSD ตามที่ router เรียก
· อ่าน 7 นาที