ข้ามไปยังเนื้อหา

แท็ก

#Inco AI

1 บทความ

Inco Splash — engine รันโมเดลบน Mac ที่ "สร้างรอบโมเดล" รองรับแค่ 2 ตัว แต่ decode Qwen3.8-27B ได้ 74 tok/s เร็วกว่า oMLX 2 เท่า และตอบรอบถัดไปของ agent เร็วกว่า 7 เท่า (Apache-2.0)
เครื่องมือนักพัฒนา

Inco Splash — engine รันโมเดลบน Mac ที่ "สร้างรอบโมเดล" รองรับแค่ 2 ตัว แต่ decode Qwen3.8-27B ได้ 74 tok/s เร็วกว่า oMLX 2 เท่า และตอบรอบถัดไปของ agent เร็วกว่า 7 เท่า (Apache-2.0)

Inco AI ปล่อย Splash engine รันโมเดลบน Mac แบบโอเพนซอร์ส (Apache-2.0) ที่เขียน Metal kernel, draft model DFlash 2 และแผนหน่วยความจำเฉพาะให้ Qwen3.8-27B กับ Qwen3.6-35B-A3B บน M5 Pro 48GB วัดได้เร็วกว่า oMLX 1.7–2 เท่าตอน decode และ 6.6–7.3 เท่าตอนใช้ cache ซ้ำ แต่ตัวเลขทั้งหมดวัดโดย Inco เอง และต้องใช้ M3 ขึ้นไปกับแรม 36GB+

· อ่าน 5 นาที