แท็ก

#Qwen3.8-Flash-Next

3 บทความ

Strata: ตัวติดตั้งคลิกเดียวที่รัน Qwen3.8-Flash-Next 125B บนการ์ดจอเกมมิ่ง 12 GB — RTX 5070 ได้ 94 tok/s, ขึ้นอันดับ 2 บน HN แต่คนทดสอบเจอคุณภาพตกในงานภาพ

Strata (MIT) คือตัวติดตั้งคลิกเดียวพร้อมเอนจินที่แตกโมเดล MoE Qwen3.8-Flash-Next 125B ไปไว้บน GPU, RAM และ SSD ให้รันได้บนการ์ด 12 GB กับ RAM 32–64 GB โดย README วัดได้ 94 tok/s บน RTX 5070 และเปิด API แบบ OpenAI/Anthropic ให้ Claude Code หรือ Codex ใช้ได้ทันที โพสต์บน Hacker News เมื่อ 4 ต.ค. ได้ 569 คะแนน แต่ความเร็วนี้แลกมากับควอนต์ 2–3 บิต และมีผู้ทดสอบพบว่างานด้านภาพแม่นยำแย่กว่า llama.cpp ราว 3 เท่า

5 ต.ค. 2569 · อ่าน 6 นาที

เครื่องมือนักพัฒนา

halogen 0.12.0: เอนจินที่เขียนเคอร์เนลให้ GPU ตัวเดียวและโมเดลตระกูลเดียว — prefill พรอมต์ 1 ล้านโทเคนบน Strix Halo เหลือ 17.9 นาที จาก 21.2 นาที

19 ก.ย. 2026 halogen-flash-server ออก 0.12.0 — เอนจิน inference ที่เขียนเคอร์เนลเฉพาะ AMD Strix Halo (gfx1151) กับ Qwen3.8-Flash-Next เท่านั้น รอบนี้รื้อสองเคอร์เนลของ sparse-attention indexer ทำให้พรอมต์ 1,004,581 โทเคน prefill เหลือ 17.9 นาทีและ decode 38 tok/s โดยเอาต์พุตยังเหมือนเดิมบิตต่อบิต — แต่เอนจินเป็นไบนารีปิดใต้ EULA ไม่ใช่โอเพนซอร์ส

20 ก.ย. 2569 · อ่าน 7 นาที

เครื่องมือนักพัฒนา

slotstream: รัน Qwen3.8-Flash-Next 125B (104 GB) บน Mac 48 GB ได้ 12 tok/s — สตรีม expert จาก SSD ทีละสล็อต ไบนารี Swift ตัวเดียว ไม่ต้องมี Python

slotstream v0.2.0 (1 ก.ย. 2026) เป็นเอนจินอินเฟอเรนซ์ Swift ตัวเดียวที่รัน Qwen3.8-Flash-Next — MoE 125B ขนาด 104 GB บนดิสก์ — บน Mac 48 GB ได้ที่ราว 12 tok/s โดยสตรีม expert จาก SSD เข้าพูลแคชแบบสล็อตแทนการโหลดทั้งโมเดล และเปิด API แบบ Ollama/OpenAI ให้เครื่องมือเดิมต่อได้ทันที

2 ก.ย. 2569 · อ่าน 7 นาที