NaiveAI เปิด Naive-N0.5-Flash — MoE 309B (active 15.5B) ไลเซนส์ MIT, context 1M โดยไม่มี full attention สักชั้น ต่อยอดจาก MiMo-V2.5 + DeepSeek Sparse Attention
NaiveAI สตาร์ทอัพจากปักกิ่ง อัปโหลดน้ำหนัก Naive-N0.5-Flash ขึ้น Hugging Face เมื่อ 27 ก.ย. 2026 (commit แรก 14:14 UTC) พร้อมบล็อกเทคนิคในวันเดียวกัน เป็นโมเดล MoE ขนาด 309B พารามิเตอร์ ใช้งานจริง (active) 15.5B ที่ทำมาสำหรับงาน เขียนโค้ดและงานวิจัย AI รองรับ context 1M โทเคนแบบ native ที่น่าสนใจคือทั้งโมเดล ไม่มี full-attention layer เลย ทุกชั้นเป็น sliding-window หรือ sparse attention
เราเปิดไฟล์ LICENSE ใน repo ดูแล้ว เป็น MIT จริง (“Copyright (c) 2026 Naive AI”) ไม่ใช่ MIT แค่ใน metadata ของการ์ด และโค้ด inference ก็ใช้ MIT เหมือนกัน NaiveAI ประกาศราคา API ไว้ที่ $0.10 / $0.40 / $0.01 ต่อล้านโทเคน (input / output / cache read) แต่การ์ดเขียนว่า API “will also be provided” แปลว่ายังไม่เปิดให้ใช้
สถาปัตยกรรม: MiMo-V2.5 + DSA แบบ GQA
- ต่อยอดจาก MiMo-V2.5 Base ของ Xiaomi (ไลน์เดียวกับ MiMo-V2.6) ซึ่งเดิมเป็น sliding-window เกือบทั้งโมเดลและมี global attention อยู่ไม่กี่ชั้น
- NaiveAI แทน global attention ด้วย DeepSeek Sparse Attention (DSA) ในแต่ละชั้น indexer ขนาดเล็กจะให้คะแนนประวัติทั้งหมด แล้วคำนวณ attention จริงแค่ 2,048 โทเคนที่ได้คะแนนสูงสุด
- มี 48 ชั้น แบ่งเป็นแปดโมดูล โมดูลละหกชั้น (SWA ห้าชั้นตามด้วย DSA หนึ่งชั้น) รวมเป็น SWA 39 ชั้น + DSA 9 ชั้น หน้าต่าง SWA มีแค่ 128 โทเคน
- DSA ต้นฉบับของ DeepSeek ทำงานบน MLA ส่วนตัวนี้เปลี่ยนเป็น GQA ที่มี 4 KV groups
- เทรนต่อรวม 3.25T โทเคน แบ่งเป็น indexer warmup 50B, sparse attention 3T และ LR decay 200B
ข้อควรรู้: การ์ดยอมรับเองว่า indexer “ยังสแกนประวัติทั้งหมด และเก็บ KV cache ไว้ครบ” แปลว่า DSA ลดงานคำนวณและ memory bandwidth แต่ไม่ได้ลดขนาด KV cache การใช้ context 1M จึงยังต้องมีหน่วยความจำมาก
เบนช์มาร์ก (อ่านจากกราฟ PDF ในการ์ด)
| เบนช์มาร์ก | Naive-N0.5-Flash | เทียบ |
|---|---|---|
| SWE-bench Pro | 73.6 | Opus-5.5 89.9, Opus-5 79.2, Qwen-3.8-Max 67.7 |
| Terminal-Bench 2.1 | 86.7 | DeepSeek-V4.1-Flash 90.6, Kimi-K3 88.3 |
| DeepSWE v1.1 | 67.8 | DeepSeek-V4.1-Flash 74.2, Kimi-K3 67.5 |
| NL2Repo-Bench | 71.9 | DeepSeek-V4.1-Flash 64.0 |
| ALE-CLI | 32.4 | Opus-5.5 34.3, Kimi-K3 28.3 |
| MLE-bench-30 | 73.7% | Sonnet-5 66.9%, Gemini-3.6-Flash 63.9% |
| PaperBench | 63.2 | Opus-4.7 58.5, MiniMax-M3 52.6 |
ทุกตัวเลขวัดโดย NaiveAI ผ่าน Claude Code 2.1.207 ที่เปิดให้ใช้เฉพาะเครื่องมืออ่านเขียนไฟล์และ Bash ส่วนคะแนนของคู่แข่งคัดลอกมาจากหน้าของแต่ละเจ้า ซึ่งใช้ harness ต่างกัน ตารางนี้จึงเทียบกันตรง ๆ ไม่ได้ ในกราฟ SWE-bench Pro ก็ไม่มี DeepSeek-V4.1-Flash ซึ่งเป็นคู่แข่งขนาดใกล้กันที่สุด
”สร้าง AI ด้วย AI” — จริงแค่ไหน
จุดขายหลักในบล็อกคือ NaiveAI ให้ AI ทำงาน R&D เอง บริษัทบอกว่าระบบของตัวเองรัน sandbox เกือบ สิบล้านตัวต่อสัปดาห์ แต่ก็เขียนเองว่า “Human researchers set direction, define constraints and criteria, and make critical decisions” และไม่ได้ให้ตัวเลขว่า AI ทำงานไปกี่เปอร์เซ็นต์ บล็อกยกตัวอย่างไว้สองกรณี:
- NaiveRT runtime สำหรับ inference ที่คนกับ AI ช่วยกันสร้างใน หกวัน จากการทดลองที่บันทึกไว้ 151 ครั้ง (ใช้จริง 63, ล้มเหลวหรือถูก rollback 71) ความเร็ว decode แบบ single-stream สูงสุด 2,122 tokens/s บน 8 GPU และลดเวลาหนึ่งรอบ speculative decoding จาก 12.3 ms บน SGLang เหลือ 3.4 ms แต่ ซอร์สโค้ดจะมา “by Oct 12th” ยังไม่มีให้ดาวน์โหลดตอนนี้
- AutoWM world model ที่ได้ 77.43 บน WorldArena-1 Track 1 สูงกว่าคะแนนสูงสุดบน leaderboard (73.64) แต่คะแนนส่วนหนึ่งมาจากการใช้ metric ที่คำนวณได้โดยไม่ต้องมีวิดีโอเฉลย มาเลือกว่าผลลัพธ์ไหนดีที่สุด (best-of-N และเลือกเฟรมด้วย dynamic programming)
รันเองได้ไหม
ไม่ได้บนเครื่องทั่วไป น้ำหนักมีขนาด ประมาณ 315 GB ต้องใช้ NVIDIA GPU ที่รองรับ FP8 ต้องมี transformers>=5.17.0 และต้องเปิด trust_remote_code มี repo -FP8 และ -FP8-Draft (draft model สำหรับ speculative decoding) ให้แล้ว แต่ในการ์ดมีตัวอย่างวิธีรันแค่ผ่าน Transformers
มุมมอง AI Curator
ด้านเทคนิค นี่คือตัวอย่างชัด ๆ ว่าระบบนิเวศโมเดลเปิดต่อยอดกันเองได้แล้ว ทีมใหม่ที่ไม่ได้เทรน base เองใช้ base ไลเซนส์ MIT ของ Xiaomi บวกกับเทคนิค sparse attention ที่ DeepSeek เปิดไว้ แล้วได้โมเดลที่ SWE-bench Pro สูงกว่า Qwen-3.8-Max และปล่อยคืนเป็น MIT อีกรอบ การตัด full attention ออกทั้งหมดแล้วยังได้ context 1M เป็นผลที่ทีม infra ควรติดตาม เพราะต้นทุน decode ต่อโทเคนแทบไม่โตตาม context ซึ่งเหมาะกับ agent ที่รันยาว
แต่อย่าเพิ่งเชื่อคำว่า “frontier” ข้อแรก ตัวเลขทุกตัวเป็นผลวัดเองบน harness ที่ต่างจากของคู่แข่ง และในงาน agentic ที่นักพัฒนาใช้จริงอย่าง Terminal-Bench กับ DeepSWE ตัวนี้ยังแพ้ DeepSeek-V4.1-Flash ข้อสอง กรณี AutoWM ที่ใช้ metric ของเบนช์มาร์กเองมาเลือกผลลัพธ์ เป็นวิธีที่ agent วิจัยอัตโนมัติมักใช้ “ทำคะแนน” ได้เก่งกว่า “ทำให้โมเดลดีขึ้นจริง” ถ้าทีมที่ขาย RSI ไม่แยกสองอย่างนี้ให้ชัด ผู้อ่านก็ต้องแยกเอง ข้อสาม ราคา API $0.40 ต่อล้าน output token ถูกมาก แต่ยังเป็นแค่ราคาที่ประกาศไว้ ยังไม่มีบริการจริง
สำหรับทีมไทย ขนาด 315 GB แปลว่าต้องใช้เซิร์ฟเวอร์ GPU ระดับ 8 การ์ด หรือรอผู้ให้บริการ inference รายอื่นมารองรับ ไลเซนส์ MIT จริงทำให้ใช้ในเชิงพาณิชย์ได้โดยไม่ต้องกังวล แต่ base อย่าง MiMo-V2.5 ระบุ MIT ไว้แค่ใน metadata ของการ์ด ไม่มีไฟล์ LICENSE ทีมที่เข้มเรื่อง compliance ควรเก็บหลักฐานไว้ทั้งสองชั้น ถ้าจะลองจริง ให้รอ NaiveRT (ที่สัญญาไว้ 12 ต.ค.) และรอผลวัดอิสระจาก Artificial Analysis หรือ SWE-bench leaderboard ก่อนตัดสินใจเปลี่ยนจาก DeepSeek หรือ Kimi
แหล่งข่าว
อ่านเพิ่มในหมวด โมเดลใหม่
Google เปิดตัว Gemini 4 Carbon ขึ้นอันดับ 1 Artificial Analysis v5 ด้วยคะแนน 59 แต่ยังให้ใช้แค่นักป้องกันไซเบอร์กลุ่มเล็ก
Gemini 4 Carbon เปิดตัว 28 ต.ค. แซง Claude Opus 5.5 บน Intelligence Index v5 แค่ 1 คะแนน และตามหลังเพียง 3 คะแนนในดัชนี coding agent ราคาเปิดตัว $2/$10 แต่นักพัฒนาทั่วไปยังเรียกใช้ไม่ได้ ระหว่างที่ Google ค่อย ๆ เปิดผ่านโปรแกรม Fairwind
Microsoft ปล่อย Mage-VL-Cowork โมเดล 4B คุมเดสก์ท็อปและเทอร์มินัลในตัวเดียว ได้ 66% บน OSWorld-Verified สัญญาอนุญาต Apache-2.0
Mage-VL-Cowork ขนาด 4B ของ Microsoft เลือกเองว่าจะคลิกหน้าจอหรือสั่ง bash ทำคะแนน OSWorld-Verified 66.0% ใกล้ค่าอ้างอิงมนุษย์ 72.4% ในตารางเดียวกัน แต่คำว่าดีที่สุดในขนาด 4B มีคู่เทียบบนตารางนี้แค่รุ่นเดียว
Mistral ปล่อยน้ำหนัก Large 4 จริงแล้ว — 1T ราคาลดเกือบครึ่ง แต่บน AA ได้ 26 และสัญญาอนุญาตห้ามขายเป็น API ถ้าไม่มีใบอนุญาตแยก
Mistral ปล่อยน้ำหนัก Large 4 (Le Chonk) เมื่อ 29 ต.ค. เป็นรุ่นที่ฝึก RL ต่ออีกสามสัปดาห์หลัง preview ขนาด 1T ใช้พื้นที่ราว 1.06TB ราคา API ลดเหลือ $0.70/$2.10 Mistral นำ open-weight ด้าน coding แต่คะแนนรวม AA 26 ตามหลังโมเดลจีน และสัญญาอนุญาตกันธุรกิจ Model-as-a-Service