KAT-Coder-V2.5-Dev เปิดน้ำหนักโมเดล Apache-2.0 — MoE 35B/active 3B ทำ SWE-bench Verified 69.4 แซงรุ่นพี่ขนาดเดียวกันทุกตัว

โมเดลเขียนโค้ดแบบ agentic ที่เปิดน้ำหนักจริงและอยู่ในระดับใช้งานได้ยังมีไม่มาก ส่วนใหญ่ที่ทำคะแนน SWE-bench สวย ๆ คือโมเดลปิดที่เรียกผ่าน API เท่านั้น สัปดาห์นี้ทีม KwaiKAT (Kwaipilot ของ Kuaishou) ปล่อย KAT-Coder-V2.5-Dev ขึ้น Hugging Face ภายใต้ไลเซนส์ Apache-2.0 — เป็นเวอร์ชันโอเพนของโมเดลตระกูล KAT-Coder ที่ก่อนหน้านี้ให้บริการเฉพาะเป็น API (รุ่น Pro/Air)

ตัวเลขที่ทำให้โมเดลนี้น่าสนใจคือสัดส่วนระหว่างขนาดกับผลลัพธ์: เป็น MoE 35B พารามิเตอร์รวม แต่ active เพียง 3B ต่อ token ต่อยอดจากฐาน Qwen3.6-35B-A3B แล้ว post-train ใหม่ทั้งชุด ได้ SWE-bench Verified 69.40 ซึ่งในตารางเปรียบเทียบของการ์ดโมเดลเองสูงกว่าโมเดลโอเพนขนาดใกล้เคียงทุกตัวที่นำมาเทียบ

ตัวเลขที่ประกาศไว้ในการ์ดโมเดล

การ์ดบน Hugging Face ให้ตารางเทียบกับโมเดลโอเพนระดับเดียวกันไว้ครบ (ตัวเลขทั้งหมดเป็นการรายงานเองของทีม ยังไม่มีการ reproduce จากบุคคลที่สามในตอนที่เขียน):

เบนช์มาร์ก	KAT-Coder-V2.5-Dev	Qwen3.5-27B	Qwen3.6-35B-A3B	Gemma4-31B	Ornith-1.0-35B	Qwen3-Coder-30B
SWE-bench Verified	69.40	68.60	64.40	60.60	55.80	31.80
SWE-bench Multilingual	63.00	57.67	57.00	49.33	51.67	20.67
SWE-bench Pro	45.96	42.13	40.63	32.97	34.47	19.84
Terminal-Bench 2.1	41.02	34.84	32.02	32.59	35.98	13.50
PinchBench	93.43	90.71	92.21	85.53	91.62	72.30
Scicode	44.20	25.58	37.53	33.19	30.34	18.27

จุดที่ควรอ่านให้ละเอียดคือช่องว่างกับ ฐานของตัวเอง: Qwen3.6-35B-A3B ทำ SWE-bench Verified ได้ 64.40 ส่วนตัวที่ post-train แล้วได้ 69.40 — ขยับขึ้นราว 5 จุดจากสถาปัตยกรรมเดิมทุกอย่าง เปลี่ยนแค่ขั้นตอนเทรนหลัง นี่คือข้อความหลักที่ทีมพยายามสื่อ: สูตร post-training มีค่ามากกว่าที่หลายคนคิด

ช่องว่างที่ชัดที่สุดอยู่ที่ Scicode (44.20 vs 37.53) และ Terminal-Bench 2.1 (41.02 vs 32.02) ซึ่งเป็นสองงานที่วัดการทำงานยาว ๆ หลายขั้นตอนในเทอร์มินัลจริง ไม่ใช่การเติมโค้ดทีละบรรทัด

สูตรเทรน: สร้างสนามซ้อมที่ verify ได้ก่อน แล้วค่อย RL

รายงานเทคนิค KAT-Coder-V2.5 (arXiv:2607.05471 ส่งเมื่อ 6 ก.ค. 2026) อธิบายว่าโจทย์ของ agentic coding ไม่ใช่ “เขียนโค้ดให้ถูก” แต่คือ “ทำงานให้จบใน repo ที่รันได้จริง” ทีมจึงลงทุนกับส่วนที่คนมองข้าม — สภาพแวดล้อมที่ตรวจผลได้:

• AutoBuilder — ระบบสร้าง sandbox ของ repository ขึ้นมาใหม่โดยอัตโนมัติ (แก้ dependency, ทำให้ build ผ่าน, ทำให้เทสต์รันได้) แล้วกลั่นคอนฟิกที่สำเร็จออกมาเป็น build recipe ที่นำกลับมาใช้ซ้ำได้ รายงานระบุว่าวิธีนี้ดัน อัตราการสร้างสภาพแวดล้อมสำเร็จจาก 16.5% ขึ้นเป็น 57.2% และได้ สภาพแวดล้อมที่ verify ได้กว่า 100,000 ชุด ครอบคลุม 12 ภาษาโปรแกรม
• KwaiClawEnv — สังเคราะห์ trajectory การเรียกใช้เครื่องมือ (tool use) ที่มีคุณค่าสูงในสเกลใหญ่
• SFT 127K ตัวอย่าง แล้วตามด้วย RL ที่ใช้ผลการรันจริงเป็น reward พร้อม hierarchical reward ที่ให้คะแนนความคืบหน้าระหว่างทาง ไม่ใช่ให้แค่ตอนจบ
• Multi-Teacher On-Policy Distillation ที่รวมโมเดลผู้เชี่ยวชาญสามสาย — SWE, Agent-Claw และ WebCoding — เข้าเป็นตัวเดียว
• มี penalty เฉพาะสำหรับฐาน Qwen3.6 เพื่อกดพฤติกรรมสองอย่างที่โมเดล agentic มักเสีย — เรียก tool ถี่เกินจำเป็น และ วนพูดซ้ำ

หัวใจของวิทยานิพนธ์ทั้งฉบับอยู่ในประโยคเดียวของบทคัดย่อ: ความสามารถของ coding agent “ถูกจำกัดโดยความขาดแคลนของสภาพแวดล้อมที่ทำซ้ำได้ รางวัลที่ตรวจสอบได้ และ trajectory คุณภาพสูง มากกว่าถูกจำกัดด้วยขนาดโมเดล” และทีมระบุว่ารุ่นเต็มทำผลอันดับสองบนเบนช์มาร์กระดับ repository ตามหลังเพียง Opus 4.8 เท่านั้น

ข้อจำกัดที่ต้องรู้ก่อนโหลด

การ์ดโมเดลระบุตรง ๆ ว่า เวอร์ชันโอเพนนี้มีเฉพาะน้ำหนักฝั่ง language model — ส่วน vision/multimodal ไม่ได้ปล่อยมาด้วย ฉะนั้นเป็นโมเดลข้อความล้วน ต่างจากรุ่น Pro/Air ที่ให้บริการผ่าน API

การรันก็ไม่ใช่ของเบา แม้ active จะแค่ 3B แต่ต้องโหลดน้ำหนักครบ 35B ตัวอย่างคำสั่งในการ์ดตั้ง tensor parallel ไว้ที่ 8 การ์ด:

# vLLM
vllm serve Kwaipilot/KAT-Coder-V2.5-Dev --port 8000 \
  --tensor-parallel-size 8 --max-model-len 262144 --language-model-only

# SGLang
python -m sglang.launch_server --model-path Kwaipilot/KAT-Coder-V2.5-Dev \
  --port 8000 --tp-size 8 --context-length 262144

คอนเท็กซ์รองรับ 262,144 token แบบ native และค่า sampling ที่แนะนำคือ temperature 0.7–1.0, top-p 0.8–0.95, top-k 20, presence penalty 1.5 — ค่า presence penalty ที่สูงผิดปกตินี้สอดคล้องกับที่รายงานบอกว่าต้องกดอาการพูดซ้ำ

สำหรับคนที่เครื่องเล็กกว่านั้น การที่ active มีแค่ 3B แปลว่าเมื่อมี GGUF/quantization ออกมา (ยังไม่มีจากทีมต้นทางในตอนนี้) โอกาสรันบนเครื่องเดียวที่ RAM เยอะ ๆ ด้วยความเร็วพอใช้งานก็สูงกว่าโมเดล dense ขนาดเดียวกันมาก

มุมมอง AI Curator

ข่าวนี้น่าสนใจไม่ใช่เพราะเลข 69.40 แต่เพราะ มันเป็นการเปิดสูตร ไม่ใช่แค่เปิดไฟล์

ปีนี้เราเห็นโมเดลโอเพนถูกปล่อยออกมาแทบทุกสัปดาห์ แต่ส่วนใหญ่ที่ปล่อยคือน้ำหนักเปล่า ๆ พร้อมประโยคว่า “ผ่าน RL แล้ว” ซึ่งใช้ต่อยอดไม่ได้ กรณีนี้ต่างออกไป: ทีมประกาศชัดว่าใช้ฐาน Qwen3.6-35B-A3B ตัวเดียวกับที่ใครก็โหลดได้ เอาสูตร SFT+RL ของตัวเองทับลงไป แล้วได้ +5 จุดบน SWE-bench Verified พร้อมรายงานเทคนิคที่อธิบายว่า AutoBuilder และ hierarchical reward ทำงานอย่างไร นั่นคือแผนที่ให้ทีมอื่นเดินตาม ไม่ใช่แค่ของแจก

ประเด็นที่ทีมไทยควรจับคือ AutoBuilder มากกว่าตัวโมเดล สิ่งที่แพงที่สุดในการเทรน coding agent ไม่ใช่ GPU แต่คือการมี repository ที่ build ผ่าน เทสต์รันได้ และตรวจผลอัตโนมัติได้เป็นแสนชุด ใครก็ตามที่มี codebase ภายในองค์กรจำนวนมาก — ธนาคาร บริษัทซอฟต์แวร์ หน่วยงานรัฐที่มีระบบ legacy — จริง ๆ แล้วนั่งอยู่บนวัตถุดิบที่หายากโดยไม่รู้ตัว การเปลี่ยน repo เหล่านั้นให้เป็นสนามซ้อมที่ verify ได้คือทักษะที่ transferable กว่าการไล่ตามโมเดลใหม่ทุกสัปดาห์

อีกเรื่องที่ควรพูดตรง ๆ คือ SWE-bench Multilingual 63.00 เป็นตัวเลขที่มีความหมายกับเรามากกว่า SWE-bench Verified ด้วยซ้ำ เพราะโค้ดเบสในไทยไม่ได้เป็น Python ล้วนแบบชุดทดสอบมาตรฐาน แต่ปนกันทั้ง Java, PHP, Go, TypeScript ช่องว่าง 6.4 จุดระหว่าง Verified กับ Multilingual เตือนว่าอย่าคาดหวังผลเท่ากันเมื่อเอาไปจ่อ repo จริงที่ไม่ใช่ Python

ข้อควรระวังสุดท้าย: ตัวเลขทั้งหมดนี้ยังเป็นการรายงานของทีมเอง ตารางเปรียบเทียบก็เป็นตารางที่ทีมเลือกคู่เทียบเอง จนกว่าจะมี independent evaluation จาก SWE-bench leaderboard หรือ Artificial Analysis ควรอ่านเป็น “น่าลองมาก” ไม่ใช่ “พิสูจน์แล้ว” — และเนื่องจากไลเซนส์เป็น Apache-2.0 การพิสูจน์นั้นเปิดให้ทุกคนทำได้เอง ซึ่งก็คือข้อดีข้อใหญ่ที่สุดของการเปิดน้ำหนักตั้งแต่แรก

แหล่งข่าว

• Kwaipilot/KAT-Coder-V2.5-Dev — Hugging Face
• KAT-Coder-V2.5 Technical Report — arXiv:2607.05471
• ฉบับเต็ม HTML ของรายงานเทคนิค (รายละเอียด AutoBuilder / KwaiClawEnv)
• Qwen/Qwen3.6-35B-A3B — โมเดลฐานที่ใช้ต่อยอด