แท็ก

#post-training

7 บทความ

ทีม Qwen กลับด้านไปป์ไลน์เทรนเอเจนต์ — ถอดสภาพแวดล้อมที่รันได้ 37,273 ชุดออกจาก trajectory เก่า 359,593 เส้น ดัน Qwen3.5-27B บน Terminal-Bench 2.1 ขึ้น 11.9 จุด แต่เวิร์กสเปซที่รีเพลย์ได้จริงมีโค้ดมัธยฐาน 0 บรรทัด
งานวิจัย

ทีม Qwen กลับด้านไปป์ไลน์เทรนเอเจนต์ — ถอดสภาพแวดล้อมที่รันได้ 37,273 ชุดออกจาก trajectory เก่า 359,593 เส้น ดัน Qwen3.5-27B บน Terminal-Bench 2.1 ขึ้น 11.9 จุด แต่เวิร์กสเปซที่รีเพลย์ได้จริงมีโค้ดมัธยฐาน 0 บรรทัด

3 ก.ย. 2026 ทีม Qwen ของ Alibaba เผยแพร่ Terminal-Universe — กรอบงานที่รีเพลย์การกระทำต่อไฟล์ใน trajectory ของเอเจนต์เก่าเพื่อสร้างเวิร์กสเปซที่รันได้ใหม่ ได้ 37,273 สภาพแวดล้อม และ SFT ทำให้ Qwen3.5-27B ขึ้นจาก 46.2% เป็น 58.1% บน Terminal-Bench 2.1 แต่ไฟล์ส่วนใหญ่ในเวิร์กสเปซมาจากเอเจนต์เติม ไม่ใช่จากการรีเพลย์

· อ่าน 8 นาที
Harvey Tenet: บริษัทกฎหมาย AI เอา Kimi K3 มาเทรนต่อเอง แทนที่จะเช่าโมเดลแนวหน้า — 150 ใบ B300 นาน 2 เดือน แลกกับงานยาวที่ทำจบเพิ่มเกือบเท่าตัว
โมเดลใหม่

Harvey Tenet: บริษัทกฎหมาย AI เอา Kimi K3 มาเทรนต่อเอง แทนที่จะเช่าโมเดลแนวหน้า — 150 ใบ B300 นาน 2 เดือน แลกกับงานยาวที่ทำจบเพิ่มเกือบเท่าตัว

Harvey ประกาศเมื่อ 20 ส.ค. 2026 ว่าได้ post-train โมเดลของตัวเองชื่อ Tenet บนฐาน Kimi K3 ร่วมกับ Fireworks — ทำงานกฎหมายยาวจบได้เกือบสองเท่าของ K3 ตัวเปล่า ขึ้นอันดับ 1 บน LAB: Contracts และเปิดสูตรครบตั้งแต่ GSPO + LoRA rank-64 ไปจนถึงจำนวน GPU ที่ใช้

· อ่าน 8 นาที
ทำไม AI detector ยังจับข้อความ LLM ได้ ทั้งที่โมเดลเทรนจากข้อความมนุษย์ล้วน — คำตอบอยู่ที่ post-training ไม่ใช่ pretraining
งานวิจัย

ทำไม AI detector ยังจับข้อความ LLM ได้ ทั้งที่โมเดลเทรนจากข้อความมนุษย์ล้วน — คำตอบอยู่ที่ post-training ไม่ใช่ pretraining

20 ส.ค. 2026 Bradley Emi ซีทีโอ Pangram อธิบายว่าเหตุผลที่ตัวตรวจจับข้อความ AI ยังทำงานได้ ไม่ใช่เพราะโมเดลเขียนไม่เหมือนมนุษย์ตั้งแต่แรก แต่เพราะขั้นตอน post-training บีบการกระจายความน่าจะเป็นให้แคบลงจนโมเดล "มีนิสัย" — เป็นข้อโต้แย้งที่นักพัฒนาควรอ่าน แม้ผู้เขียนจะขายตัวตรวจจับเองก็ตาม

· อ่าน 6 นาที
Z.ai ปล่อย GLM-5.3 — เบสโมเดลตัวเดิม แต่ post-training ล้วน ๆ ดัน Terminal-Bench 3.0 จาก 4.6 เป็น 28.3 และแซง GPT-5.6 Sol บน CyberGym โดยที่น้ำหนักยังไม่ปล่อย
โมเดลใหม่

Z.ai ปล่อย GLM-5.3 — เบสโมเดลตัวเดิม แต่ post-training ล้วน ๆ ดัน Terminal-Bench 3.0 จาก 4.6 เป็น 28.3 และแซง GPT-5.6 Sol บน CyberGym โดยที่น้ำหนักยังไม่ปล่อย

14 ส.ค. 2026 Z.ai เปิดตัว GLM-5.3 ที่ใช้เบสโมเดลเดียวกับ GLM-5.2 ทุกอย่างที่ดีขึ้นมาจาก post-training อย่างเดียว — Terminal-Bench 3.0 กระโดดจาก 4.6 เป็น 28.3 และ CyberGym 84.5% แซง GPT-5.6 Sol แต่ ณ ตอนนี้ยังไม่มีทั้งน้ำหนักบน Hugging Face และราคา API

· อ่าน 7 นาที
Google เปิดสถาปัตยกรรม Tunix สำหรับ agentic RL — แก้ปัญหา TPU นั่งว่างรอ tool ด้วย async rollout และ pipeline ไร้ barrier
เครื่องมือนักพัฒนา

Google เปิดสถาปัตยกรรม Tunix สำหรับ agentic RL — แก้ปัญหา TPU นั่งว่างรอ tool ด้วย async rollout และ pipeline ไร้ barrier

Google Developers Blog เผยแพร่บทวิเคราะห์เชิงลึก (21 ก.ค. 2026) อธิบายว่า Tunix ไลบรารี post-training แบบ JAX-native จัดการคอขวดของ agentic RL อย่างไร — เมื่อ agent หยุดรอ tool call หรือ web search แล้ว accelerator นั่งว่าง ทางแก้คือ async rollout ด้วย asyncio, pipeline แบบ producer-consumer ที่ไม่มี barrier และการต่อกับ vLLM-TPU / SGLang-Jax

· อ่าน 6 นาที
Google เปิดสูตร 'สอน Gemma ให้คิด' จาก Tunix Hackathon — โมเดลเล็ก 1-2B ฝึก reasoning ได้บน TPU ฟรี 9 ชั่วโมง
เครื่องมือนักพัฒนา

Google เปิดสูตร 'สอน Gemma ให้คิด' จาก Tunix Hackathon — โมเดลเล็ก 1-2B ฝึก reasoning ได้บน TPU ฟรี 9 ชั่วโมง

Google เผยสูตร post-training จาก Tunix Hackathon บน Kaggle ที่มีผู้เข้าแข่งกว่า 11,000 คน พิสูจน์ว่าชุมชนสามารถฝึกโมเดลเล็ก (Gemma-2-2B, Gemma-3-1B) ให้ทำ general reasoning ได้ด้วยงบ compute จำกัด — TPU v5e-8 ฟรีบน Kaggle เพียง 9 ชั่วโมง — โดยผสาน SFT, GRPO และ SimPO เป็น recipe แบบ open-source ที่ทำซ้ำได้จริง

· อ่าน 6 นาที
งานวิจัยใหม่ — RL ที่ใช้ฝึก LLM ให้ "reasoning" ไม่ได้สอนอะไรใหม่ แค่ปรับน้ำหนัก top-5 ที่จุดตัดสินใจที่ "entropy สูง" (1–3% ของ token เท่านั้น) — ReasonMaxxer ทำได้เท่า full RL แต่ใช้ทรัพยากรน้อยกว่า ~1000 เท่า
งานวิจัย

งานวิจัยใหม่ — RL ที่ใช้ฝึก LLM ให้ "reasoning" ไม่ได้สอนอะไรใหม่ แค่ปรับน้ำหนัก top-5 ที่จุดตัดสินใจที่ "entropy สูง" (1–3% ของ token เท่านั้น) — ReasonMaxxer ทำได้เท่า full RL แต่ใช้ทรัพยากรน้อยกว่า ~1000 เท่า

7 พ.ค. — Ömer Faruk Akgül และทีมจาก USC ปล่อยเปเปอร์ **"Rethinking RL for LLM Reasoning: It's Sparse Policy Selection, Not Capability Learning"** บน arXiv (2605.06241) — token-level analysis ข้าม **3 model family + 6 scale + 6 math benchmark** พบว่า RL ไม่ได้สอน reasoning strategy ใหม่ ๆ ให้ LLM — แค่ **"shift probability mass"** ไปยัง path ที่ base model มีอยู่แล้ว — และ effective correction เกิดที่ **1–3% ของ token positions** ซึ่งเป็นจุด **entropy สูง** ที่โมเดลไม่แน่ใจว่าจะแตก branch ไหน — ทีมเสนอ **ReasonMaxxer** วิธี RL-free ที่ใช้ contrastive loss เฉพาะที่ entropy-gated decision points — match หรือเกิน full RL โดยใช้ **โจทย์หลักสิบข้อ + GPU เดียวไม่กี่นาที** — ลดต้นทุนการฝึก ~3 orders of magnitude

· อ่าน 7 นาที