Google เปิดสูตร 'สอน Gemma ให้คิด' จาก Tunix Hackathon — โมเดลเล็ก 1-2B ฝึก reasoning ได้บน TPU ฟรี 9 ชั่วโมง

Google Developers Blog เผยแพร่บทสรุปผลการแข่งขัน Google Tunix Hack: Train a model to show its work ซึ่งจัดบน Kaggle โดยท้าให้นักพัฒนาเปลี่ยนโมเดล base ที่ไม่มีความสามารถ reasoning (Gemma-2-2B และ Gemma-3-1B) ให้กลายเป็นโมเดลที่ทำ general reasoning ได้ ภายใต้ข้อจำกัดที่สำคัญ: ใช้ได้แค่ Kaggle TPU v5e-8 เพียง 9 ชั่วโมง เท่านั้น

ผลตอบรับล้นหลาม — มีผู้เข้าแข่งกว่า 11,000 คน และ submission คุณภาพสูงกว่า 300 ชิ้น พิสูจน์ว่า reasoning training ที่ดีพอใช้ได้ ไม่จำเป็นต้องใช้ฟาร์ม GPU ระดับองค์กร ชุมชนทำได้ด้วยงบ compute จำกัด ประเด็นนี้สำคัญเพราะแม้ frontier LLM อย่าง Gemini 3 และ open weight อย่าง Gemma 4 จะทำ Chain-of-Thought ได้ แต่ “วิธีฝึก” reasoning มักไม่ถูกเปิดเผย และ recipe ที่ทำซ้ำได้สำหรับ general reasoning (ไม่ใช่แค่งานคณิต/โค้ดที่ verify ง่าย) ยังหายาก

สูตรของผู้ชนะ: SFT + GRPO + judge model

อันดับ 1: G-RaR (Rubric-Based Reinforcement Learning) ใช้ pipeline สองสเตจ — เริ่มด้วย SFT (LoRA บนชุดข้อมูล ~33k) เพื่อให้โมเดลออกโครงสร้าง <reasoning>...</reasoning><answer>...</answer> ได้น่าเชื่อถือ จากนั้นใช้ GRPO กับ reward function แบบผสม (Format + Exact Answer + G-RaR Score) จุดเด่นคือใช้โมเดล judge ที่ใหญ่กว่า (Gemma-3-12B) ประเมินคุณภาพของขั้นตอน logic แล้วแปลงคะแนน rubric เป็น reward signal แบบต่อเนื่อง ทำให้โมเดลพัฒนา reasoning ได้แม้ในงานปลายเปิดที่ไม่มีคำตอบตายตัว ทีมยังใช้ split-mesh architecture บน TPU เดียวเพื่อรัน policy model กับ judge model คู่ขนาน

อันดับ 2: Pinocchio-1B สร้างโมเดล reasoning ใน “3 องก์” — SFT (distillation จาก teacher OSS-120B), SimPO (แทน DPO ที่กินหน่วยความจำ เพื่อบังคับ format XML แบบเข้มงวด) และ GRPO (ใช้ Gemini 2.0 Flash เป็น judge แบบ asynchronous) ทีมนี้ขยาย Tunix library เองด้วยการใส่ custom SimPO loss และสร้าง evaluation engine แบบ high-throughput

อันดับ 3: IDEA-E Distillation ใช้ curriculum-guided GRPO ร่วมกับระบบ reward แบบ TF-IDF ที่เร็ว (รันบน CPU ได้ ไม่ต้องพึ่ง LLM judge ที่ช้า) เพื่อกันโมเดล “พล่าม” (verbose yapping) โดยให้รางวัลกับการใช้คำที่ตรงบริบท

โดเมนเฉพาะทาง: แพทย์ เคมี กฎหมาย หุ่นยนต์

สิ่งที่น่าสนใจกว่าอันดับคือความหลากหลายของ submission ที่เน้น reasoning เฉพาะวงการ — มีทีมฝึก Gemma ให้ทำ clinical reasoning ทางการแพทย์, แก้โจทย์เคมีซับซ้อน, วิเคราะห์ข้อมูลกฎหมายด้วย Gemma 3 1B, ไปจนถึงการวางแผนงานหุ่นยนต์แบบ multi-step ทั้งหมดนี้ใช้แนวคิดเดียวกัน: บังคับให้โมเดลสร้าง reasoning trace แบบเป็นขั้นตอนก่อนตอบ ซึ่งช่วยทั้งความแม่นยำและ interpretability

Google ปิดท้ายด้วยการชี้ทรัพยากรให้เริ่มต้น: Tunix repository บน GitHub, Colab tutorial ที่รัน TPU ฟรี และเอกสาร RL ของ Tunix — recipe ทั้งหมดจากผู้ชนะตอนนี้เปิด public แล้ว

มุมมอง AI Curator

นี่คือข่าวที่นัก dev ไทย/SEA ควรอ่านมากที่สุดในสัปดาห์นี้ ไม่ใช่เพราะมันหวือหวา แต่เพราะมัน ลดต้นทุนการเข้าถึง reasoning model ลงเหลือเกือบศูนย์ — TPU v5e-8 บน Kaggle ฟรี, โมเดล base ขนาด 1-2B ที่รันบนเครื่องเดียวได้, และ recipe ที่ open-source ทั้งหมด หมายความว่าทีมเล็กในกรุงเทพฯ เชียงใหม่ หรือโฮจิมินห์ ก็ฝึกโมเดล reasoning เฉพาะทางของตัวเองได้โดยไม่ต้องจ่ายค่า API หรือเช่า cluster แพงๆ

ที่สำคัญกว่านั้นคือ implication เรื่อง sovereign / domain-specific AI: แทนที่จะรอ frontier model จาก OpenAI หรือ Google มารองรับภาษาไทยหรือบริบทกฎหมายไทย ทีมท้องถิ่นสามารถ distill ความสามารถ reasoning ลงในโมเดลเล็กที่ fine-tune บนข้อมูลภาษาไทย/กฎหมายไทยเองได้ — ตัวอย่าง submission สาย legal และ medical ในงานนี้พิสูจน์ว่ามันทำได้จริงด้วยงบจำกัด

ข้อควรระวัง: GRPO ที่พึ่ง LLM-as-judge ยังต้องมี judge model ที่เก่งพอ (เช่น Gemma-3-12B หรือ Gemini Flash) ดังนั้น “ฟรีจริง” เฉพาะส่วน compute แต่คุณภาพ reward ยังขึ้นกับ judge ทีมที่อยากทำตามควรเริ่มจาก recipe อันดับ 3 (TF-IDF reward) ที่ไม่ต้องพึ่ง judge model ก่อน แล้วค่อยขยับไป LLM-judge เมื่อมี resource — เป็นเส้นทางที่ประหยัดและ practical ที่สุดสำหรับทีมเริ่มต้น

แหล่งข่าว

• How the community trained Gemma to “Think” with Tunix and TPUs — Google Developers Blog
• Google Tunix Hackathon — Kaggle
• Tunix repository — GitHub