TPU 8t + TPU 8i — Google แยก chip เป็น 2 ตัวเป็นครั้งแรกใน 10 ปี Sunfish สำหรับ train, Zebrafish สำหรับ inference

Google ประกาศ TPU 8th generation ที่ Cloud Next 2026 พร้อมการเปลี่ยนกลยุทธ์ครั้งใหญ่ — แยก silicon สำหรับ training กับ inference เป็นครั้งแรกในประวัติศาสตร์ 10 ปีของโปรแกรม TPU

• TPU 8t (code name “Sunfish”) — training, ออกแบบร่วมกับ Broadcom
• TPU 8i (code name “Zebrafish”) — inference, ออกแบบร่วมกับ MediaTek

ทั้งสองจะผลิตบน TSMC 2nm และส่งมอบ late 2027

ทำไมต้องแยก

ตั้งแต่ TPU v1 ถึง v7 (Ironwood) Google ใช้ชิปเดียวรับทั้ง training และ inference — เพราะสมัยนั้น workload ใกล้เคียงกัน แต่ยุค agentic AI ที่ inference คิดเป็น 80–90% ของ token ทั้งหมด โจทย์ของ inference กับ training ต่างกันมาก:

• Training — ต้องการ memory bandwidth สูง, interconnect หนาแน่น, ขนาดใหญ่พอใส่ model + gradient + optimizer state
• Inference — ต้องการ cost per token ต่ำ, latency นิ่ง, memory เพียงพอให้เก็บ agent working set (conversation history, tool state)

TPU 8t — Sunfish (training)

• ออกแบบกับ Broadcom
• 2.8× price/performance ดีกว่า Ironwood (TPU v7)
• 121 exaflops ต่อ pod — scale ได้ถึง 9,600 TPU ต่อ superpod, 2 PB shared high-bandwidth memory
• เป้าหมาย: “ลด frontier model development cycle จากเดือนเหลือสัปดาห์”

TPU 8i — Zebrafish (inference)

• ออกแบบกับ MediaTek
• 80% performance per dollar ดีกว่า training variant สำหรับงาน inference
• 288 GB HBM + 384 MB on-chip SRAM — พอเก็บ agent working set ทั้งตัวบน chip ไม่ต้อง spill ลง memory
• Architecture เรียบง่าย: single compute die + one I/O die + 6 stacks of HBM3e
• 20–30% cost ต่ำกว่า TPU 8t สำหรับ inference เทียบ chip-to-chip

มุมมอง AI Curator

การแยก TPU เป็น 2 ตัวคือ การเลียนแบบกลยุทธ์ของ Nvidia ที่ทำ B200 (training) กับ L40S (inference) แยกกัน — แต่ Google มาช้าและกำลังไล่ตาม ไม่ใช่นำ

สิ่งที่สำคัญกว่า specs — supply chain strategy — Google เลือก Broadcom สำหรับ training + MediaTek สำหรับ inference เป็นสัญญาณว่า Google ต้องการ ลด dependency จาก supplier เดียว และกำลังกระจาย risk ข้ามหลายเฟาวน์ดรี พาร์ทเนอร์

เปรียบเทียบกับ Nvidia — NVDA ยังครอง 80%+ ของ AI accelerator market GB300 (Blackwell Ultra) ยังเป็นทางเลือกหลักของ OpenAI และ Thinking Machines Lab ที่ไม่มีทางย้ายไป TPU เร็ว ๆ นี้ Google รู้ตัวดี จึงยังให้บริการ A4X Max VMs ที่ใช้ NVIDIA GB300 คู่กับ TPU เพื่อให้ customer เลือก

ผลต่อราคา AI ในระยะยาว — การที่ Google reducing inference cost 20–30% ทุก 2 ปีจะบีบให้ OpenAI, Anthropic ต้องลดราคาตาม — ดีสำหรับ end user และ startup ใน SEA ที่ operate บน thin margin

ผลต่อประเทศไทย — TPU 8i สำหรับ inference จะเข้าถึงได้ผ่าน Vertex AI (ตอนนี้ชื่อ Gemini Enterprise) ที่ไทยมี region แล้ว (asia-southeast1) หมายความว่า inference cost ของ Thai enterprise จะลดลงตามเมื่อ TPU 8i เข้าสู่ production ปี 2028 แต่ startup ไทยที่ใช้ LLM อยู่แล้ววันนี้ยังต้องพึ่ง Nvidia ผ่าน provider อย่าง Together AI, Fireworks ไปอีก 1–2 ปี

ความเสี่ยงเชิงกลยุทธ์ — การที่ TPU 8t/8i ยังต้องรอถึง late 2027 — 18 เดือนนับจากวันนี้ — ในระหว่างนี้ Nvidia จะได้ออก Rubin Ultra (ตัวถัดไปจาก Blackwell Ultra) อีกรอบ Google อาจตาม Nvidia ไม่ทัน ถ้า timeline เลื่อนแม้แต่ไตรมาสเดียว

คำถามที่ต้องถาม — ทำไม Google ไม่ประกาศ TPU 8t/8i ให้ available ทันที? เหตุผลคือ yield ของ 2nm node และความพร้อมของ Broadcom/MediaTek ซึ่งแปลว่า roadmap ของ Google ผูกติดกับ cadence ของ TSMC 2nm ที่ตอนนี้ยังไม่แน่ชัด

---

แหล่งข่าว: Google Blog — 8th Gen TPU · Sundar Pichai Cloud Next Recap · Implicator — Split TPU 8 strategy