Gemma 4 E2B วิ่งบน Raspberry Pi 5 ได้แล้ว — Google เปิดตัวเลขจริง decode 9 โทเคน/วินาที กินแรม 1.4GB ติดตั้งด้วยสองคำสั่ง

เมื่อ 11 สิงหาคม 2026 Google Developers Blog เผยแพร่บทความร่วมกันระหว่างทีม LiteRT ของ Google, Raspberry Pi Ltd และ Igalia ว่าด้วยการรันโมเดล Gemma บน Raspberry Pi 5 โดยไม่ต้องต่อคลาวด์ จุดที่ทำให้บทความนี้มีค่ากว่าโพสต์ประเภท “ลองรัน LLM บนบอร์ดเล็ก” ทั่วไปคือ มันให้ตัวเลขวัดจริงครบ ทั้งความเร็ว prefill, decode และแรมที่ใช้ ซึ่งเป็นสิ่งที่คนตัดสินใจเลือกฮาร์ดแวร์ต้องการแต่หาไม่ค่อยเจอ

LiteRT คือชื่อปัจจุบันของรันไทม์ on-device ของ Google (สายเดียวกับที่เคยเรียก TensorFlow Lite) ทำหน้าที่รันทั้งโมเดล ML ทั่วไปและ LLM บนอุปกรณ์ปลายทาง โดยจัดสรรงานลงทั้ง CPU และ GPU ของบอร์ดได้

ตัวเลขที่ควรรู้ก่อนซื้อบอร์ด

Raspberry Pi 5 ที่ใช้ทดสอบมีสเปกดังนี้ — CPU ARM Cortex-A76 สี่คอร์ (ราว 153.6 GFLOPS ที่ FP32) และ GPU Broadcom VideoCore VII ที่ 800 MHz (ราว 76.8 GFLOPS ที่ FP32) สังเกตว่า GPU แรงน้อยกว่า CPU ประมาณครึ่งหนึ่ง ซึ่งอธิบายว่าทำไมในเดโมงาน LLM ถึงถูกวางไว้บน CPU

ผลวัดของ Gemma 4 E2B:

ตัวชี้วัด	ค่าที่วัดได้
Prefill	99 โทเคน/วินาที
Decode	9 โทเคน/วินาที
หน่วยความจำสูงสุด	1,432 MB
ความเร็วข้อความที่ออกมา	~27.3 ตัวอักษร/วินาที (~300 คำ/นาที)

ตัวเลข decode 9 โทเคน/วินาที ต้องอ่านให้ตรงกับความคาดหวัง — มันช้ากว่าที่คนอ่านทันเล็กน้อย ใช้ทำ chatbot ที่ตอบยาว ๆ แล้วรู้สึกลื่นไม่ได้ แต่ เพียงพอมากสำหรับงานที่ตอบสั้น เช่น สรุปสถานะ ตัดสินใจ เรียก tool หรือแปลงคำสั่งภาษาคนเป็นคำสั่งเครื่อง ส่วน prefill ที่ 99 โทเคน/วินาที แปลว่าการป้อน context ยาว ๆ เข้าไปจะกินเวลาพอสมควร ควรออกแบบ prompt ให้สั้น

ที่สำคัญคือ 1,432 MB — พอดีกับ Pi 5 รุ่น 4GB โดยยังเหลือที่ให้ระบบและงานอื่น ไม่ต้องกระโดดไปรุ่น 8GB หรือ 16GB

Gemma ห้าตัวให้เลือกตามงาน

บทความไล่ตัวเลือกที่ Google เตรียมไว้สำหรับอุปกรณ์ทรัพยากรจำกัด:

• Gemma 3 270M — เล็กที่สุด เหมาะกับการ fine-tune ให้ทำงานเฉพาะทางแคบ ๆ
• EmbeddingGemma 300M — สร้าง embedding สำหรับ RAG และการค้นแบบ semantic
• Gemma 3 1B — สร้างข้อความหลายภาษา
• Gemma 4 E2B — เน้นประหยัดหน่วยความจำ สำหรับมือถือ/edge (ตัวที่ใช้ในผลวัดข้างบน)
• Gemma 4 E4B — ความสามารถด้านการให้เหตุผลสูงขึ้น แลกกับทรัพยากรที่มากกว่า

เดโม: หุ่นยนต์ที่คิดเองได้ทั้งตัวบนบอร์ดเดียว

ส่วนที่น่าสนใจที่สุดคือเดโมกับหุ่นยนต์ Reachy Mini ซึ่งรัน pipeline สี่ชิ้นขนานกันบน Pi ตัวเดียว โดยแบ่งงานลงคนละหน่วยประมวลผล:

• ตรวจจับวัตถุ — Ultralytics YOLO วิ่งบน GPU
• รู้จำเสียงพูด — โมเดล Moonshine วิ่งบน CPU
• การให้เหตุผล — Gemma 4 E2B วิ่งบน CPU
• สังเคราะห์เสียงตอบ — TTS

นี่คือประเด็นจริงของบทความ ไม่ใช่ว่า LLM รันบน Pi ได้ (ซึ่งรู้กันมานานแล้ว) แต่คือ stack ครบวงจรตั้งแต่ตาไปถึงปาก รันพร้อมกันได้บนบอร์ด 60 ดอลลาร์โดยไม่ต่อเน็ต

การติดตั้งเหลือแค่สองบรรทัด:

pip install litert-cli
litert lm run --from-huggingface-repo=litert-community/gemma-4-E2B-it-litert-lm

Google ยังบอกด้วยว่ากำลังทำการรองรับ Hailo AI accelerator ผ่าน Raspberry Pi AI HAT+ ซึ่งจะช่วยเรื่อง throughput ที่เป็นข้อจำกัดหลักตอนนี้

มุมมอง AI Curator

ตัวเลข 9 โทเคน/วินาทีเป็นตัวเลขที่ซื่อสัตย์ และการที่ Google ยอมพิมพ์มันออกมาแทนที่จะพูดกว้าง ๆ ว่า “รันได้ดี” เป็นเรื่องที่ควรชม เพราะมันทำให้ตัดสินใจได้จริง — คนที่หวังจะเอา Pi ไปทำผู้ช่วยตอบแชทจะรู้ทันทีว่าไม่ไหว ส่วนคนที่จะเอาไปทำตัวควบคุมอุปกรณ์ที่ตอบสั้น ๆ จะรู้ว่าเหลือเฟือ ความชัดเจนแบบนี้ประหยัดเวลาคนอ่านได้เป็นสัปดาห์

สิ่งที่เปลี่ยนไปจริง ๆ ในรอบปีที่ผ่านมาไม่ใช่ความเร็ว แต่คือ การที่มันกลายเป็นเรื่องน่าเบื่อ สองปีก่อนการเอา LLM ลง Raspberry Pi คือโปรเจกต์สุดสัปดาห์ที่ต้องคอมไพล์เอง แก้ flag เอง ลุ้นว่าจะ OOM ไหม วันนี้เหลือ pip install กับคำสั่งเดียวที่ดึงจาก Hugging Face มาให้เสร็จ ความน่าเบื่อคือสัญญาณว่าเทคโนโลยีพร้อมใช้งานจริงแล้ว

สำหรับไทยและ SEA ผมคิดว่านี่เป็นข่าวที่ใช้ได้จริงมากกว่าข่าวโมเดล frontier ส่วนใหญ่ในสัปดาห์นี้ เพราะโจทย์ที่พบบ่อยในภูมิภาคคือ อุปกรณ์ที่ต้องทำงานในที่ที่เน็ตไม่ดีหรือไม่มีเลย — เครื่องตรวจในโรงงาน ระบบเกษตรในสวน ตู้บริการในพื้นที่ห่างไกล เครื่องช่วยในโรงพยาบาลชุมชน งานพวกนี้เดิมต้องเลือกระหว่าง “ไม่มี AI” กับ “ต่อคลาวด์แล้วภาวนาว่าสัญญาณจะมา” ตอนนี้มีทางที่สาม และต้นทุนฮาร์ดแวร์อยู่ในระดับที่ทดลองได้โดยไม่ต้องของบใคร

ข้อควรระวังสองข้อ: หนึ่ง Gemma รองรับหลายภาษาแต่คุณภาพภาษาไทยของโมเดลขนาด 2B ยังต้องทดสอบเองก่อนใช้งานจริง อย่าเชื่อว่า “multilingual” แปลว่าไทยดี สอง ตัวเลขในบทความวัดจากงานเดี่ยว ๆ ส่วนเดโม Reachy Mini รันสี่อย่างพร้อมกัน — throughput จริงตอนแย่งทรัพยากรกันจะต่ำกว่านี้ ถ้าจะออกแบบระบบ ให้เผื่อไว้มาก ๆ และวัดบนภาระงานจริงของตัวเองเสมอ

แหล่งข่าว

• Google Developers Blog — Mastering Edge AI on Raspberry Pi with LiteRT and Gemma (11 ส.ค. 2026)
• เอกสาร LiteRT อย่างเป็นทางการ
• LiteRT Community บน Hugging Face — โมเดลที่แปลงมาให้แล้ว