Google AI Edge + Arm SME2 รัน Stable Audio Open บน CPU มือถือ — เร็วขึ้น 2 เท่า ใช้ RAM น้อยลง 4 เท่า

14 พฤษภาคม 2026 ทีม Google AI Edge ร่วมกับ Arm ปล่อยบทความวิศวกรรมยาวบน Google Developers Blog ว่าด้วยการ optimize on-device generative AI บน CPU มือถือสมัยใหม่ที่มี Arm Scalable Matrix Extension 2 (SME2) ผ่าน software stack ของ Google — LiteRT, XNNPACK, KleidiAI, AI Edge Quantizer และ Model Explorer ผลคือทำให้โมเดล diffusion ขนาด ~1B พารามิเตอร์ของ Stability AI ที่ชื่อ Stable Audio Open Small สามารถ generate เสียง 11 วินาทีบนสมาร์ตโฟนได้ในเวลาราว 6.6 วินาที ด้วย 1 thread

นี่คือเดโม่สำคัญก่อน Google I/O 2026 (19–20 พ.ค.) ที่บอกชัดเจนว่า on-device multimodal AI กำลังย้ายจากสาธิตในห้องวิจัยมาสู่ production บนอุปกรณ์ที่ผู้ใช้พกได้

Pipeline สามขั้น: Convert → Optimize → Deploy

1. Convert — LiteRT-Torch แปลง PyTorch model ไปเป็น .tflite โดยรับ quantization config (เช่น INT8 แบบ dynamic per-channel) ได้ตั้งแต่ขั้น convert ลดความขัดแย้งระหว่าง research environment กับ mobile runtime

2. Optimize — Model Explorer มี node data overlay ใหม่ที่ทำให้นักพัฒนา เห็นว่าเลเยอร์ไหนปลอดภัยจะ quantize (สีเขียวคือ error ต่ำ) จากนั้นใช้ AI Edge Quantizer ลดจาก FP32 ไป INT8 ตามสูตรที่กำหนด — ในเคสนี้ DiT submodule ลดขนาด ~4 เท่า เร็วขึ้น 3 เท่าโดยคุณภาพเสียงคง perceptual parity กับ FP32

3. Deploy — LiteRT รัน inference ผ่าน XNNPACK delegate ซึ่ง integrate KleidiAI micro-kernels ของ Arm มาให้ตั้งแต่แรก จึงเรียกใช้ SME2 matrix unit อัตโนมัติบนชิปที่รองรับ — นักพัฒนาไม่ต้องเขียน assembly เอง

ตัวเลขที่ Google โชว์

• iOS/macOS (M4): จาก 10 วินาที → 4.3 วินาที (ลด 2.3 เท่า)
• Android (SME2): จาก 14 วินาที → 6.6 วินาที ที่ 1 thread (ลด 2.1 เท่า)
• DiT memory: ลด ~4 เท่า ทำให้ inference RAM headroom พอสำหรับโมเดลอื่นทำงานพร้อมกัน
• SME2 vs NEON: SME2 ให้ performance > 2 เท่าของ NEON สำหรับ matrix workload ของ generative AI

โค้ดและ sample app เปิดเผยที่ Arm-Examples/ML-examples รัน Stable Audio Open ได้บน Android และ macOS

ทำไมเรื่องนี้สำคัญ

ปกติเรามองว่า on-device AI ต้องพึ่ง NPU หรือ GPU เฉพาะ แต่ SME2 เป็น instruction set ที่ฝังในตัว CPU ทำให้ device รุ่นใหม่จำนวนมาก (Android flagship, Apple Silicon) ได้ matrix accelerator ฟรีในตัวอยู่แล้ว ที่นักพัฒนา reach ได้ผ่าน LiteRT โดยไม่ต้องเขียน vendor SDK เฉพาะแบรนด์ — ลด fragmentation ของ edge AI ลงอย่างมหาศาล

มุมมอง AI Curator

สำหรับนักพัฒนาแอปไทยที่ทำงานบน on-device AI — ผู้ช่วยเสียง, real-time translation, AI camera, voice cloning — pipeline นี้คือเครื่องมือสำคัญที่ทำให้ราคา compute ต่อรายผู้ใช้ลดเหลือ “ใกล้ศูนย์” หลังจ่ายค่าพัฒนาแล้ว ไม่ต้องส่ง audio ขึ้น cloud หรือจ่ายค่า API ต่อ token

โมเดลที่ตัวอย่างสาธิตคือ stable-audio-open-small ขนาด ~1B พารามิเตอร์ — ระดับเดียวกับ Gemma 3 Nano, Phi-4 Mini หรือ Qwen3 1.5B ที่นักพัฒนาไทยใช้ทดลองอยู่แล้ว ถ้าใช้ pipeline เดียวกันก็ port ได้ทันที

ที่น่าสนใจกว่าคือ — Google I/O 2026 จะเริ่ม 19 พ.ค. และ Apple WWDC 8 มิ.ย. ทั้งคู่กำลังขับเคี่ยวกันบนสนาม “AI ที่รันบนเครื่องผู้ใช้โดยตรง” การที่ Google เปิด tooling ฟรีและร่วมมือกับ Arm (ซึ่งทุก SoC ในตลาด ยกเว้น Apple Silicon ใช้ instruction set ของ Arm อยู่แล้ว) เป็นยุทธศาสตร์ที่ฉลาด — เพราะ Android phone ในไทยและ SEA ส่วนใหญ่จะมี SME2 ภายใน 2 รอบของ flagship cycle

ในมุมของ edge inference cost ที่ Thai SME ต้องจ่าย — ถ้า latency ลดลง 2 เท่าและ memory ลดลง 4 เท่า แปลว่า device รุ่นเก่ากว่าก็รันโมเดลรุ่นใหม่ได้ ผู้ใช้กลุ่มที่ใช้มือถือราคา 8,000–15,000 บาทก็จะเข้าถึง generative AI feature คุณภาพเดียวกับ flagship ได้เร็วกว่าที่คาด

แหล่งข่าว:

• Accelerating on-device AI: A look at Arm and Google AI Edge optimization — Google Developers Blog
• Arm Scalable Matrix Extension 2 — Arm
• Stable Audio Open Small — Stability AI on Hugging Face
• Arm KleidiAI examples — GitHub