Foundry Local 1.1 — Microsoft ปล่อย Live Transcription, Embeddings และ Responses API บน on-device runtime

วันที่ 12 พฤษภาคม 2026 Microsoft ประกาศบน Microsoft Foundry Blog ว่าได้ปล่อย Foundry Local 1.1 — ก้าวต่อจาก GA ที่เพิ่งประกาศไปก่อนหน้านี้ — เพิ่ม 3 ฟีเจอร์หลักที่ทำให้ on-device AI runtime ของ Microsoft กลายเป็นทางเลือกที่ใช้ได้จริงสำหรับนักพัฒนาที่ต้องการ generative AI โดยไม่พึ่ง cloud และไม่จ่าย per-token cost

1. Live Transcription API บน Nemotron Speech Streaming

ฟีเจอร์เด่นที่สุดของรอบนี้คือ streaming speech-to-text ที่รัน on-device — Microsoft ทดสอบ 50+ configuration ครอบคลุม encoder-decoder, transducer และ LLM-based ASR (Whisper, Nemotron, Parakeet TDT, Canary, Conformer Transducer, Qwen3-ASR) ทั้งใน batch/chunked/streaming mode แล้วเลือก NVIDIA Nemotron Speech Streaming เป็นโมเดล champion

ผลของการ optimize หนัก — Microsoft re-implement pipeline ใน ONNX Runtime แล้ว apply quantization หลายเทคนิค (importance-weighted k-quant, mixed-precision, round-to-nearest) บวกกับ graph-level operator fusion ลด model size จาก 2.47 GB เหลือเพียง 0.67 GB โดยที่ WER ห่างจาก full-precision PyTorch baseline ไม่ถึง 1%

Config ที่ recommend คือ int4 k-quant variant ที่ทำ streaming WER เฉลี่ย 8.20% ใน 8 benchmark มาตรฐาน, รัน faster-than-real-time บน CPU ด้วย algorithmic latency 0.56 วินาที — เปิด session ใช้กับ pyaudio หรือ binding ใน C#/JS/Rust ก็ได้ โมเดลอยู่ใน catalog ในชื่อ nemotron-speech-streaming-en-0.6b

2. Embeddings API กับ Qwen3-Embedding-0.6B

Foundry Local 1.1 รองรับ embedding generation ครบทั้ง 4 SDK (C#, JS, Python, Rust) ด้วย response format ที่ทำตาม OpenAI Embedding API spec — port code จาก cloud มา local ได้โดยแก้ base_url ตัวเดียว

ในตัวอย่างที่ Microsoft ให้ใช้ ChromaDB + Foundry Local เป็น semantic search local stack สมบูรณ์ — embed 10 documents เข้า in-memory collection แล้ว query ด้วย natural language ทั้งหมดบน machine ผู้ใช้ ไม่มี request ออกอินเทอร์เน็ต ทำให้ RAG บน data sensitive (เอกสารทางการ, healthcare record, internal doc) ทำได้โดยไม่เสี่ยง compliance

3. Responses API + Qwen3.5 VLM สำหรับ vision

ตัวเปลี่ยน game ที่สำคัญที่สุดคือ Responses API — abstraction ระดับสูงกว่า chat completion ที่ built-in:

• Streaming ผ่าน server-sent event token-by-token
• Multi-turn conversation ผูกผ่าน previous_response_id
• Tool calling define function tool และ handle round-trip ของ call/result
• Vision input — ส่งภาพควบคู่ text ได้

Microsoft เพิ่ม Qwen3.5 VLM เข้า catalog พร้อมรอบนี้ — vision-language model ขนาด 3B/7B ที่ทำ document understanding, diagram analysis, UI screenshot interpretation และ visual QA ได้บน CPU/GPU ของ user เอง — เปิดโอกาส workflow ใหม่เช่น healthcare ที่อ่านภาพ chart โดยไม่ส่งภาพออกจากเครื่อง, dev tool ที่ใช้ screenshot debug ของ UI โดยไม่ leak data ไป cloud

รายละเอียดอื่น ๆ ที่นักพัฒนาควรรู้

• WebGPU EP ถูกแยกเป็น plugin แยก (ไม่ bundle default แล้ว) — ลดขนาด default package บน Windows
• JS SDK ลดขนาดติดตั้ง ~27 MB โดยเปลี่ยนจาก koffi FFI เป็น Node-API C addon prebuilt — ไม่ต้องมี C toolchain ตอน npm install แล้ว
• C# SDK ลด target framework: Microsoft.AI.Foundry.Local ลงไปที่ netstandard2.0 (เคยเป็น net9.0) — รองรับถึง .NET Framework 4.6.1+, Mono, Xamarin, Unity ทั้งหมด ส่วน Microsoft.AI.Foundry.Local.WinML ลงไปที่ net8.0
• Roadmap ถัดไป — C++ binding (มี early ใน GitHub แล้ว), ขนาด runtime เล็กลงอีก, word/segment-level timestamp และเพิ่มภาษาให้ live transcription

มุมมอง AI Curator

Foundry Local 1.1 ไม่ใช่ release ที่ “ใหญ่” ในเชิงตลาด — เพราะ on-device AI ยังเป็น niche เมื่อเทียบกับ cloud — แต่เป็น release ที่ ส่งสัญญาณยุทธศาสตร์ระยะยาวของ Microsoft ที่ Google/Anthropic ยังไม่มี cleanly

หนึ่ง — Microsoft กำลังสร้าง parity ของ API ระหว่าง cloud กับ edge ที่ developer ไม่ต้องเปลี่ยน code Responses API หน้าตาเดียวกับ Azure OpenAI Service — ทำให้ภาพ multi-tier deployment (hot cloud, warm edge, cold device) เริ่มเป็น reality ใน 2026 ไม่ใช่ 2030 นี่เป็นจุดที่ Google ยังตามไม่ทัน เพราะ Gemini Nano บน Android กับ Gemini Pro บน cloud มี API surface ที่ต่างกันมาก

สอง — Live Transcription บน Nemotron ใน 0.67 GB เป็น breakthrough ที่ underappreciated สำหรับงานไทย/SEA: ถ้า WER 8.2% scale ไปภาษาไทย/อินโดนีเซีย/เวียดนามได้เมื่อ Microsoft เพิ่ม language ตาม roadmap จะกลายเป็นทางเลือก dictation/meeting transcription แบบ on-device ที่แข่งกับ Whisper-large ได้ในเรื่อง quality แต่ใช้ทรัพยากรน้อยกว่า 4 เท่า — เปิดทาง use case ระดับ enterprise ในอุตสาหกรรมที่ data residency strict เช่น financial service ในไทยที่มี BoT guideline กับ public hospital ที่อยู่ภายใต้ PDPA

สาม — Responses API + tool calling + vision ที่ on-device เป็นสิ่งที่ agent framework ระดับ desktop ต้องการพอดี Microsoft Copilot/Copilot Studio และอนาคต Microsoft 365 Agent จะอาศัยตัวนี้เป็น runtime สำหรับ “private agent” ที่ enterprise customer ขอให้ทำงานบน workstation พนักงานโดยไม่ส่งข้อมูลออก — เป็น differentiation ที่ Google Workspace + Gemini ยังไม่มี

สี่ — ผลกระทบต่อ developer ไทย ที่ build app on-device จะเริ่มเห็น path ใหม่: app desktop ที่ใช้ AI feature โดยไม่ต้องมี backend, ไม่ต้องเก็บ API key, ไม่ต้อง pay-per-token นี่ลด barrier ของ indie developer ในการ ship product ที่มี AI feature สู่ตลาดไทยที่ user ส่วนใหญ่ยังไม่ยินดีจ่ายค่า subscription — รุ่นต่อไปของ desktop tool ระดับ shareware/freemium จะใช้ Foundry Local เป็น engine

ระวังจุดอ่อน — Foundry Local ยัง Windows/macOS/Linux x64 เท่านั้น (ยังไม่ ARM Linux ที่ Raspberry Pi/Jetson ใช้) และ catalog ยังจำกัดที่โมเดลที่ Microsoft optimize เอง — ถ้าต้องการ open-weight ที่ใหม่กว่า (Llama 4, DeepSeek R2) ต้อง wait pipeline integration ที่มัก lag 2-3 สัปดาห์ — เป็น tradeoff ที่นักพัฒนาต้องรู้ก่อนจะลงแบบจริงจัง

แหล่งข่าว

• Foundry Local 1.1: Live Transcription, Embeddings, and Responses API — Microsoft DevBlogs (Foundry)
• Foundry Local is now Generally Available — Microsoft DevBlogs (Foundry)
• Foundry Local on GitHub