ข้ามไปยังเนื้อหา

แท็ก

#LiteRT

5 บทความ

Antigravity SDK รันเอเจนต์บนโมเดลในเครื่องได้แล้ว — Gemma 4 26B ผ่าน LiteRT แบบออฟไลน์ และต่อกับ Ollama, LM Studio หรือ vLLM ได้
เครื่องมือนักพัฒนา

Antigravity SDK รันเอเจนต์บนโมเดลในเครื่องได้แล้ว — Gemma 4 26B ผ่าน LiteRT แบบออฟไลน์ และต่อกับ Ollama, LM Studio หรือ vLLM ได้

Google เพิ่ม LiteRTAgentConfig และ LocalOpenAIAgentConfig ใน Antigravity SDK (Python) ทำให้ harness ตัวเดียวกับ Google Antigravity รันบน Gemma 4 26B A4B ในเครื่องได้โดยไม่ต้องต่อเน็ต หรือต่อกับเซิร์ฟเวอร์ที่ใช้ API แบบ OpenAI เช่น Ollama, LM Studio และ vLLM แนะนำให้มีหน่วยความจำ GPU หรือ unified memory มากกว่า 24GB

· อ่าน 5 นาที
ADK for Kotlin 1.0 ขึ้น GA — เอเจนต์ที่คอมไพล์สคีมาตอนบิลด์ ไม่ใช้ reflection ตอนรัน และรันโมเดลบนเครื่องผู้ใช้ผ่าน Gemini Nano กับ LiteRT-LM
เครื่องมือนักพัฒนา

ADK for Kotlin 1.0 ขึ้น GA — เอเจนต์ที่คอมไพล์สคีมาตอนบิลด์ ไม่ใช้ reflection ตอนรัน และรันโมเดลบนเครื่องผู้ใช้ผ่าน Gemini Nano กับ LiteRT-LM

9 ก.ย. Google ประกาศ ADK for Kotlin 1.0 บนบล็อกนักพัฒนา หลังแท็ก v1.0.0 ขึ้น GitHub ไปแล้วเมื่อ 7 ก.ย. — จุดที่ต่างจาก ADK ภาษาอื่นคือใช้ KSP สร้างสคีมาของทูลตอนคอมไพล์จึงไม่มี reflection ตอนรัน และมีส่วนขยายฝั่ง Android ที่ให้เอเจนต์ทั้งตัวรันบนเครื่องผู้ใช้ผ่าน Gemini Nano หรือ LiteRT-LM

· อ่าน 6 นาที
Desert Ant Labs เปิดตัวพร้อม 18 โมเดลจิ๋วรันบนเครื่อง — ฟรีถึงแสนเครื่องต่อเดือน แต่ไลเซนส์เป็น source-available ไม่ใช่โอเพนซอร์ส และเรือธง Voz ลงได้เฉพาะ Apple
โมเดลใหม่

Desert Ant Labs เปิดตัวพร้อม 18 โมเดลจิ๋วรันบนเครื่อง — ฟรีถึงแสนเครื่องต่อเดือน แต่ไลเซนส์เป็น source-available ไม่ใช่โอเพนซอร์ส และเรือธง Voz ลงได้เฉพาะ Apple

8 ก.ย. แล็บยุโรปจากทีมแอป Detail เปิดตัวพร้อมโมเดลเฉพาะทางขนาดเล็ก 18 ตัวที่รันบนอุปกรณ์ล้วน มี SDK ครบทั้ง Swift Kotlin และ JavaScript ฟรีจนถึง 100,000 เครื่องแอ็กทีฟต่อเดือน — แต่พออ่านไลเซนส์กับรีโปจริงจะพบว่าเป็น source-available ที่ห้ามเอาไปเทรนคู่แข่ง มีแค่ 12 ตัวที่ลงมือใช้ได้วันนี้ และตัวที่เด่นที่สุดสี่ตัวรวมทั้ง Voz รองรับเฉพาะแพลตฟอร์มของ Apple

· อ่าน 8 นาที
Gemma 4 E2B วิ่งบน Raspberry Pi 5 ได้แล้ว — Google เปิดตัวเลขจริง decode 9 โทเคน/วินาที กินแรม 1.4GB ติดตั้งด้วยสองคำสั่ง
เครื่องมือนักพัฒนา

Gemma 4 E2B วิ่งบน Raspberry Pi 5 ได้แล้ว — Google เปิดตัวเลขจริง decode 9 โทเคน/วินาที กินแรม 1.4GB ติดตั้งด้วยสองคำสั่ง

11 ส.ค. 2026 Google ร่วมกับ Raspberry Pi Ltd และ Igalia เผยแพร่คู่มือรัน Gemma บน Raspberry Pi 5 ด้วย LiteRT พร้อมตัวเลขวัดจริง — Gemma 4 E2B ทำ prefill 99 โทเคน/วินาที decode 9 โทเคน/วินาที ใช้แรมสูงสุด 1,432 MB และติดตั้งได้ด้วยคำสั่งเดียวจาก Hugging Face

· อ่าน 5 นาที
Google เปิดตัว LiteRT.js — รันโมเดล .tflite ในเบราว์เซอร์ เร็วกว่า runtime เว็บอื่นถึง 3 เท่า
เครื่องมือนักพัฒนา

Google เปิดตัว LiteRT.js — รันโมเดล .tflite ในเบราว์เซอร์ เร็วกว่า runtime เว็บอื่นถึง 3 เท่า

Google ปล่อย LiteRT.js เมื่อ 9 ก.ค. 2026 — JavaScript binding ของ LiteRT ที่รันโมเดล .tflite ในเบราว์เซอร์ผ่าน XNNPACK, WebGPU และ WebNN อ้างว่าเร็วกว่า runtime เว็บอื่นได้ถึง 3 เท่า และเร็วกว่าการรันบน CPU ล้วน 5–60 เท่าเมื่อใช้ GPU/NPU

· อ่าน 5 นาที