แท็ก
2 บทความ
Google ขยาย Genkit ด้วย Middleware API ให้นักพัฒนาแทรกการ retry, fallback, การอนุมัติของมนุษย์ และ observability ลงในวงรอบการเรียกเครื่องมือของ agent โดยตรง รองรับ TypeScript / Go / Dart และ Python ตามมา — เปิดตัว 1 สัปดาห์ก่อน Google I/O 2026
ช่วงต้นเดือน พ.ค. 2026 ทีม **Genkit (Google)** ปล่อย **`generateMiddleware()` API** ใน `genkit/beta` — เป็น primitive ที่ให้ developer **intercept agent loop ได้ 3 ระดับ**: `model` hook (wrap การเรียก model), `tool` hook (wrap การ execute tool), และ `generate` hook (wrap แต่ละ turn ของ agentic loop) — ทำงานเหมือน **Express middleware แต่สำหรับ LLM inference** — Pavel Janicki (Genkit team lead) เปิด `genkitx-misc` ที่มี middleware 3 ตัวที่แก้ปัญหา agent loop จริง: **`softFail`** กัน crash จาก model 503/tool error/maxTurns ให้ return aborted response แทน throw, **`smartMaxTurns`** detect loop ผ่าน hash + LLM judge แทนการนับ turn อย่างเดียว, **`contextCompression`** ลด token usage ผ่าน tool-response truncation + summarization — ทั้งหมด stack ได้แบบ `use: [softFail(), smartMaxTurns(), contextCompression()]`