ความเห็น
"ทุกคนกำลังสร้าง LLM router — เราปิดของเราทิ้ง" Manifest เล่าบทเรียน 4 เดือนกับผู้ใช้ 7,000 ราย ว่าทำไมการเลือกโมเดลอัตโนมัติถึงไม่คุ้ม
31 กรกฎาคม 2026 Bruno Perez จาก Manifest เขียนอธิบายว่าทำไมบริษัทถึงเลิกทำ LLM router ที่เปิดตัวเมื่อมีนาคม หลังใช้งานจริง 4 เดือนกับผู้ใช้คลาวด์ 7,000 ราย — ข้อสรุปคือความซับซ้อนของงานอ่านไม่ได้จาก prompt, prefix cache ลดต้นทุนได้มากกว่า (cache read ถูกกว่า 75-90%) และการสลับโมเดลกลางทางทำลายความสม่ำเสมอของพฤติกรรม
· อ่าน 6 นาที