เครื่องมือนักพัฒนา
Cloudflare เปิดเผย GLM-5.3 บน Workers AI ส่งข้อมูลของผู้ใช้คนอื่นปนมาใน 155 response — prompt ยาวเกิน KV pool ของ prefill ทำให้ SGLang แบบ disaggregated อ่าน KV page ค้างเก่า แนะนำผู้รัน SGLang อัปเกรดเป็น v0.5.22
Cloudflare และทีม SGLang เปิดเผยพร้อมกันเมื่อ 26 ต.ค. 2026 ว่าระหว่าง 27 ส.ค.–9 ก.ย. โมเดล GLM-5.3 บน Workers AI ตอบ prompt ที่ยาวเกิน 681,280 token โดยมีข้อมูลจาก request ของลูกค้าคนอื่นปนมา รวม 155 response สาเหตุคือ context window ที่ตั้งไว้ 1M ใหญ่กว่า KV pool ของ prefill และบั๊กใน SGLang โหมด prefill/decode แยกเครื่อง ที่ปล่อย request ซึ่งถูก reject แล้วให้ผ่านไปถึง decode ได้ แก้แล้วใน SGLang v0.5.20–v0.5.22
· อ่าน 5 นาที