เครื่องมือนักพัฒนา
Cloudflare เปิดตัวเลขจริงของการรีดโมเดลเปิดลง GPU — FP8 KV cache ดัน Kimi K2.6 จาก 686K เป็น 1.37M token, INT4 ย่อ GLM 5.2 จาก 705GB เหลือ 421GB
Cloudflare เผยเทคนิคสามชั้นที่ใช้เสิร์ฟ Kimi K2.6 และ GLM 5.2 บน Workers AI — บีบ KV cache เป็น FP8 เพิ่ม context ที่ค้างในหน่วยความจำได้เท่าตัว, บีบน้ำหนัก GLM เป็น INT4 ลดเช็คพอยต์ 40% และเพิ่ม decode สูงสุด 55% พร้อมตารางเบนช์มาร์กที่บอกว่าความแม่นยำไม่ตก
· อ่าน 7 นาที