แท็ก
5 บทความ
1 ต.ค. 2026 Unsloth ปล่อย v0.1.902-beta ที่เทรน LoRA บนเช็กพอยต์ 4-bit แบบ NVFP4, INT4 และ MXFP4 ได้โดยเก็บน้ำหนักไว้ในรูป packed ตลอดการเทรน Qwen3.8-27B-NVFP4 ใช้หน่วยความจำพีก 40.2 GB แทน 72.9 GB และ INT4 ไม่ถูกแปลงซ้ำเป็น NF4 อีกต่อไป พร้อมคำสั่ง unsloth eval และ command palette
25 ส.ค. 2026 Multiverse Computing เผยแพร่สูตร Quantization-Aware Healing บนบล็อก Hugging Face — แทนที่จะเทรนโมเดลที่บีบแล้วให้ไล่ตามเช็กพอยต์ bf16 ของตัวเอง ให้กลั่น KL จากโมเดลต้นฉบับก่อนบีบโดยตรง ผลคือรุ่น MXFP4 ชนะรุ่น bf16 ของสถาปัตยกรรมเดียวกันใน 7 จาก 9 เบนช์มาร์ก และเข้าที่ในราว 100 สเต็ป เทียบกับ 700 สเต็ปของ QAT ปกติ
เปเปอร์ Lost in Compaction จาก Penn State (พรีปรินต์ 31 ก.ค. 2026 ที่เพิ่งถูกพูดถึงในสัปดาห์นี้) วัดพบว่าเมื่อระบบ agent ย่อ context คำสั่งกำกับพฤติกรรมแบบ "ยืนยันกับฉันก่อนทุกครั้ง" เหลือรอดเฉลี่ยเพียง 17% และวิธีย่อแบบไม่ใช้ LLM เหลือ 0% — พร้อมเสนอโมดูลเสริมที่ดันกลับไปเกิน 90%
10 ส.ค. 2026 ทีม Multiverse Computing เผยแพร่บน Hugging Face ว่าการแคช top-100 logits ของครูไว้ล่วงหน้า บวกกับ KL loss แบบ fused chunked ทำให้การกลั่นความรู้ที่เคยกิน 4 โหนด GPU ย่อลงเหลือ GPU ตัวเดียว และเร็วขึ้นราว 5 เท่าต่อสเต็ป
Google Cloud API Gateway เพิ่มความสามารถ model routing แบบ Public Preview (4 ส.ค.) — รับ request รูปแบบ OpenAI แล้วแปลง schema ส่งต่อไป Gemini, Claude หรือ GPT-OSS โดยกำหนดผ่าน OpenAPI ธรรมดา แต่ backend ทุกตัวใน router เดียวกันต้องอยู่บน host เดียวกัน