แท็ก

#SGLang

34 บทความ

Cloudflare เปิดเผย GLM-5.3 บน Workers AI ส่งข้อมูลของผู้ใช้คนอื่นปนมาใน 155 response — prompt ยาวเกิน KV pool ของ prefill ทำให้ SGLang แบบ disaggregated อ่าน KV page ค้างเก่า แนะนำผู้รัน SGLang อัปเกรดเป็น v0.5.22
เครื่องมือนักพัฒนา

Cloudflare เปิดเผย GLM-5.3 บน Workers AI ส่งข้อมูลของผู้ใช้คนอื่นปนมาใน 155 response — prompt ยาวเกิน KV pool ของ prefill ทำให้ SGLang แบบ disaggregated อ่าน KV page ค้างเก่า แนะนำผู้รัน SGLang อัปเกรดเป็น v0.5.22

Cloudflare และทีม SGLang เปิดเผยพร้อมกันเมื่อ 26 ต.ค. 2026 ว่าระหว่าง 27 ส.ค.–9 ก.ย. โมเดล GLM-5.3 บน Workers AI ตอบ prompt ที่ยาวเกิน 681,280 token โดยมีข้อมูลจาก request ของลูกค้าคนอื่นปนมา รวม 155 response สาเหตุคือ context window ที่ตั้งไว้ 1M ใหญ่กว่า KV pool ของ prefill และบั๊กใน SGLang โหมด prefill/decode แยกเครื่อง ที่ปล่อย request ซึ่งถูก reject แล้วให้ผ่านไปถึง decode ได้ แก้แล้วใน SGLang v0.5.20–v0.5.22

· อ่าน 5 นาที
MiniMax ปล่อยน้ำหนัก M3.1 Flash แล้ว — 428B (active 23B) แจกมาเป็น NVFP4 จาก quantization-aware training ไม่มี BF16, ไฟล์ 252GB ต้องใช้ B200 4 ใบหรือ H100 8 ใบ และ license เป็น MiniMax Community แบบเดียวกับ M3
โมเดลใหม่

MiniMax ปล่อยน้ำหนัก M3.1 Flash แล้ว — 428B (active 23B) แจกมาเป็น NVFP4 จาก quantization-aware training ไม่มี BF16, ไฟล์ 252GB ต้องใช้ B200 4 ใบหรือ H100 8 ใบ และ license เป็น MiniMax Community แบบเดียวกับ M3

4 วันหลังเปิดตัวแบบ API-only MiniMax ปล่อยน้ำหนัก M3.1 Flash ขึ้น Hugging Face เมื่อ 23 ต.ค. 2026 (03:37 UTC) ขนาดประมาณ 428B พารามิเตอร์ active 23B ต่อโทเคน context 1M รับภาพและวิดีโอ ไฟล์ทั้งหมด 252GB เพราะ expert ถูกเทรนแบบ quantization-aware เป็น NVFP4 และไม่มีเวอร์ชัน BF16 ให้ vLLM แนะนำ B200/GB200 4 ใบ หรือ H100/H200 8 ใบ ใช้ license MiniMax Community ที่ต้องแจ้ง MiniMax ก่อนใช้เชิงพาณิชย์

· อ่าน 5 นาที
Google เปิดซอร์ส TorchTPU: torch.device("tpu") ใช้ได้จริง พร้อม vLLM/SGLang บน TPU และประกาศเลิก PyTorch/XLA (archive 15 พ.ย.) — แต่ matmul fp32 ค่าเริ่มต้นคำนวณแบบ bf16 ไม่ใช่ fp32 เต็มแบบ CUDA
เครื่องมือนักพัฒนา

Google เปิดซอร์ส TorchTPU: torch.device("tpu") ใช้ได้จริง พร้อม vLLM/SGLang บน TPU และประกาศเลิก PyTorch/XLA (archive 15 พ.ย.) — แต่ matmul fp32 ค่าเริ่มต้นคำนวณแบบ bf16 ไม่ใช่ fp32 เต็มแบบ CUDA

Google เปิด repo TorchTPU สู่สาธารณะภายใต้ Apache-2.0 และปล่อย torch_tpu 0.2.0 บน PyPI (19–20 ต.ค. 2026) ทำให้ TPU เป็น device ปกติของ PyTorch ตัวหนึ่ง พร้อมเปิดตัว vLLM-TorchTPU, SGLang-TorchTPU และ TorchTitan บน TPU ส่วน PyTorch/XLA ถูกประกาศเลิกใช้และจะ archive วันที่ 15 พ.ย. ข้อควรระวังคือ runtime libtpu ยังอยู่ภายใต้ข้อตกลงของ Google Cloud และ matmul fp32 ค่าเริ่มต้นใช้ความแม่นยำระดับ bf16

· อ่าน 6 นาที
SGLang 0.5.22 ออกแล้ว — ตัด Python 3.10 แบบเงียบ ๆ, `--enable-dp-attention` ถูกแทนด้วย `--attn-dp-size`, รันบน Mac ได้ด้วย PyTorch และโหลดโมเดลเร็วขึ้น 10 เท่า
เครื่องมือนักพัฒนา

SGLang 0.5.22 ออกแล้ว — ตัด Python 3.10 แบบเงียบ ๆ, `--enable-dp-attention` ถูกแทนด้วย `--attn-dp-size`, รันบน Mac ได้ด้วย PyTorch และโหลดโมเดลเร็วขึ้น 10 เท่า

SGLang 0.5.22 ออกเมื่อ 19 ต.ค. 2026 (950 PR จาก 245 คน) ต้องใช้ Python 3.11 ขึ้นไป โดยบน 3.10 `pip install` จะไม่ error แต่จะได้เวอร์ชันเก่ามาแทน มี flag และ environment variable หลายตัวที่เปลี่ยนความหมาย ส่วนของใหม่คือรันบน Apple Silicon ด้วย PyTorch ได้, InstantTensor loader ที่โหลด DeepSeek-R1 ใน 15 วินาทีแทน 160 วินาที และ DeepSeek-V4.1 ได้ throughput ต่อ GPU บน H200 เพิ่มสูงสุด 2.3 เท่า

· อ่าน 4 นาที
Ant Group ปล่อยน้ำหนัก Ling-3.1-flash: MoE 560B (active 25B) แบบ hybrid-linear ไลเซนส์ MIT ได้ AA Index 41 แซง Muse Spark Open และ Qwen3.8 — แต่ config จริงรับ context 262K ไม่ใช่ 1M และคะแนนโค้ดที่ชนะวัดด้วย harness ของ Ant เองที่ยังไม่เปิด
โมเดลใหม่

Ant Group ปล่อยน้ำหนัก Ling-3.1-flash: MoE 560B (active 25B) แบบ hybrid-linear ไลเซนส์ MIT ได้ AA Index 41 แซง Muse Spark Open และ Qwen3.8 — แต่ config จริงรับ context 262K ไม่ใช่ 1M และคะแนนโค้ดที่ชนะวัดด้วย harness ของ Ant เองที่ยังไม่เปิด

inclusionAI ของ Ant Group เปิดน้ำหนัก Ling-3.1-flash บน Hugging Face (อัปโหลด 13 ต.ค. ประกาศ 14 ต.ค. 2026) เป็น MoE 560B ที่ทำงาน 25B ต่อโทเคน ผสม KDA linear attention กับ MLA ไลเซนส์ MIT ได้ 41 บน Artificial Analysis Intelligence Index สูงกว่า Muse Spark Open ที่ปล่อยวันนี้ แต่ config.json ตั้ง context ไว้ 262K ทั้งที่การ์ดเขียน 1M ต้องใช้ H200 8 ใบ และคะแนน SWE-bench Pro ที่ชนะ Kimi K3 วัดด้วย LingCode ซึ่งยังไม่เปิดซอร์ส

· อ่าน 4 นาที
Meta ปล่อยน้ำหนัก Muse Spark Open: MoE 816B (active 42B) บริบท 1M รับภาพ เสียง วิดีโอ รันบน Mac Studio M5 Ultra สองเครื่องได้ — แต่ AA Index ยังตาม GLM 5.3, Kimi K3 และ Qwen3.8 ส่วนไลเซนส์บังคับป้าย "Built with" และเพดาน MaaS $20M
โมเดลใหม่

Meta ปล่อยน้ำหนัก Muse Spark Open: MoE 816B (active 42B) บริบท 1M รับภาพ เสียง วิดีโอ รันบน Mac Studio M5 Ultra สองเครื่องได้ — แต่ AA Index ยังตาม GLM 5.3, Kimi K3 และ Qwen3.8 ส่วนไลเซนส์บังคับป้าย "Built with" และเพดาน MaaS $20M

Meta ปล่อยน้ำหนัก Muse Spark Open เมื่อ 15 ต.ค. 2026 เป็นโมเดล MoE 816B (active 42B, 256 experts เลือก 8) บริบท 1M รับข้อความ ภาพ เสียง และวิดีโอ มีทั้ง BF16 และ NVFP4 รันได้ตั้งแต่วันแรกบน vLLM, SGLang, llama.cpp และ MLX ตารางของ Meta เองแสดงว่านำในงานเอเจนต์บางรายการ แต่ AA Intelligence Index 39 ยังต่ำกว่าโมเดลจีนอย่าง GLM 5.3 (45) และ Kimi K3 (44) ส่วน Muse Model License อนุญาตเชิงพาณิชย์ แต่บังคับแสดง "Built with Muse Spark Open" และให้บริษัทรายได้เกิน $20M ที่ให้บริการโมเดลผ่าน API ต้องทำสัญญาแยก

· อ่าน 6 นาที
Goodfire ติด probe อ่าน activation ของ Kimi K3 และ GLM 5.3 จับเอเจนต์ที่ใช้ทำ cyber attack — recall 93% ที่ false positive 5.5% ถูกกว่าให้ LLM judge อ่านทุก turn ราว 50 เท่า
งานวิจัย

Goodfire ติด probe อ่าน activation ของ Kimi K3 และ GLM 5.3 จับเอเจนต์ที่ใช้ทำ cyber attack — recall 93% ที่ false positive 5.5% ถูกกว่าให้ LLM judge อ่านทุก turn ราว 50 เท่า

8 ต.ค. 2026 Goodfire เผยแพร่ระบบ monitor แบบ probe + LLM judge สำหรับโมเดลเปิด Kimi K3 และ GLM 5.3 ที่รันอยู่ใน inference server จริง probe อ่าน activation ภายในโมเดลทุก token แล้วส่งเฉพาะ turn ที่น่าสงสัยให้ judge ตรวจ ได้ recall 93% ที่ false positive 5.5% ค่าใช้จ่าย $65–185 ต่อล้าน turn และ FAR.AI red-team แล้ว universal jailbreak เหลือศูนย์

· อ่าน 5 นาที
llama.cpp กับ SGLang รองรับ decision model แล้ว: llama.cpp เพิ่ม /v1/systemone พร้อม 5 โมเดลตั้งแต่ 144M ถึง 27B (ตามด้วย Nimble และ Clef) ส่วน SGLang 0.5.21 ใช้ /v1/decisions เปลี่ยน chat model ตัวไหนก็ได้ให้เป็นตัวจำแนก
เครื่องมือนักพัฒนา

llama.cpp กับ SGLang รองรับ decision model แล้ว: llama.cpp เพิ่ม /v1/systemone พร้อม 5 โมเดลตั้งแต่ 144M ถึง 27B (ตามด้วย Nimble และ Clef) ส่วน SGLang 0.5.21 ใช้ /v1/decisions เปลี่ยน chat model ตัวไหนก็ได้ให้เป็นตัวจำแนก

2 ต.ค. 2026 llama.cpp merge endpoint /v1/systemone ซึ่งใช้รูปแบบ System One เดียวกับ Jev ของ TypeSafe มี GGUF ให้ 5 ตัว (Julia-1, Laya, Kev-4B, lev, OpenJev) และ Clef ตามมาบน master ในวันที่ 3 ต.ค. วันเดียวกัน SGLang v0.5.21 ออก /v1/decisions ที่อ่านความน่าจะเป็นของคำตอบจาก chat model ทั่วไปได้โดยตรง พร้อม route /v1/systemone ที่เข้ากันได้กับ SDK ของ TypeSafe

· อ่าน 6 นาที
Liquid AI ปล่อย LFM2.5-VL-DSpark — drafter 280M ทำให้ VLM 3B ถอดรหัสเร็วขึ้นสูงสุด 3.13 เท่าบน Mac แต่ภาพยังต้องผ่าน prefill เท่าเดิม end-to-end จึงเร็วขึ้นแค่ 1.3–2.6 เท่า
โมเดลใหม่

Liquid AI ปล่อย LFM2.5-VL-DSpark — drafter 280M ทำให้ VLM 3B ถอดรหัสเร็วขึ้นสูงสุด 3.13 เท่าบน Mac แต่ภาพยังต้องผ่าน prefill เท่าเดิม end-to-end จึงเร็วขึ้นแค่ 1.3–2.6 เท่า

Liquid AI เปิด DSpark drafter สำหรับโมเดลภาพ LFM2.5-VL-3B เมื่อ 24 ก.ย. 2026 ขนาด 280M (เพิ่มหน่วยความจำ 8.9%) ถอดรหัสเร็วขึ้น 2.30–3.13 เท่าบน M5 Max ผ่าน MLX และ 1.57–2.14 เท่าบน M3 Ultra ผ่าน llama.cpp โดยผลลัพธ์ไม่เปลี่ยน รองรับตั้งแต่วันแรกทั้ง llama.cpp, MLX-VLM และ SGLang เพราะ PR ถูก merge ครบแล้ว แต่ใบอนุญาตยังมีเพดานรายได้ 10 ล้านดอลลาร์ ไม่ใช่ "ไม่มีข้อจำกัด" อย่างที่บล็อกเขียน

· อ่าน 4 นาที
Atria Dawn Preview: โมเดล agentic 744B จาก Shanghai AI Lab ที่วางน้ำหนัก 1.51 TB ไว้บน Hugging Face — ติดป้าย MIT แต่ในรีโปไม่มีไฟล์ LICENSE
โมเดลใหม่

Atria Dawn Preview: โมเดล agentic 744B จาก Shanghai AI Lab ที่วางน้ำหนัก 1.51 TB ไว้บน Hugging Face — ติดป้าย MIT แต่ในรีโปไม่มีไฟล์ LICENSE

Shanghai AI Laboratory ปล่อย Atria Dawn Preview — โมเดล agentic แบบ MoE 744B ที่ต่อยอดจากฐาน GLM-5.2 เปิดน้ำหนักเต็ม 1.51 TB บน Hugging Face พร้อม FP8 และคอนเท็กซ์ 256K ทำคะแนนสูงสุดใน 5 จาก 16 เบนช์มาร์กที่รายงานเอง รวม CyberGym 86.5 และ BrowseComp 92.5 — แต่การ์ดโมเดลติดป้าย MIT ทั้งที่ลิงก์ LICENSE ในรีโปเปิดไม่ขึ้น

· อ่าน 7 นาที
Harvard สาธิตว่าโมเดลระบุได้เองว่ากำลังรันบน vLLM หรือ llama.cpp — แค่สั่งตัวเองพูดซ้ำแล้วนับ แล้วต่อเป็นเชนหลุดจากคอนเทนเนอร์ถึงระดับเฟิร์มแวร์
งานวิจัย

Harvard สาธิตว่าโมเดลระบุได้เองว่ากำลังรันบน vLLM หรือ llama.cpp — แค่สั่งตัวเองพูดซ้ำแล้วนับ แล้วต่อเป็นเชนหลุดจากคอนเทนเนอร์ถึงระดับเฟิร์มแวร์

17 ก.ย. 2026 นักวิจัย Harvard เผยแพร่เปเปอร์ที่แสดงว่าโมเดลสามารถ fingerprint เอนจิน inference ที่รันตัวเองได้ด้วยความแม่นยำ 95% ขึ้นไป โดยอาศัยความต่างของ template และ tokenizer ระหว่าง vLLM, SGLang, llama.cpp, Ollama และ TensorRT-LLM แล้วต่อยอดเป็นเชน exploit สามขั้นจาก eval() ใน vLLM ไปถึงการคุมเครื่องระดับ BMC

· อ่าน 8 นาที
SGLang 0.5.20: มาสก์การสุ่มสำหรับ RL rollout ที่เล่นซ้ำได้, radix tree รวมร่างดัน cache hit 43.8%→60.8% และโหลดโมเดลบน ROCm จาก 505 วินาทีเหลือ 40 วินาที
เครื่องมือนักพัฒนา

SGLang 0.5.20: มาสก์การสุ่มสำหรับ RL rollout ที่เล่นซ้ำได้, radix tree รวมร่างดัน cache hit 43.8%→60.8% และโหลดโมเดลบน ROCm จาก 505 วินาทีเหลือ 40 วินาที

SGLang v0.5.20 (18 ก.ย. 2026) รวม 713 PR จาก 237 ผู้ร่วมพัฒนา ของเด่นคือ return_sampling_mask ที่ทำให้ trainer เล่น rollout ซ้ำได้โดยไม่ต้องสร้าง top-k/top-p ใหม่, unified radix tree ที่แคชจุดแตกแขนงของ SWA, ตัวจำลองสเกดูเลอร์ที่รันบน CPU ล้วน และการซ่อม path โหลดโมเดลบน ROCm ที่เร็วขึ้นกว่า 12 เท่า

· อ่าน 7 นาที
Z.ai เปิดบันทึก: GLM-5.3 สร้างระบบ inference ของตัวเองบนชิปจีน 100,000 ตัว เร็วขึ้น 3 เท่าใน 2 สัปดาห์
งานวิจัย

Z.ai เปิดบันทึก: GLM-5.3 สร้างระบบ inference ของตัวเองบนชิปจีน 100,000 ตัว เร็วขึ้น 3 เท่าใน 2 สัปดาห์

Z.ai เผยว่างาน infra ที่ปกติต้องใช้ทีมวิศวกรหลายสัปดาห์ ถูกทำโดย Infra Agent ที่ขับด้วย GLM-5.3 เอง — สร้าง production inference stack บนคลัสเตอร์ชิปจีนกว่า 100,000 ตัว ดัน throughput ขึ้น 3 เท่าในไม่ถึงสองสัปดาห์ พร้อมอธิบายสูตร 'dense feedback' ที่ทำให้ agent ดีบักระบบได้จริง

· อ่าน 7 นาที
Nex-N2.5-Pro ปล่อยน้ำหนักแล้ว 407 GB แบบ FP8 — config ตรงกับ Qwen3.5-397B-A17B ทุกค่าสถาปัตยกรรม แต่ไม่มีเลเยอร์ MTP ที่ config ยังประกาศไว้
โมเดลใหม่

Nex-N2.5-Pro ปล่อยน้ำหนักแล้ว 407 GB แบบ FP8 — config ตรงกับ Qwen3.5-397B-A17B ทุกค่าสถาปัตยกรรม แต่ไม่มีเลเยอร์ MTP ที่ config ยังประกาศไว้

น้ำหนัก Nex-N2.5-Pro ขึ้น Hugging Face ครบ 122 shard เมื่อ 10 ก.ย. เวลา 19:01 UTC และกล่อง coming soon ถูกถอดออกเช้า 11 ก.ย. — เป็น FP8 ล้วน 407.1 GB ใต้ Apache-2.0 เว็บ Nex-AGI ระบุฐานเป็น Qwen3.5-397B-A17B ซึ่ง config ยืนยันทุกค่า แต่ไฟล์ไม่มีเทนเซอร์ MTP เลยสักตัว ทั้งที่ config ยังตั้ง mtp_num_hidden_layers เป็น 1

· อ่าน 5 นาที
DeepSeek-V4.1-Flash เปิดน้ำหนัก MIT ขนาด 552B ที่ใช้พารามิเตอร์แค่ 8B ตอนอ่านอินพุต — KV cache เหลือ 1/4 ราคา API ลด และ deepseek-v4-pro จะถูกส่งมาหาโมเดลนี้แทนตั้งแต่ 14 ก.ย.
โมเดลใหม่

DeepSeek-V4.1-Flash เปิดน้ำหนัก MIT ขนาด 552B ที่ใช้พารามิเตอร์แค่ 8B ตอนอ่านอินพุต — KV cache เหลือ 1/4 ราคา API ลด และ deepseek-v4-pro จะถูกส่งมาหาโมเดลนี้แทนตั้งแต่ 14 ก.ย.

10 ก.ย. DeepSeek ปล่อย V4.1-Flash ขึ้น Hugging Face ใต้ MIT แท้พร้อมเปิดบน API ในวันเดียวกัน เป็น MoE 552B สถาปัตยกรรม Causal Encoder-Decoder ใหม่ที่ใช้พารามิเตอร์ 8B ตอน prefill และ 16B ตอน decode KV cache เหลือ 890 ไบต์ต่อโทเคน คะแนน Terminal-Bench 2.1 สูงกว่า Opus 5 — แต่เบนช์มาร์กที่ยากกว่ายังห่างชัด ไม่มี chat template แบบ Jinja มาให้ และทุกคำขอที่ใช้ชื่อ deepseek-v4-pro จะถูกส่งไปหาโมเดลนี้แทนโดยอัตโนมัติตั้งแต่ 14 ก.ย.

· อ่าน 8 นาที
Nex-N2.5 เปิดน้ำหนัก Apache-2.0 สามขนาด แต่มีจริงแค่สอง — และตัว 1.6 ล้านล้านพารามิเตอร์คือ DeepSeek-V4-Pro-Base ที่เอามาโพสต์เทรน
โมเดลใหม่

Nex-N2.5 เปิดน้ำหนัก Apache-2.0 สามขนาด แต่มีจริงแค่สอง — และตัว 1.6 ล้านล้านพารามิเตอร์คือ DeepSeek-V4-Pro-Base ที่เอามาโพสต์เทรน

8 ก.ย. Nex-AGI ปล่อยตระกูลเอเจนต์ Nex-N2.5 สามขนาดใต้ Apache-2.0 — mini 35.1B มัลติโมดัลมีน้ำหนักจริง 70.24 GB, Max 1.6T ขึ้นเป็น FP8 รวม 1.655 TB แต่ Pro ยังมีแค่การ์ดกับคำว่า coming soon; และเว็บบริษัทระบุเองว่า Max สร้างบน DeepSeek-V4-Pro-Base ซึ่งการ์ดบน Hugging Face ไม่ได้เอ่ยชื่อไว้

· อ่าน 7 นาที
SGLang v0.5.19 ออกเช้านี้ — 786 PR, beam search ที่ยังใช้ร่วมกับ spec decoding ไม่ได้, radix tree รวมเป็นดีฟอลต์ และคู่มือรันโมเดลใหญ่บนการ์ดใบเดียว
เครื่องมือนักพัฒนา

SGLang v0.5.19 ออกเช้านี้ — 786 PR, beam search ที่ยังใช้ร่วมกับ spec decoding ไม่ได้, radix tree รวมเป็นดีฟอลต์ และคู่มือรันโมเดลใหญ่บนการ์ดใบเดียว

SGLang ปล่อย v0.5.19 เมื่อ 5 ก.ย. 2026 เวลา 02:27 UTC รวม 786 PR จากผู้ร่วมพัฒนา 214 คน — เพิ่ม beam search, ทำ unified radix tree เป็นดีฟอลต์ของทุกโมเดล, เร่ง decode บน AMD MI355X ได้ถึง 1.52 เท่า และเพิ่มคู่มือรัน MiniMax-H3 บน GPU 24 GB กับ Qwen3.8-27B บน RTX 5090 แต่มี breaking change 14 ข้อที่ต้องอ่านก่อนอัป

· อ่าน 7 นาที
DeepSeek ปล่อยน้ำหนัก V4-Flash-Vision-Exp ขึ้น Hugging Face แล้วภายใต้ MIT — 10 วันหลังเปิดเป็น API-only และไม่มีประกาศใด ๆ
โมเดลใหม่

DeepSeek ปล่อยน้ำหนัก V4-Flash-Vision-Exp ขึ้น Hugging Face แล้วภายใต้ MIT — 10 วันหลังเปิดเป็น API-only และไม่มีประกาศใด ๆ

31 ส.ค. 2026 repo deepseek-ai/DeepSeek-V4-Flash-Vision-Exp ถูกสร้างขึ้นบน Hugging Face พร้อมน้ำหนักจริงใต้ MIT License แบบไม่มีเงื่อนไขเพิ่ม — 305B พารามิเตอร์ ดาวน์โหลดราว 168 GB, 256 expert เลือกใช้ 6 ตัวต่อโทเคน, คอนเท็กซ์ 1M และ model card เปิดเลขที่ Change Log เดิมไม่เคยบอก

· อ่าน 6 นาที
Pipecat ปล่อย PhoneLLM Alpha 1 ใต้ BSD — ฟายน์จูน Nemotron 3 Nano 30B-A3B ดันคะแนน PhoneBench จาก 28.6% เป็น 72.3% เท่า GPT-5.6 Terra ที่ค่ารันถูกกว่า 14 เท่า
โมเดลใหม่

Pipecat ปล่อย PhoneLLM Alpha 1 ใต้ BSD — ฟายน์จูน Nemotron 3 Nano 30B-A3B ดันคะแนน PhoneBench จาก 28.6% เป็น 72.3% เท่า GPT-5.6 Terra ที่ค่ารันถูกกว่า 14 เท่า

27 ส.ค. 2026 ทีม Pipecat ของ Daily ปล่อย PhoneLLM Alpha 1 น้ำหนักเปิดใต้ BSD 2-Clause — ฟายน์จูนเต็มพารามิเตอร์จาก NVIDIA Nemotron 3 Nano 30B-A3B เฉพาะงานเอเจนต์รับสาย พร้อมเบนช์มาร์กของตัวเองชื่อ PhoneBench v1 ตัวเลขที่สำคัญที่สุดไม่ใช่ 72.3% แต่คือโมเดลฐานตัวเดียวกันได้แค่ 28.6%

· อ่าน 8 นาที
GLM-5.3 ตัวเต็มปล่อยน้ำหนักแล้ว — MoE 753B บน Hugging Face 755GB ในรูปแบบ FP8 แต่ใบอนุญาตไม่ใช่ MIT เหมือน Flash
โมเดลใหม่

GLM-5.3 ตัวเต็มปล่อยน้ำหนักแล้ว — MoE 753B บน Hugging Face 755GB ในรูปแบบ FP8 แต่ใบอนุญาตไม่ใช่ MIT เหมือน Flash

28 ส.ค. 2026 เวลา 15:22 UTC รีโป zai-org/GLM-5.3 บน Hugging Face เปิดสาธารณะ — โมเดลตัวเต็มที่ทำ Terminal-Bench 3.0 28.3 และ CyberGym 84.5 เมื่อกลางเดือนกลายเป็น open weights จริงแล้ว น้ำหนัก FP8 141 ชาร์ด รวม 755.7 GB (BF16 อีกรีโปหนึ่ง 1,506.7 GB) แต่ไฟล์ LICENSE ไม่ใช่ MIT แบบ GLM-5.3-Flash — เป็นใบอนุญาตเฉพาะที่มีเงื่อนไข Model-as-a-Service ผูกไว้

· อ่าน 8 นาที
Tencent ปล่อย Hy4 preview ใต้ Apache-2.0 — MoE 770B ที่กระตุ้น 49B และเป็นโมเดลระดับเรือธงตัวใหญ่ที่สุดที่ใบอนุญาตไม่มีเงื่อนไขแนบ
โมเดลใหม่

Tencent ปล่อย Hy4 preview ใต้ Apache-2.0 — MoE 770B ที่กระตุ้น 49B และเป็นโมเดลระดับเรือธงตัวใหญ่ที่สุดที่ใบอนุญาตไม่มีเงื่อนไขแนบ

27 ส.ค. 2026 ทีม Hy ของ Tencent อัปโหลด Hy4 preview ขึ้น Hugging Face — MoE 770B ที่กระตุ้น 49B ต่อโทเคน บริบท 1M ใช้ Gated DSA + IndexCache น้ำหนัก BF16 1,560 GB / FP8 813.8 GB ใต้ Apache-2.0 แท้ ๆ ตารางเบนช์ของ Tencent เองบอกว่ามันนำทุกเจ้ารวมถึง Claude Opus 5 บน SWE Atlas Codebase Q&A แต่รั้งท้ายบน Terminal-Bench 2.1 และตามหลัง GLM-5.3 บน GDPval

· อ่าน 9 นาที
Z.ai ปล่อย GLM-5.3-Flash เป็น open weights ใต้ MIT — MoE 320B ที่ใช้จริงแค่ 18B, multimodal ในตัว, บริบท 1M และทำ GDPVal-AA v2 นำทุกเจ้าในตาราง
โมเดลใหม่

Z.ai ปล่อย GLM-5.3-Flash เป็น open weights ใต้ MIT — MoE 320B ที่ใช้จริงแค่ 18B, multimodal ในตัว, บริบท 1M และทำ GDPVal-AA v2 นำทุกเจ้าในตาราง

26 ส.ค. 2026 Z.ai ปล่อย GLM-5.3-Flash พร้อมน้ำหนักเต็มบน Hugging Face ใต้ MIT — MoE 320B ที่กระตุ้นแค่ 18B ต่อโทเคน, เป็นตัวแรกในตระกูล GLM-5 ที่ multimodal โดยกำเนิด, ใช้สถาปัตยกรรมผสม linear + sparse attention รองรับบริบท 1 ล้านโทเคน และทำ GDPVal-AA v2 ได้ 1773 นำทั้ง Claude Opus 4.8, GPT-5.6 Terra และ Gemini 3.7 Flash ในตารางของ Z.ai เอง

· อ่าน 8 นาที
Qwen3.8-Flash-Next เปิดน้ำหนัก — 125B ที่กระตุ้นแค่ 6B บวก "พจนานุกรมวลี" 51B ที่ย้ายไปนั่งบน RAM ได้ เทรนถูกกว่ารุ่นพี่ 9 เท่า และเป็นตัวอย่างสถาปัตยกรรมของ Qwen4
โมเดลใหม่

Qwen3.8-Flash-Next เปิดน้ำหนัก — 125B ที่กระตุ้นแค่ 6B บวก "พจนานุกรมวลี" 51B ที่ย้ายไปนั่งบน RAM ได้ เทรนถูกกว่ารุ่นพี่ 9 เท่า และเป็นตัวอย่างสถาปัตยกรรมของ Qwen4

26 ส.ค. 2026 Qwen ปล่อย Qwen3.8-Flash-Next พร้อมน้ำหนักบน Hugging Face — MoE 125B ที่กระตุ้นแค่ 6B ต่อโทเคน บวกชั้น n-gram embedding 51B ที่ย้ายไปเก็บบน RAM ระบบได้ ใช้ Gated DeltaNet คู่กับ Qwen Sparse Attention ระดับ micro-block เทรนถูกกว่า Qwen3.7-Plus ราว 9 เท่า และ Qwen ประกาศตรง ๆ ว่านี่คือ preview ของสถาปัตยกรรมที่จะเป็น Qwen4

· อ่าน 8 นาที
Apodex 1.1 mini ขึ้น Hugging Face เช้านี้ — MoE 36B ที่แอ็กทีฟแค่ 3B ต่อโทเคน คอนเท็กซ์ 262K ใบอนุญาต Apache-2.0 พร้อม harness แบบ Agent Team เปิดซอร์สมาให้ทั้งชุด
โมเดลใหม่

Apodex 1.1 mini ขึ้น Hugging Face เช้านี้ — MoE 36B ที่แอ็กทีฟแค่ 3B ต่อโทเคน คอนเท็กซ์ 262K ใบอนุญาต Apache-2.0 พร้อม harness แบบ Agent Team เปิดซอร์สมาให้ทั้งชุด

Apodex AI ประกาศ Apodex 1.1 เมื่อ 24 ส.ค. 2026 และอัปโหลดน้ำหนัก Apodex-1.1-mini ขึ้น Hugging Face ตอนเช้าวันที่ 25 ส.ค. — MoE 36B พารามิเตอร์รวมที่เลือกใช้ 8 จาก 256 expert ต่อโทเคน (แอ็กทีฟราว 3B) ต่อยอดจาก Qwen3.5-35B-A3B รับอินพุตภาพได้ คอนเท็กซ์ 262,144 โทเคน ใบอนุญาต Apache-2.0 และมาพร้อม FrontierAgent ที่เป็น harness แบบ ReAct/Agent Team เปิดซอร์สในใบอนุญาตเดียวกัน

· อ่าน 7 นาที
ถ้าโมเดลอยากยึดเครื่องที่รันมันเอง มันไม่ต้องแฮ็กอะไรเลย — แค่พ่นโทเคนให้ parser ของ vLLM เป็นคนทำแทน
งานวิจัย

ถ้าโมเดลอยากยึดเครื่องที่รันมันเอง มันไม่ต้องแฮ็กอะไรเลย — แค่พ่นโทเคนให้ parser ของ vLLM เป็นคนทำแทน

25 ส.ค. 2026 บทความจาก boydkane.com ตั้งโจทย์ที่ถูกมองข้าม — inference engine อย่าง vLLM และ SGLang ต้อง parse ผลลัพธ์ที่โมเดลพ่นออกมาให้เป็น tool call ซึ่งทำให้ parser กลายเป็น attack surface ที่โมเดลเข้าถึงได้โดยตรง หลักฐานว่ามันไม่ใช่เรื่องสมมติคือ CVE-2025-9141 ช่องโหว่ RCE ระดับ CVSS 8.8 ใน tool parser ของ Qwen3-Coder ที่ vLLM ใช้ eval() กับค่าพารามิเตอร์

· อ่าน 6 นาที
AsmEvo: ให้เอเจนต์แก้ GPU kernel ที่ "ไม่มีซอร์สโค้ดแล้ว" — รื้อไบนารีที่คอมไพล์เสร็จ แก้แอสเซมบลี แล้วเร็วขึ้นเฉลี่ย 1.35 เท่าบน MI308X
เครื่องมือนักพัฒนา

AsmEvo: ให้เอเจนต์แก้ GPU kernel ที่ "ไม่มีซอร์สโค้ดแล้ว" — รื้อไบนารีที่คอมไพล์เสร็จ แก้แอสเซมบลี แล้วเร็วขึ้นเฉลี่ย 1.35 เท่าบน MI308X

เปเปอร์ที่ขึ้น arXiv เมื่อ 21 ส.ค. 2026 เสนอเอเจนต์ที่ปรับจูน GPU kernel ของ AMD ในระดับแอสเซมบลี โดยไม่ต้องมีซอร์สโค้ด — รับไบนารีที่คอมไพล์แล้วเป็นอินพุต แก้ทีละบรรทัด แล้วรับเฉพาะเวอร์ชันที่ผ่านการตรวจสอบว่าให้ผลลัพธ์เท่ากันแบบบิตต่อบิต ปรับปรุงได้ 29 จาก 30 kernel ของ KernelBench และเร่ง kernel ที่ vLLM/SGLang ใช้จริง

· อ่าน 7 นาที
LFM2.5-DSpark: โมเดล draft ขนาด 300M ที่ทำให้ LFM2.5 เร็วขึ้น 2.7 เท่าโดยข้อความที่ได้ "เหมือนเดิมทุกตัวอักษร" — และลด latency การเรียกทูลลง 57%
โมเดลใหม่

LFM2.5-DSpark: โมเดล draft ขนาด 300M ที่ทำให้ LFM2.5 เร็วขึ้น 2.7 เท่าโดยข้อความที่ได้ "เหมือนเดิมทุกตัวอักษร" — และลด latency การเรียกทูลลง 57%

20 ส.ค. 2026 Liquid AI ปล่อยโมเดล draft สำหรับ speculative decoding ของ LFM2.5 สามขนาด แต่ละตัวราว 300M พารามิเตอร์ — ทำ throughput บน H100 ขึ้นได้ถึง 2.67 เท่า (323→864 tok/s) บน MacBook M4 Max 2.27 เท่า และลด latency การเรียกฟังก์ชันลง 57% โดยเอาต์พุตไม่เปลี่ยนเลย

· อ่าน 6 นาที
Qwen3.8 ปล่อยน้ำหนักจริงแล้ว — 2.4T MoE, active 95B, 4.89 TB บน Hugging Face และไลเซนส์ที่ไม่ใช่ Apache
โมเดลใหม่

Qwen3.8 ปล่อยน้ำหนักจริงแล้ว — 2.4T MoE, active 95B, 4.89 TB บน Hugging Face และไลเซนส์ที่ไม่ใช่ Apache

Alibaba อัปโหลดน้ำหนัก Qwen3.8-2.4T-A95B ขึ้น Hugging Face เมื่อ 12 ส.ค. 2026 ตอบสามคำถามที่ค้างมาตั้งแต่ต้นเดือน: active params 95B, ไลเซนส์เป็นสัญญาเฉพาะของ Qwen ไม่ใช่ Apache-2.0 และมีตาราง benchmark แล้ว แต่รุ่นเปิดเป็นโมเดลข้อความล้วน ไม่ใช่ multimodal เหมือนที่ขายผ่าน API

· อ่าน 7 นาที
Cloudflare เปิดตัวเลขจริงของการรีดโมเดลเปิดลง GPU — FP8 KV cache ดัน Kimi K2.6 จาก 686K เป็น 1.37M token, INT4 ย่อ GLM 5.2 จาก 705GB เหลือ 421GB
เครื่องมือนักพัฒนา

Cloudflare เปิดตัวเลขจริงของการรีดโมเดลเปิดลง GPU — FP8 KV cache ดัน Kimi K2.6 จาก 686K เป็น 1.37M token, INT4 ย่อ GLM 5.2 จาก 705GB เหลือ 421GB

Cloudflare เผยเทคนิคสามชั้นที่ใช้เสิร์ฟ Kimi K2.6 และ GLM 5.2 บน Workers AI — บีบ KV cache เป็น FP8 เพิ่ม context ที่ค้างในหน่วยความจำได้เท่าตัว, บีบน้ำหนัก GLM เป็น INT4 ลดเช็คพอยต์ 40% และเพิ่ม decode สูงสุด 55% พร้อมตารางเบนช์มาร์กที่บอกว่าความแม่นยำไม่ตก

· อ่าน 7 นาที
MiniMax H3 ปล่อยน้ำหนักจริงแล้ววันนี้ 498GB — โมเดลวิดีโอเปิดที่แรงที่สุดในตลาด แต่ไลเซนส์ห้ามใช้ในสหรัฐฯ EU UK และเกาหลีใต้
โมเดลใหม่

MiniMax H3 ปล่อยน้ำหนักจริงแล้ววันนี้ 498GB — โมเดลวิดีโอเปิดที่แรงที่สุดในตลาด แต่ไลเซนส์ห้ามใช้ในสหรัฐฯ EU UK และเกาหลีใต้

หลังเปิดตัวผ่าน API เมื่อ 31 ก.ค. พร้อมสัญญาว่าจะปล่อยน้ำหนัก MiniMax ปล่อยจริงเช้าวันนี้ 3 ส.ค. — H3-Base 33B dense รวม 498GB ขึ้นอันดับ 1 บนกระดาน Video Editing ของ Artificial Analysis แต่ไลเซนส์กันสหรัฐฯ EU UK เกาหลีใต้ออกจากพื้นที่อนุญาต และโมดูลที่ทำให้ได้ 2K ไม่ได้เปิดมาด้วย

· อ่าน 8 นาที
รัน Kimi K3 (2.8T) บน AMD MI355X ได้ 952 tok/s ต่อโหนด — Wafer ชี้ประสิทธิภาพต่อดอลลาร์ชนะ B300 ทั้งที่ throughput ต่ำกว่า 1.65 เท่า
เครื่องมือนักพัฒนา

รัน Kimi K3 (2.8T) บน AMD MI355X ได้ 952 tok/s ต่อโหนด — Wafer ชี้ประสิทธิภาพต่อดอลลาร์ชนะ B300 ทั้งที่ throughput ต่ำกว่า 1.65 เท่า

31 กรกฎาคม 2026 Ian Ye จาก Wafer เผยผลรัน Kimi K3 ขนาด 2.8T พารามิเตอร์บน AMD MI355X 8 ใบได้ 952 tok/s ต่อโหนด และ 118 tok/s ต่อสตรีม — แพ้ B300 ด้าน throughput รวมราว 1.65 เท่า แต่ชนะด้าน tok/s ต่อดอลลาร์ 48 ต่อ 33 พร้อมเล่าบั๊ก ROCm สองตัวที่ต้องแก้เองและวิธีแก้ที่สั้นกว่าที่คิด

· อ่าน 7 นาที
NVIDIA เปิด ModelExpress — ส่งเวตโมเดลข้าม GPU ตรง ๆ ลดเวลาสตาร์ต DeepSeek-V4 Pro จาก 8 นาที 44 วิ เหลือ 1 นาที 44 วิ
เครื่องมือนักพัฒนา

NVIDIA เปิด ModelExpress — ส่งเวตโมเดลข้าม GPU ตรง ๆ ลดเวลาสตาร์ต DeepSeek-V4 Pro จาก 8 นาที 44 วิ เหลือ 1 นาที 44 วิ

NVIDIA เปิดตัว ModelExpress ระบบกระจายเวตโมเดลที่ดึงจาก GPU เพื่อนบ้านผ่าน P2P RDMA แทนการโหลดซ้ำจาก object storage — ทดสอบกับ DeepSeek-V4 Pro บนโหนด 8xB200 ย้ายเวตและ JIT kernel cache ได้ในไม่ถึง 10 วินาที ลดเวลาสตาร์ตรวมจาก 8 นาที 44 วินาที เหลือ 1 นาที 44 วินาที

· อ่าน 5 นาที
Tencent ปล่อย Hy3 โอเพนเวต 295B ใต้ Apache 2.0 — active แค่ 21B แต่ไล่บี้โมเดลที่ใหญ่กว่า 2-5 เท่า
โมเดลใหม่

Tencent ปล่อย Hy3 โอเพนเวต 295B ใต้ Apache 2.0 — active แค่ 21B แต่ไล่บี้โมเดลที่ใหญ่กว่า 2-5 เท่า

Tencent เปิดน้ำหนัก Hy3 เมื่อ 6 ก.ค. 2026 — MoE 295B ที่ active เพียง 21B ต่อโทเคน context 256K ใต้ Apache 2.0 ไร้ข้อจำกัดเชิงพื้นที่ ทำ SWE-bench Verified 78.0 และ GPQA Diamond 90.4

· อ่าน 6 นาที
Agents-A1 — โมเดล agentic แบบเปิด 35B MoE (Apache 2.0) ที่กลั่นความเก่งจาก 'ครูหลายคน' มาสู้กับโมเดลระดับ frontier
โมเดลใหม่

Agents-A1 — โมเดล agentic แบบเปิด 35B MoE (Apache 2.0) ที่กลั่นความเก่งจาก 'ครูหลายคน' มาสู้กับโมเดลระดับ frontier

InternScience ปล่อย Agents-A1 โมเดล agentic แบบ open-weight ขนาด 35B MoE บริบท 256K ใบอนุญาต Apache 2.0 ฝึกด้วย multi-teacher on-policy distillation — กลั่นโมเดลผู้เชี่ยวชาญหลายโดเมนมารวมในนักเรียนตัวเดียว ทำคะแนน SOTA ในกลุ่ม 35B บนงาน long-horizon search และงานวิจัยเชิงวิทยาศาสตร์

· อ่าน 5 นาที