ข้ามไปยังเนื้อหา

แท็ก

#FP8

6 บทความ

Nex-N2.5-Pro ปล่อยน้ำหนักแล้ว 407 GB แบบ FP8 — config ตรงกับ Qwen3.5-397B-A17B ทุกค่าสถาปัตยกรรม แต่ไม่มีเลเยอร์ MTP ที่ config ยังประกาศไว้
โมเดลใหม่

Nex-N2.5-Pro ปล่อยน้ำหนักแล้ว 407 GB แบบ FP8 — config ตรงกับ Qwen3.5-397B-A17B ทุกค่าสถาปัตยกรรม แต่ไม่มีเลเยอร์ MTP ที่ config ยังประกาศไว้

น้ำหนัก Nex-N2.5-Pro ขึ้น Hugging Face ครบ 122 shard เมื่อ 10 ก.ย. เวลา 19:01 UTC และกล่อง coming soon ถูกถอดออกเช้า 11 ก.ย. — เป็น FP8 ล้วน 407.1 GB ใต้ Apache-2.0 เว็บ Nex-AGI ระบุฐานเป็น Qwen3.5-397B-A17B ซึ่ง config ยืนยันทุกค่า แต่ไฟล์ไม่มีเทนเซอร์ MTP เลยสักตัว ทั้งที่ config ยังตั้ง mtp_num_hidden_layers เป็น 1

· อ่าน 5 นาที
PuRo-2B: ทีมชิงหัวเทรนโมเดล 2B จากศูนย์บนการ์ดจอเกม RTX 5090 ด้วยค่าคอมพิวต์ $6.9K — แล้วปล่อยทั้งข้อมูล โค้ด น้ำหนัก และเช็คพอยต์ระหว่างทางใต้ Apache-2.0
งานวิจัย

PuRo-2B: ทีมชิงหัวเทรนโมเดล 2B จากศูนย์บนการ์ดจอเกม RTX 5090 ด้วยค่าคอมพิวต์ $6.9K — แล้วปล่อยทั้งข้อมูล โค้ด น้ำหนัก และเช็คพอยต์ระหว่างทางใต้ Apache-2.0

27 ส.ค. 2026 ทีมจากมหาวิทยาลัยชิงหัวและ Pengcheng Laboratory ปล่อยรายงาน PuRo-2B บน arXiv — เทรนโมเดล 2B จากศูนย์บน 1.4 ล้านล้านโทเคน ด้วยคลัสเตอร์ RTX 5090 ที่คิดเป็นค่าคอมพิวต์ $6.89K แซง Qwen2-1.5B และเข้าใกล้ Qwen2.5-1.5B พร้อมปล่อยข้อมูล โค้ด และเช็คพอยต์ระหว่างทางใต้ Apache-2.0

· อ่าน 9 นาที
GLM-5.3 ตัวเต็มปล่อยน้ำหนักแล้ว — MoE 753B บน Hugging Face 755GB ในรูปแบบ FP8 แต่ใบอนุญาตไม่ใช่ MIT เหมือน Flash
โมเดลใหม่

GLM-5.3 ตัวเต็มปล่อยน้ำหนักแล้ว — MoE 753B บน Hugging Face 755GB ในรูปแบบ FP8 แต่ใบอนุญาตไม่ใช่ MIT เหมือน Flash

28 ส.ค. 2026 เวลา 15:22 UTC รีโป zai-org/GLM-5.3 บน Hugging Face เปิดสาธารณะ — โมเดลตัวเต็มที่ทำ Terminal-Bench 3.0 28.3 และ CyberGym 84.5 เมื่อกลางเดือนกลายเป็น open weights จริงแล้ว น้ำหนัก FP8 141 ชาร์ด รวม 755.7 GB (BF16 อีกรีโปหนึ่ง 1,506.7 GB) แต่ไฟล์ LICENSE ไม่ใช่ MIT แบบ GLM-5.3-Flash — เป็นใบอนุญาตเฉพาะที่มีเงื่อนไข Model-as-a-Service ผูกไว้

· อ่าน 8 นาที
Tencent ปล่อย Hy4 preview ใต้ Apache-2.0 — MoE 770B ที่กระตุ้น 49B และเป็นโมเดลระดับเรือธงตัวใหญ่ที่สุดที่ใบอนุญาตไม่มีเงื่อนไขแนบ
โมเดลใหม่

Tencent ปล่อย Hy4 preview ใต้ Apache-2.0 — MoE 770B ที่กระตุ้น 49B และเป็นโมเดลระดับเรือธงตัวใหญ่ที่สุดที่ใบอนุญาตไม่มีเงื่อนไขแนบ

27 ส.ค. 2026 ทีม Hy ของ Tencent อัปโหลด Hy4 preview ขึ้น Hugging Face — MoE 770B ที่กระตุ้น 49B ต่อโทเคน บริบท 1M ใช้ Gated DSA + IndexCache น้ำหนัก BF16 1,560 GB / FP8 813.8 GB ใต้ Apache-2.0 แท้ ๆ ตารางเบนช์ของ Tencent เองบอกว่ามันนำทุกเจ้ารวมถึง Claude Opus 5 บน SWE Atlas Codebase Q&A แต่รั้งท้ายบน Terminal-Bench 2.1 และตามหลัง GLM-5.3 บน GDPval

· อ่าน 9 นาที
ทำไมโมเดลที่รันเองถึง "โง่กว่า" ที่เขาโฆษณา — การทดลองวัด logit ทีละตัวชี้ว่าแค่เปลี่ยน attention backend คำตอบก็เปลี่ยน
เครื่องมือนักพัฒนา

ทำไมโมเดลที่รันเองถึง "โง่กว่า" ที่เขาโฆษณา — การทดลองวัด logit ทีละตัวชี้ว่าแค่เปลี่ยน attention backend คำตอบก็เปลี่ยน

22 ส.ค. 2026 โพสต์ทดลองบน Level1Techs วัด logit เต็ม vocabulary ของ Qwen3.6-27B บน RTX PRO 6000 พบว่าแค่สลับ attention backend ใน vLLM โดยไม่แตะอย่างอื่น โทเคนที่โมเดลจะเลือกก็ต่างกันแล้ว ส่วน KV cache แบบ int4 กับ NVFP4 ทำ tool call พังจริงและสั่งคำสั่ง Cisco ผิด โดย NVFP4 แตะ ~50% token flip ที่ context 88k

· อ่าน 8 นาที
มีคนรัน DeepSeek V4 Flash 304B บน MI300X ใบเดียวได้ 168 tok/s แล้วเปิด config ทั้งชุด — แต่ของจริงที่ควรอ่านคือบั๊ก 3 ตัวที่ทำให้โมเดล 'โง่ลงเงียบ ๆ' บน AMD
เครื่องมือนักพัฒนา

มีคนรัน DeepSeek V4 Flash 304B บน MI300X ใบเดียวได้ 168 tok/s แล้วเปิด config ทั้งชุด — แต่ของจริงที่ควรอ่านคือบั๊ก 3 ตัวที่ทำให้โมเดล 'โง่ลงเงียบ ๆ' บน AMD

repo ที่เปิดเมื่อ 4 ส.ค. (Apache 2.0) ปล่อย Docker Compose stack ที่รัน DeepSeek-V4-Flash-0731 ขนาด 304B บน AMD MI300X ใบเดียวได้ 168.6 tok/s ต่อ stream และ prefill 7.9–8.5K tok/s — พร้อมบันทึกบั๊กระดับ kernel สามตัวที่ไม่ทำให้ระบบ crash แต่ทำให้โมเดลเรียกชื่อ tool ผิดและลืม schema

· อ่าน 7 นาที