โมเดลใหม่
Ling-3.0-flash ของ Ant Group ขึ้น Hugging Face แล้ว — MoE 124B ที่ปลุกใช้จริงแค่ 5.1B ต่อโทเคน สัญญาอนุญาต MIT คอนเท็กซ์ 256K และเพิ่งปล่อยตัวเลข benchmark ออกมาเมื่อวาน
Ant Group ปล่อยน้ำหนักโมเดล Ling-3.0-flash บน Hugging Face ภายใต้สัญญาอนุญาต MIT — MoE ขนาด 124B ที่ปลุกใช้เพียง 5.1B พารามิเตอร์ต่อโทเคน (~8%) ใช้สถาปัตยกรรม hybrid linear attention สลับ KDA กับ Gated MLA อัตราส่วน 5:1 รองรับ 256K โทเคน และเพิ่งเพิ่มตารางผลทดสอบลงในโมเดลการ์ดเมื่อวานนี้
· อ่าน 6 นาที