โมเดลใหม่
Meta เปิดน้ำหนัก MobileMoE — MoE สำหรับมือถือที่ใช้ 272M พารามิเตอร์ต่อโทเคน แต่ทำ MMLU 43.7 ทิ้ง Gemma 3 270M ที่ได้ 26.7
คืนวันที่ 25 ส.ค. 2026 Meta เปิดน้ำหนัก MobileMoE สามขนาดบน Hugging Face — MoE แบบ fine-grained ที่มี expert 60 ตัว เลือกใช้ 4 ตัวต่อโทเคน ทำให้รุ่นเล็ก 1.3B ใช้จริงแค่ 272M ต่อโทเคน กินพื้นที่ 0.68GB ที่ INT4 และทำ MMLU 43.7 เทียบกับ 26.7 ของ Gemma 3 270M แต่ติดใบอนุญาต FAIR แบบ non-commercial และเป็นเช็กพอยต์ base ล้วน
· อ่าน 7 นาที
