แท็ก

#2-bit

1 บทความ

Underdog Saluki 27B: บีบ Qwen3.8-27B เหลือไฟล์ GGUF 2-bit ขนาด 7.89 GB รันบน llama.cpp ปกติ ทำ tool calling ได้ 88/120 สูงกว่าโมเดลเต็ม (84) แต่คณิตศาสตร์ตกเหลือราว 82–85%
โมเดลใหม่

Underdog Saluki 27B: บีบ Qwen3.8-27B เหลือไฟล์ GGUF 2-bit ขนาด 7.89 GB รันบน llama.cpp ปกติ ทำ tool calling ได้ 88/120 สูงกว่าโมเดลเต็ม (84) แต่คณิตศาสตร์ตกเหลือราว 82–85%

Underdog ปล่อย Saluki 27B 1.0 (Apache-2.0) เวอร์ชัน 2-bit ของ Qwen3.8-27B ขนาด 7.89 GB จากเดิมราว 54 GB รันบน llama.cpp ตัวมาตรฐานได้เลย ในชุดทดสอบ tool calling 120 ข้อที่บริษัทคัดจาก BFCL v4 ทำได้ 88 ข้อ สูงกว่าโมเดลเต็ม (84) แต่ SWE-bench Verified 50 ข้อแก้ได้ 30 เทียบกับ 33 และคะแนน AIME ลดจากราว 95 เหลือราว 80

· อ่าน 5 นาที