แท็ก

#local inference

3 บทความ

antirez เขียน engine รัน MiniMax H3 บน Mac ด้วย Metal ล้วน — คลิป 512×512 ใน 3.5 วินาทีโหมดเร็ว และ int8 ที่ตัดพีค RAM จาก 36GB เหลือ 26GB
เครื่องมือนักพัฒนา

antirez เขียน engine รัน MiniMax H3 บน Mac ด้วย Metal ล้วน — คลิป 512×512 ใน 3.5 วินาทีโหมดเร็ว และ int8 ที่ตัดพีค RAM จาก 36GB เหลือ 26GB

Salvatore Sanfilippo (antirez) ผู้สร้าง Redis เปิดรีโป h3.c เมื่อ 9 ส.ค. 2026 — inference engine ภาษา C + Metal shader ล้วนสำหรับรันโมเดลวิดีโอ MiniMax H3 บน Mac โดยไม่ต้องมี Python หรือ PyTorch เลย ขึ้นอันดับต้นของ Hacker News วันนี้ด้วยดาว 848 ดวง

· อ่าน 6 นาที
MiniMax H3 ลงเครื่องตัวเองภายใน 48 ชั่วโมง — ComfyUI ตัดจาก 123.6GB เหลือ 42.5GB ชุมชนปั๊ม quant 63 รีโป แต่คำว่า '2K บนเครื่อง' ยังไม่จริง
เครื่องมือนักพัฒนา

MiniMax H3 ลงเครื่องตัวเองภายใน 48 ชั่วโมง — ComfyUI ตัดจาก 123.6GB เหลือ 42.5GB ชุมชนปั๊ม quant 63 รีโป แต่คำว่า '2K บนเครื่อง' ยังไม่จริง

หลังน้ำหนัก MiniMax H3 ขึ้น Hugging Face เมื่อ 3 สิงหาคม ComfyUI รองรับทันทีวันแรกพร้อมชุดน้ำหนักที่ตัด modulation weights ~40% ทิ้งและควอนไทซ์ int8 จนเหลือ 42.5GB จาก 123.6GB ขณะที่ชุมชนสร้างรีโปแปลงร่าง 63 รีโปใน 48 ชั่วโมง — แต่ที่ ComfyUI บอกว่ารัน 2K ได้บนเครื่องนั้น เอกสารของ MiniMax เองระบุว่าโมดูล 2K ยังไม่เปิดซอร์ส

· อ่าน 7 นาที
llama.cpp ผสาน Multi-Token Prediction — speculative decoding ในตัวที่เร่ง inference โลคอลเกิน 2 เท่า กระเพื่อมทั้งระบบนิเวศ GGUF
เครื่องมือนักพัฒนา

llama.cpp ผสาน Multi-Token Prediction — speculative decoding ในตัวที่เร่ง inference โลคอลเกิน 2 เท่า กระเพื่อมทั้งระบบนิเวศ GGUF

llama.cpp ผสาน PR #22673 เพิ่ม Multi-Token Prediction (MTP) speculative decoding เข้า master ทำให้โมเดลทำนายหลายโทเคนต่อรอบ เร่ง throughput เกิน 2 เท่าบนฮาร์ดแวร์ผู้บริโภค และส่งผลต่อทั้งระบบนิเวศที่สร้างบน llama.cpp

· อ่าน 4 นาที