ข้ามไปยังเนื้อหา

แท็ก

#diffusion

2 บทความ

Microsoft ปล่อย Mage-Flow โมเดลสร้างและแก้ภาพ 4B ใบอนุญาต MIT — 1024² ใน 0.59 วินาทีบน A100 ใบเดียว
โมเดลใหม่

Microsoft ปล่อย Mage-Flow โมเดลสร้างและแก้ภาพ 4B ใบอนุญาต MIT — 1024² ใน 0.59 วินาทีบน A100 ใบเดียว

Microsoft Research ปล่อย Mage-Flow โมเดลสร้างภาพและแก้ภาพตามคำสั่งขนาด 4B พร้อมน้ำหนักบน Hugging Face ภายใต้ใบอนุญาต MIT รองรับความละเอียดตั้งแต่ 512 ถึง 2048 พิกเซลแบบ native และตัว Turbo สร้างภาพ 1024² ได้ใน 0.59 วินาทีบน A100 ใบเดียว

· อ่าน 5 นาที
Google Developers Blog: DFlash บน TPU v5p เร่ง LLM inference 3.13x ค่าเฉลี่ย — peak ~6x สำหรับงาน math — UCSD พอร์ต block-diffusion speculative decoding ลง vLLM TPU stack
เครื่องมือนักพัฒนา

Google Developers Blog: DFlash บน TPU v5p เร่ง LLM inference 3.13x ค่าเฉลี่ย — peak ~6x สำหรับงาน math — UCSD พอร์ต block-diffusion speculative decoding ลง vLLM TPU stack

4 พ.ค. — Google Developers Blog ลง deep dive จากทีม UCSD Hao AI Lab ที่พอร์ต DFlash (block-diffusion speculative decoding) จาก GPU/PyTorch มาวิ่งบน Google TPU v5p ผ่าน vLLM TPU + JAX — ผลคือ 3.13x throughput เฉลี่ย ขึ้นถึง ~6x สำหรับ workload คณิต — เป็นอีกหนึ่ง signal ว่า inference economics กำลังเลื่อนจาก GPU-centric ไป hardware-aware spec-decode

· อ่าน 5 นาที