ข้ามไปยังเนื้อหา

แท็ก

#ModelExpress

1 บทความ

NVIDIA เปิด ModelExpress — ส่งเวตโมเดลข้าม GPU ตรง ๆ ลดเวลาสตาร์ต DeepSeek-V4 Pro จาก 8 นาที 44 วิ เหลือ 1 นาที 44 วิ
เครื่องมือนักพัฒนา

NVIDIA เปิด ModelExpress — ส่งเวตโมเดลข้าม GPU ตรง ๆ ลดเวลาสตาร์ต DeepSeek-V4 Pro จาก 8 นาที 44 วิ เหลือ 1 นาที 44 วิ

NVIDIA เปิดตัว ModelExpress ระบบกระจายเวตโมเดลที่ดึงจาก GPU เพื่อนบ้านผ่าน P2P RDMA แทนการโหลดซ้ำจาก object storage — ทดสอบกับ DeepSeek-V4 Pro บนโหนด 8xB200 ย้ายเวตและ JIT kernel cache ได้ในไม่ถึง 10 วินาที ลดเวลาสตาร์ตรวมจาก 8 นาที 44 วินาที เหลือ 1 นาที 44 วินาที

· อ่าน 5 นาที