ข้ามไปยังเนื้อหา

แท็ก

#deployment

1 บทความ

NVIDIA เปิด TensorRT Model Connect — จาก checkpoint บน Hugging Face ไปถึง C++ inference ด้วยสองคำสั่ง ไม่ต้องแวะ ONNX
เครื่องมือนักพัฒนา

NVIDIA เปิด TensorRT Model Connect — จาก checkpoint บน Hugging Face ไปถึง C++ inference ด้วยสองคำสั่ง ไม่ต้องแวะ ONNX

NVIDIA เผยแพร่ TensorRT Model Connect ภายใต้ Apache 2.0 — เครื่องมือ CLI ที่แปลง checkpoint จาก Hugging Face เป็น .bundle แล้วรัน inference ผ่าน C++ API ได้โดยไม่ต้องมี PyTorch ใน runtime และไม่ต้อง export ONNX กลางทาง MarkTechPost รายงานการเปิด public preview เมื่อ 18 ส.ค. 2026

· อ่าน 5 นาที