แท็ก

#AMD

8 บทความ

llama.cpp 0.5.0 ออกแล้ว + Vulkan int8 สำหรับ AMD RDNA3/4 — prompt processing บน Strix Halo เร็วขึ้นสูงสุด 1.36 เท่า แต่ต้องใช้ build b11160 ขึ้นไป ไม่ได้อยู่ใน 0.5.0
เครื่องมือนักพัฒนา

llama.cpp 0.5.0 ออกแล้ว + Vulkan int8 สำหรับ AMD RDNA3/4 — prompt processing บน Strix Halo เร็วขึ้นสูงสุด 1.36 เท่า แต่ต้องใช้ build b11160 ขึ้นไป ไม่ได้อยู่ใน 0.5.0

llama.cpp ปล่อย v0.5.0 เมื่อ 23 ก.ย. 2026 มาพร้อม ggml 0.25.0 รองรับ HRM-Text (DFM Mimir 1B) และแปลง MiMo-V2.6 ได้ --host ผูกได้หลายแอดเดรสรวมถึง UNIX socket และ function call ส่งภาพกลับได้ อีกหนึ่งวันต่อมา PR Vulkan int8 coopmat สำหรับ AMD RDNA3/RDNA4 ถูก merge ทำให้ pp512 บน Strix Halo เร็วขึ้น 1.06–1.36 เท่า แต่ฟีเจอร์นี้อยู่ใน nightly ตั้งแต่ b11160 ยังไม่อยู่ใน v0.5.0

· อ่าน 4 นาที
halogen 0.12.0: เอนจินที่เขียนเคอร์เนลให้ GPU ตัวเดียวและโมเดลตระกูลเดียว — prefill พรอมต์ 1 ล้านโทเคนบน Strix Halo เหลือ 17.9 นาที จาก 21.2 นาที
เครื่องมือนักพัฒนา

halogen 0.12.0: เอนจินที่เขียนเคอร์เนลให้ GPU ตัวเดียวและโมเดลตระกูลเดียว — prefill พรอมต์ 1 ล้านโทเคนบน Strix Halo เหลือ 17.9 นาที จาก 21.2 นาที

19 ก.ย. 2026 halogen-flash-server ออก 0.12.0 — เอนจิน inference ที่เขียนเคอร์เนลเฉพาะ AMD Strix Halo (gfx1151) กับ Qwen3.8-Flash-Next เท่านั้น รอบนี้รื้อสองเคอร์เนลของ sparse-attention indexer ทำให้พรอมต์ 1,004,581 โทเคน prefill เหลือ 17.9 นาทีและ decode 38 tok/s โดยเอาต์พุตยังเหมือนเดิมบิตต่อบิต — แต่เอนจินเป็นไบนารีปิดใต้ EULA ไม่ใช่โอเพนซอร์ส

· อ่าน 7 นาที
Unsloth Studio v0.1.811: ไล่ AMD ย้อนถึง RDNA1–RDNA2, มีอิมเมจ ROCm แยก, เพิ่มบัญชีผู้ใช้หลายคนแยกงานกัน และแซนด์บ็อกซ์ระดับ OS สำหรับ tool
เครื่องมือนักพัฒนา

Unsloth Studio v0.1.811: ไล่ AMD ย้อนถึง RDNA1–RDNA2, มีอิมเมจ ROCm แยก, เพิ่มบัญชีผู้ใช้หลายคนแยกงานกัน และแซนด์บ็อกซ์ระดับ OS สำหรับ tool

18 ก.ย. 2026 Unsloth ปล่อย v0.1.811-beta ที่ขยายการรองรับ AMD ย้อนไปถึงการ์ด RDNA1 และ RDNA2 พร้อมอิมเมจ Docker unsloth/unsloth-rocm แยกต่างหาก (RDNA2–RDNA4 และ CDNA) เพิ่มบัญชีผู้ใช้หลายคนที่แยกงานกันบนเครื่องติดตั้งเดียว และแซนด์บ็อกซ์ระดับ OS แบบพรีวิวสำหรับ Python/Terminal tool บน Linux กับ macOS

· อ่าน 6 นาที
AsmEvo: ให้เอเจนต์แก้ GPU kernel ที่ "ไม่มีซอร์สโค้ดแล้ว" — รื้อไบนารีที่คอมไพล์เสร็จ แก้แอสเซมบลี แล้วเร็วขึ้นเฉลี่ย 1.35 เท่าบน MI308X
เครื่องมือนักพัฒนา

AsmEvo: ให้เอเจนต์แก้ GPU kernel ที่ "ไม่มีซอร์สโค้ดแล้ว" — รื้อไบนารีที่คอมไพล์เสร็จ แก้แอสเซมบลี แล้วเร็วขึ้นเฉลี่ย 1.35 เท่าบน MI308X

เปเปอร์ที่ขึ้น arXiv เมื่อ 21 ส.ค. 2026 เสนอเอเจนต์ที่ปรับจูน GPU kernel ของ AMD ในระดับแอสเซมบลี โดยไม่ต้องมีซอร์สโค้ด — รับไบนารีที่คอมไพล์แล้วเป็นอินพุต แก้ทีละบรรทัด แล้วรับเฉพาะเวอร์ชันที่ผ่านการตรวจสอบว่าให้ผลลัพธ์เท่ากันแบบบิตต่อบิต ปรับปรุงได้ 29 จาก 30 kernel ของ KernelBench และเร่ง kernel ที่ vLLM/SGLang ใช้จริง

· อ่าน 7 นาที
มีคนรัน DeepSeek V4 Flash 304B บน MI300X ใบเดียวได้ 168 tok/s แล้วเปิด config ทั้งชุด — แต่ของจริงที่ควรอ่านคือบั๊ก 3 ตัวที่ทำให้โมเดล 'โง่ลงเงียบ ๆ' บน AMD
เครื่องมือนักพัฒนา

มีคนรัน DeepSeek V4 Flash 304B บน MI300X ใบเดียวได้ 168 tok/s แล้วเปิด config ทั้งชุด — แต่ของจริงที่ควรอ่านคือบั๊ก 3 ตัวที่ทำให้โมเดล 'โง่ลงเงียบ ๆ' บน AMD

repo ที่เปิดเมื่อ 4 ส.ค. (Apache 2.0) ปล่อย Docker Compose stack ที่รัน DeepSeek-V4-Flash-0731 ขนาด 304B บน AMD MI300X ใบเดียวได้ 168.6 tok/s ต่อ stream และ prefill 7.9–8.5K tok/s — พร้อมบันทึกบั๊กระดับ kernel สามตัวที่ไม่ทำให้ระบบ crash แต่ทำให้โมเดลเรียกชื่อ tool ผิดและลืม schema

· อ่าน 7 นาที
Hugging Face เปิดผลทดสอบ AMD Instinct MI455X ชุดแรก — ผ่าน 99.5% จาก 24 สถาปัตยกรรม Transformers และรับ long-context พร้อมกันได้กว่า 3 เท่าของ MI300
เครื่องมือนักพัฒนา

Hugging Face เปิดผลทดสอบ AMD Instinct MI455X ชุดแรก — ผ่าน 99.5% จาก 24 สถาปัตยกรรม Transformers และรับ long-context พร้อมกันได้กว่า 3 เท่าของ MI300

Hugging Face เผยผลทดสอบ Transformers ชุดแรกบน AMD Instinct MI455X ที่มี HBM4 ขนาด 432GB และแบนด์วิดท์สูงสุด 23.3 TB/s ต่อ GPU หนึ่งใบ — ผ่านราว 99.5% จาก 24 สถาปัตยกรรมหลัก เทียบเท่า MI300 (99.4%) และ NVIDIA A10 (99.1%) พร้อมรับ concurrent request แบบ long-context ได้เกิน 3 เท่าของ MI300 บน Qwen3-32B

· อ่าน 5 นาที
Unsloth รองรับการ์ด AMD แล้ว — เทรน/รันโมเดลบน ROCm เร็วขึ้น 2 เท่า กิน VRAM น้อยลง 70%
เครื่องมือนักพัฒนา

Unsloth รองรับการ์ด AMD แล้ว — เทรน/รันโมเดลบน ROCm เร็วขึ้น 2 เท่า กิน VRAM น้อยลง 70%

Unsloth v0.1.501-beta เพิ่มการรองรับ GPU ของ AMD เต็มรูปแบบเป็นครั้งแรก — เทรนและรัน LLM บนการ์ด Radeon, Instinct (MI300X/MI325X) และ Ryzen ได้ทั้งบน Windows, WSL และ Linux เคลมว่าเร็วขึ้นสูงสุด 2 เท่า ใช้ VRAM น้อยลง 70% โดยไม่เสียความแม่นยำ เปิดทางหลุดจากการผูกขาดของ CUDA

· อ่าน 5 นาที
ZML ปล่อย LLMD ฟรี: เซิร์ฟเวอร์ inference ที่รันได้ทั้ง Nvidia, AMD, TPU, Apple Metal และ Intel Arc — แต่ครั้งนี้ไม่โอเพนซอร์ส
เครื่องมือนักพัฒนา

ZML ปล่อย LLMD ฟรี: เซิร์ฟเวอร์ inference ที่รันได้ทั้ง Nvidia, AMD, TPU, Apple Metal และ Intel Arc — แต่ครั้งนี้ไม่โอเพนซอร์ส

สตาร์ตอัพฝรั่งเศส ZML เปิดตัว LLMD เซิร์ฟเวอร์ inference ที่รันโมเดลได้บนชิปหลากค่าย ทั้ง Nvidia, AMD, Google TPU, Apple Metal และ Intel Arc ปล่อยให้ใช้ฟรีแต่ไม่ใช่โอเพนซอร์ส — ต่างจากเฟรมเวิร์กตัวเดิมของบริษัทที่เปิดโค้ดเมื่อปี 2024

· อ่าน 4 นาที