IBM ปล่อย Granite Switch 4.1 (8B/30B, Apache-2.0): รวมแชต, decision adapter, ตัวตรวจความปลอดภัย และ ASR ไว้ใน endpoint เดียวด้วย aLoRA ที่ใช้ KV cache ร่วมกัน — ท้าชน Jev แต่คะแนน Decision Index ยังอยู่ที่ 42.9/50.1

IBM ปล่อย Granite Switch 4.1 ในขนาด 8B และ 30B ภายใต้ Apache-2.0 (การ์ดโมเดลลงวันที่ 14 ต.ค. บล็อกเปิดตัวบน Hugging Face ลง 15 ต.ค. 2026) แนวคิดคือให้ endpoint เดียวสลับทำได้สามงาน คือ ตอบแชตปกติ, ตอบคำถามแบบเลือกตัวเลือก (decision) และถอดเสียงเป็นข้อความ โดยไม่ต้องเปิดเซิร์ฟเวอร์แยกสำหรับแต่ละงาน

เบื้องหลังคือการเอาโมเดลฐาน Granite 4.1 มาประกอบกับ activated LoRA (aLoRA) หลายตัว และฝังตัวถอดเสียงไว้ด้วย IBM บอกว่าทั้งชุดกิน VRAM ใกล้เคียงโมเดลฐานตัวเดียว และเพราะ aLoRA ใช้ KV cache จากการรันโมเดลฐานซ้ำได้ การถามคำถามตัดสินใจต่อจากบทสนทนาเดิมจึงแทบไม่ต้องคำนวณ context ใหม่ ข่าวนี้ออกมาหนึ่งวันหลัง TypeSafe ปล่อย Jev 1.14 และบล็อกของ IBM ก็เทียบกับ Jev โดยตรงหลายจุด

ในกล่องมีอะไร

ทั้ง 8B และ 30B ใส่ส่วนประกอบเหมือนกัน:

• Decision aLoRA — รับ state กับคำถามที่มีตัวเลือกติดป้าย แล้วคืน การแจกแจงความน่าจะเป็นแบบ softmax ของป้ายตัวเลือกในการรันครั้งเดียว ใช้กับ API แบบ v1/systemone ได้ ปัจจุบันอยู่ใน granitelib-core-r1.0
• Guardian Core aLoRA — ตรวจความเสี่ยง เช่น เนื้อหาอันตราย, jailbreak, คำหยาบ, ความรุนแรง และอคติ IBM อ้างว่า โดยเฉลี่ยชนะ Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions และ Clef-Flash ในงานตัดสินใจด้านความปลอดภัย
• Granite Speech 5.0 TurboCTC (470M, ภาษาอังกฤษ) — ASR ที่ IBM บอกว่าเร็วที่สุดบน OpenASR Leaderboard รับเสียงผ่าน input_audio ของ API แบบ OpenAI ได้เลย

โมเดลฐานรองรับ context 128K รันได้บน Transformers และ vLLM ถ้าต้องการชุด adapter ครบทั้ง Granite Libraries (แต่ไม่มีเสียง) มีรุ่น -preview ขนาด 3B, 8B และ 30B ให้ใช้แยก

ตัวเลขที่ควรดู

การ์ดโมเดลรายงานคะแนน decision adapter บน Decision Index (ชุด fast subset สาธารณะ 1,068 ข้อ, edition v0.3) ได้ 42.9 สำหรับ 8B และ 50.1 สำหรับ 30B โดยรุ่น 30B ทำส่วน Tools ได้ 76.5 แต่ส่วน Knowledge ได้แค่ 32.4 และ Arts 26.4 คะแนนนี้ใช้คนละชุดข้อสอบกับตัวเลขภายในที่ TypeSafe ใช้กับ Jev จึงเอามาเทียบกันตรง ๆ ไม่ได้ ส่วนคำอ้างว่า Guardian ชนะ Jev เป็นผลจากงานด้านความปลอดภัยเฉพาะทาง ไม่ใช่งานตัดสินใจทั่วไป

IBM ยังโชว์เดโมสองอย่าง อย่างแรกคือ “แข่ง” งาน RAG 5 ขั้นระหว่าง Granite-Switch-4.1-30B ที่มี aLoRA เฉพาะทาง 4 ตัว กับ Jev-27B ซึ่ง IBM บอกว่าเสร็จเร็วกว่ามาก อย่างที่สองคือ Granite Switch 3B ที่ใส่ adapter เล่น Doom ได้ 60–100 การตัดสินใจต่อวินาที เทียบกับ 10 ครั้งต่อวินาทีที่ Jev รายงาน ทั้งสองเดโมเป็นการทดสอบของ IBM เองและยังไม่ได้เปิดรายละเอียดการวัด

ข้อจำกัดที่การ์ดเขียนไว้เอง

• ตัว ASR กับ LLM ยังไม่ได้เทรนร่วมกัน เพราะยังไม่มี projection เชื่อมสองฝั่ง ระบบแค่ถอดเสียงเป็นข้อความแล้วแทรกลงในบทสนทนา รองรับเฉพาะภาษาอังกฤษ และได้ข้อความตัวพิมพ์เล็กไม่มีเครื่องหมายวรรคตอน
• decision adapter ยังไม่มี intrinsic ใน Mellea (ไลบรารีที่ IBM แนะนำ) ต้องเรียกผ่าน prompt ระดับล่างไปก่อน และ Adapter SDK สำหรับเทรน adapter ของตัวเองยังอยู่ในแผน
• ใครอยากประกอบ checkpoint เองทำได้ด้วยสคริปต์ compose_granite_switch ใน repo generative-computing/granite-switch โดยเลือก adapter จาก catalog ได้

มุมมอง AI Curator

ตลาดโมเดลตัดสินใจที่ Jev เริ่มไว้เมื่อกลางเดือน ก.ย. ตอนนี้มีทั้ง Kev, Clef, pplx-decider, d1 และ Microsoft-Decision-1 แต่ทุกเจ้ายังแข่งกันที่คำถามเดียวว่าโมเดลไหนตอบตัวเลือกได้แม่นที่สุด IBM เลือกแข่งคนละแบบ คือเรื่องการ deploy ถ้าแชต, ตัวตัดสินใจ, ตัวกรองความปลอดภัย และ ASR ใช้ GPU กับ KV cache ชุดเดียวกันได้ ทีมที่รัน vLLM เองจะลดจำนวนเซิร์ฟเวอร์ลงได้จริง เรื่องนี้สำคัญกับองค์กรไทยที่ต้องเก็บข้อมูลไว้ในประเทศและมี GPU อยู่ไม่กี่ใบ มากกว่าคะแนนที่ต่างกันไม่กี่แต้ม

แต่ต้องดูตัวเลขตามจริง คะแนน Decision Index 42.9 ของรุ่น 8B ยังห่างจากผู้นำพอสมควร IBM จึงชูจุดแข็งที่ adapter เฉพาะทางแทน ข้อเสนอที่น่าสนใจที่สุดคือ Adapter SDK ที่ยังไม่ออก ถ้าเทรน aLoRA สำหรับงานจำแนกของตัวเองได้ง่าย เช่น คัดกรองคำร้องหรือตรวจเอกสารภาษาไทย Granite Switch จะกลายเป็นแพลตฟอร์มให้ประกอบโมเดลเองได้ ไม่ใช่แค่ตัวเลือกเพิ่มอีกตัวในตลาด decision model ส่วน ASR ที่รองรับแค่ภาษาอังกฤษแปลว่าคนไทยยังต้องใช้ตัวถอดเสียงแยกไปอีกสักพัก

แหล่งข่าว

• Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint — Hugging Face Blog
• ibm-granite/granite-switch-4.1-8b — การ์ดโมเดล
• ibm-granite/granite-switch-4.1-30b — การ์ดโมเดล
• generative-computing/granite-switch — GitHub