Unsloth เทรน decision model เองได้แล้ว: แปลง Qwen3.5 / Llama 3.2 / Gemma 4 เป็นโมเดลตัดสินใจด้วย LoRA ใช้ VRAM 4 GB ความแม่นยำขึ้นจากระดับเดาสุ่ม (~30%) เป็น 78–81% พร้อม OS sandbox ทั้ง 3 ระบบปฏิบัติการ

กระแส decision model ที่เริ่มจาก Jev ของ TypeSafe และตามมาด้วย Clef ของ Cloudflare OpenAI Decisions API และ Microsoft-Decision-1 ตอนนี้มาถึงฝั่ง fine-tuning แล้ว Unsloth ออกรุ่น v0.1.904-beta (7 ต.ค.) ตามด้วย v0.1.905-beta (8 ต.ค.) ให้นักพัฒนาเทรน decision model จาก LLM ตัวไหนก็ได้ทั้งในแอป Unsloth Desktop และผ่านโค้ด Python

ก่อนหน้านี้ถ้าอยากได้ decision model ต้องใช้ API ของผู้ให้บริการหรือโหลดโมเดลที่คนอื่นเทรนไว้ ตอนนี้เอาข้อมูลที่มี label ของตัวเองมาเทรน LoRA บน GPU 4–8 GB ได้ภายในไม่ถึงชั่วโมง แล้วเปิดบริการผ่าน endpoint ที่ใช้รูปแบบเดียวกับ Decision API ได้เลย รุ่นเดียวกันนี้ยังเพิ่ม OS-level sandbox ให้ tool call ด้วย

ทำงานอย่างไร

Unsloth นำ input กับคำถามทุกข้อและตัวเลือกทั้งหมดมาต่อเป็น prompt เดียว ให้ LLM อ่านครั้งเดียว จากนั้น head ขนาดเล็กที่ออกแบบแบบเดียวกับ Clef จะอ่าน hidden state ตรงตำแหน่งของแต่ละตัวเลือก แล้วให้คะแนนทุกตัวเลือกพร้อมกัน โมเดลไม่สร้างข้อความเลย จึงไม่ต้องเสียหน่วยความจำไปกับ word prediction คำตอบที่ได้มีสามแบบ คือ option key (choice), True/False และระดับคะแนน (score) และมีขั้นตอน calibrate บนข้อมูล holdout ให้ความน่าจะเป็นที่ได้ตรงกับความแม่นยำจริง

from unsloth import FastDecisionModel, DecisionTrainer
model, tokenizer = FastDecisionModel.from_pretrained(
    model_name = "unsloth/Qwen3.5-4B", max_seq_length = 2048, load_in_4bit = True)
model = FastDecisionModel.get_peft_model(model, r = 16, lora_alpha = 16)
items, report = FastDecisionModel.build_dataset(dataset, tokenizer, model)

ค่าที่แนะนำ: 4-bit LoRA rank 16, learning rate 2e-4 (ส่วน head ใช้ 1e-4), 2 epoch ถ้าข้อมูลน้อยให้เพิ่มเป็น 3–4 epoch ถ้าอยากลองเร็วๆ ให้ตั้ง max_steps = 60 ซึ่ง Qwen3.5-4B ได้ 76% ใน 10 นาทีบน L4 ตอนใช้งานจริงอ่าน input ได้สูงสุด 16,384 โทเคน

ตัวเลขจาก Unsloth

โมเดล	holdout accuracy	VRAM	เวลาเทรน
Qwen3.5-0.8B	78%	4 GB	42 นาที
Qwen3.5-2B	81%	8 GB	40 นาที
Llama 3.2 3B	79%	4.1 GB	30 นาที
Gemma 4 E4B	77%	14.4 GB	49 นาที
Laya (fine-tune ต่อ)	77%	2.5 GB	10 นาที

เมื่อแยกดูทีละชุดข้อมูล Qwen3.5-0.8B ขึ้นจาก 36% เป็น 73% บน typed-decisions, จาก 7% เป็น 74% บน BANKING77 และจาก 19% เป็น 76% บน CLINC150 ชุดทดสอบมี 3,000 แถว โดย Unsloth บอกว่าตัดข้อมูลที่ซ้ำกับชุดเทรนออกแล้ว ข้อมูลเทรนผสมจาก 12 แหล่ง (ag_news, mmlu, mnli, prompt_injections ฯลฯ) บวก typed-decisions

เทรนเสร็จแล้ว กด Use in Decision API ได้เลย คำขอที่ใช้ชื่อโมเดล laya, default หรือ jev-latest จะถูกส่งไปที่โมเดลของเรา นอกจากนี้ยัง export Clef ที่ใช้ backbone Qwen3.5 และ Laya เป็น GGUF แล้วเสิร์ฟผ่าน llama.cpp ได้ (ต่อยอดจาก endpoint decision ที่ llama.cpp เพิ่มไว้) มี notebook ฟรีบน Colab และ Kaggle ให้ด้วย

OS sandbox ครบ 3 ระบบปฏิบัติการ

Unsloth Desktop มีเอเจนต์ที่เรียก tool ได้ ตอนนี้จึงมี sandbox สองระดับ ระดับ Low เป็น software sandbox ที่ตรวจทุก tool call ด้วย string, AST และ regex (เช่นบล็อก rm -rf หรือการขโมย token) ระดับ High เป็น sandbox ระดับ OS ที่จำกัดให้ tool call เข้าถึงได้เฉพาะโฟลเดอร์ workspace

OS	กลไก	latency ต่อ call
Windows	MXC (Windows 11 24H2 ขึ้นไปมีติดมาแล้ว)	164 ms
Linux	bubblewrap (เลือก High แล้ว Unsloth ติดตั้งให้)	50 ms
macOS	Seatbelt (เปิดให้อัตโนมัติ)	110 ms

MXC ตัวเดียวกันนี้คือที่ GitHub Copilot ใช้ทำ local sandbox ซึ่งเพิ่ง GA เมื่อสัปดาห์นี้ นอกจากนี้รุ่นนี้ยังโหลดโมเดล diffusion ของ ComfyUI ได้โดยตรง และเทรน Qwen3.5-35B-A3B ด้วย QLoRA ได้เร็วขึ้นสูงสุด 4.1 เท่า

มุมมอง AI Curator

ข้อนี้คือสัญญาณว่า decision model กำลังเปลี่ยนจากสินค้าของผู้ให้บริการไม่กี่รายมาเป็น รูปแบบงานที่ใครก็ทำเองได้ เหมือนที่ LoRA ทำกับ chat model เมื่อสองปีก่อน งานที่เหมาะที่สุดคืองานที่องค์กรไทยทำซ้ำทุกวันแต่ใช้ LLM ใหญ่แล้วแพงหรือช้า เช่น จัดหมวด ticket ร้องเรียน คัด intent ของแชตบอตธนาคาร (BANKING77 ที่ Unsloth ใช้ทดสอบก็คืองานแบบนี้) หรือเลือก route ของเอเจนต์ โมเดล 0.8B ที่ตอบเป็นความน่าจะเป็นและ calibrate แล้ว รันบน GPU ราคาไม่กี่พันบาทได้ และที่สำคัญกว่าคือข้อมูลภาษาไทยของเราเองไม่ต้องส่งออกไปนอกบริษัท

แต่ต้องอ่านตัวเลขให้ถูก 78–81% เป็นค่าเฉลี่ยบนชุดทดสอบภาษาอังกฤษที่ Unsloth จัดเอง และ baseline ราว 30% คือโมเดลที่ยังไม่ได้เทรนเลย ไม่ใช่คู่แข่ง ยังไม่มีการเทียบตรงๆ กับ Clef หรือ Jev บนชุดเดียวกัน ถ้าจะใช้งานจริงควรเทียบกับ baseline ที่ถูกที่สุดที่มีอยู่ก่อน เช่น classifier เดิมหรือ embedding + logistic regression ถ้าส่วนต่างไม่มาก ก็ยังไม่คุ้มที่จะเพิ่มโมเดลอีกตัวเข้ามาในระบบ ส่วนเรื่อง sandbox เป็นเรื่องที่ควรเป็นค่าตั้งต้นมานานแล้ว อีกไม่นานเครื่องมือ local AI ที่ปล่อยให้เอเจนต์รัน shell โดยไม่มี sandbox น่าจะหาที่ยืนยากขึ้นเรื่อยๆ

แหล่งข่าว

• Train your own Decision Model with Unsloth — Unsloth Docs
• Sandboxing in Unsloth — Unsloth Docs
• Unsloth releases (v0.1.904-beta / v0.1.905-beta) — GitHub