CLM-8B: โมเดลตัดสินใจแบบ System One ที่ไม่ generate สักโทเคน — ใช้ contrastive embedding บน Qwen3-8B กับหัวเทรนได้ 75MB เร็วกว่า Jev สูงสุด 9 เท่า เปิด Apache-2.0

ตลอดสัปดาห์ที่ผ่านมา เราเห็นโมเดลตัดสินใจแบบ “System One” ตามรอย Jev ของ TypeSafe ออกมาต่อเนื่อง ทั้ง Jevlike, สูตร Bespoke Nimble, Laya และ Kev ตัวที่ขึ้นหน้าแรก Hacker News เมื่อ 24 ก.ย. คือ CLM (Contrastive Language Models) จาก Contrastive-LM ตัวนี้ต่างจากตัวอื่นตรงที่ ไม่ได้ใช้ LLM ตอบเลือกคำตอบเลย แต่ใช้การเรียนรู้แบบ contrastive จับคู่ “สถานะ” กับ “การกระทำ” ในพื้นที่ embedding

repo บน GitHub สร้างเมื่อ 23 ก.ย. ใต้ Apache-2.0 ส่วนหัวโมเดล CLM-v0.1-8B ขนาด 75 MB อัปขึ้น Hugging Face ตั้งแต่ 21 ก.ย. แต่เพิ่งมี model card เมื่อ 24 ก.ย. ตัว repo ให้บริการผ่าน API ที่เข้ากับ TypeSafe ได้ คำขอที่เขียนไว้สำหรับ Jev จึงนำมาใช้ซ้ำกับ client.system_one(state, questions) ได้ทันที

ทำงานอย่างไร: ให้คะแนนด้วย embedding ไม่ใช่ด้วยโทเคน

• โครงสร้าง: ใช้ Qwen3-8B แบบ frozen เป็น encoder (last-token pooling) แล้วต่อ projection head ขนาด 20M พารามิเตอร์ ที่เทรนได้ ไฟล์ที่ดาวน์โหลดจึงมีแค่หัว 75 MB ส่วนตัว encoder ดึงจาก Qwen ตรง ๆ
• การเทรน: ใช้ InfoNCE แบบสองทาง ดึง embedding ของสถานะเข้าหาการกระทำที่ถูกต้อง และผลักออกจากตัวเลือกอื่น pre-train ด้วยคู่ Q&A จาก Nemotron 60M คู่ mid-train ด้วย hard negative สังเคราะห์ 30M และ post-train ด้วย trajectory ของเอเจนต์ 1M
• ตอนใช้งาน: คำถามแบบ typed (Noul สำหรับใช่/ไม่ใช่, Choice สำหรับเลือกหนึ่ง, Score สำหรับให้ระดับ) ถูกแปลงเป็นสถานะหนึ่งตัวกับชุดตัวเลือกปิด แล้ว softmax ของคะแนนความใกล้กันก็คือการกระจายความน่าจะเป็นของคำตอบ
• จุดขายด้านความเร็ว: embedding ของสถานะและตัวเลือกถูกแยกกัน จึง cache ใช้ซ้ำได้ ตัวเลือกที่เคยเห็นแล้วไม่ต้องเข้า encoder อีก ใน README ตัวอย่างคำถามสามข้อใช้ 38 โทเคน latency 58.1 ms

การรันต้องใช้ Linux กับ GPU ของ NVIDIA โดยเสิร์ฟ encoder ผ่าน vllm serve Qwen/Qwen3-8B --runner pooling แล้วเปิด clm-serve เป็นตัว API ซึ่งมี playground บนเว็บให้ด้วย ภาพในเอกสารถูกจับจากเครื่องที่ใช้ RTX 4090 ใบเดียว นอกจาก system_one ยังมีเมธอด rank ไว้จัดอันดับตัวเลือกอิสระ เช่นคำตอบ best-of-N, ชื่อ tool หรือเอกสารจาก retrieval

ตัวเลขที่ผู้พัฒนารายงาน

Zero-shot เทียบ Jev (latency เป็น ms):

งาน	CLM-8B	Jev	ความสำเร็จ CLM / Jev
T-Rex Game	16.5	149.8	5/5 · 5/5
Tool calling (BFCL v4)	76.8	125.5	95.2% · 99.2%
WikiRacing	79.8	225	26/30 · 30/30
Super Mario	33.5	132.6	5/5 · 5/5

ตัวเลข “เร็วกว่า 9 เท่า” มาจาก T-Rex ซึ่งตัวเลือกชุดเดิมวนกลับมาใช้ซ้ำบ่อย ทำให้ cache ได้ผลเต็มที่ ส่วนงาน tool calling เร็วกว่าเพียงราว 1.6 เท่า และ ความแม่นยังตาม Jev ทั้งใน BFCL v4 และ WikiRacing

ใช้เป็น verifier สำหรับงานเขียนโค้ด (หลังไฟน์จูน): ให้ Opus 5 (DeepSWE) และ Fable 5 (Terminal-Bench 2.1) สร้างคำตอบหลายชุด แล้วให้ CLM เลือกชุดที่ดีที่สุด

• DeepSWE: 81.6% (31/38 งาน) จาก pass@1 73.7% ส่วน Jev ได้ 71.1% ซึ่งต่ำกว่า pass@1 latency 79 ms เทียบกับ 449 ms
• Terminal-Bench 2.1: 87.6% จาก pass@1 84.0% ส่วน Jev ได้ 83.1% latency 32 ms เทียบกับ 131 ms (วัดบน H100)

อ่านตัวเลขให้ครบก่อนตื่นเต้น

1. ชุดทดสอบเล็กมาก DeepSWE มี 38 งาน, Terminal-Bench มี 30 งาน, T-Rex และ Super Mario มีเพียง 5 รอบ การได้ 1–2 งานเพิ่มหรือลดจึงเปลี่ยนเปอร์เซ็นต์ได้หลายจุด
2. คำว่า “SOTA” ในฐานะ verifier เป็นคำของผู้พัฒนาเอง และได้มาหลังไฟน์จูนหัวแยกสำหรับแต่ละ benchmark (repo ปล่อยหัว deepswe-clm-heads-8k ให้ reproduce ได้) ไม่ใช่ความสามารถแบบ zero-shot ส่วน Terminal-Bench เพิ่มขึ้นจาก pass@1 เพียง 3.6 จุด
3. ไม่มีผู้วัดอิสระ และในเอกสารก็ไม่ได้ระบุว่าองค์กร Contrastive-LM เป็นใคร บล็อกหลักอยู่บน Notion ที่แสดงผลด้วย JavaScript อย่างเดียว
4. ความเร็วขึ้นกับการซ้ำของสถานะ README บอกเองว่า “a loop that never repeats itself pays the encoder either way” คือถ้าเอเจนต์ไม่เคยเจอสถานะซ้ำ ก็ต้องจ่ายค่า encoder 8B ทุกครั้งอยู่ดี

มุมมอง AI Curator

ในบรรดาโคลนของ Jev ที่ออกมาเร็วมากตลอดสัปดาห์ CLM น่าสนใจที่สุดในเชิงความคิด เพราะมัน ไม่ได้พยายามทำ Jev ให้ถูกลง แต่ตั้งคำถามว่างานตัดสินใจจำเป็นต้องใช้ decoder หรือไม่ คำตอบของ CLM คือใช้ embedding อย่างเดียว ซึ่งเป็นเทคนิคที่ทีม search และ recommendation ใช้กันมานาน (two-tower, contrastive retrieval) การยกแนวคิดนี้มาใช้กับการเลือก action ของเอเจนต์ทำให้ได้ของที่ถูกและเร็ว และที่สำคัญคือ cache ได้ ซึ่งโมเดลแบบ generative ทำได้ยาก

สำหรับนักพัฒนาไทย ข้อดีเชิงปฏิบัติคือทุกส่วนเป็นของที่มีอยู่แล้ว Qwen3-8B อ่านภาษาไทยได้ดีพอสมควร และการไฟน์จูนต้องเทรนแค่หัว 20M พารามิเตอร์บน embedding ที่คำนวณไว้ล่วงหน้า งานอย่างการจัดหมวด ticket ภาษาไทย, route คำถามไปยัง tool หรือทีมที่ถูกต้อง และคัดคำตอบ best-of-N ของ coding agent จึงทดลองได้บน GPU ตัวเดียวภายในบ่ายเดียว ส่วนงานที่ต้องการความรู้หรือการให้เหตุผลหลายขั้น ตัวเลข BFCL และ WikiRacing บอกว่ายังไม่ควรทิ้ง LLM แบบเต็มตัว

ในภาพใหญ่ การที่ “decision model” มีตัวเลือกแบบเปิดถึง 5 แนวทางภายในสัปดาห์เดียว บอกว่า ชั้นการตัดสินใจราคาถูกกำลังจะแยกออกจาก LLM ตัวใหญ่ สถาปัตยกรรมเอเจนต์ปี 2027 คงไม่ใช่ LLM ตัวเดียวทำทุกอย่าง แต่เป็นโมเดลใหญ่ที่คิดวางแผน แล้วมีตัวให้คะแนนราคาถูกหลายตัวคอยกรองและเลือกอยู่รอบ ๆ ใครที่วัดต้นทุนต่อการตัดสินใจหนึ่งครั้งได้ก่อน จะได้เปรียบเรื่องค่า inference อย่างมาก

แหล่งข่าว

• Contrastive-LM/CLM — GitHub
• Contrastive-LM/CLM-v0.1-8B — Hugging Face
• Contrastive-LM Releases CLM-8B: An Open System One Model That Scores Agent Actions Up to 9× Faster Than Jev — MarkTechPost (23 ก.ย. 2026 เวลาสหรัฐฯ)