Aleph Alpha ปล่อย Kolibri-1 โมเดล MoE 78B (active 3.46B) แบบ Apache-2.0 เน้นเยอรมัน-อังกฤษ — AIME 2025 ได้ 96.9 รองรับ context 1M แต่ยังแพ้ Qwen3.8-27B เกือบทุกช่อง

3 ต.ค. 2026 ซึ่งตรงกับวันรวมชาติเยอรมนี Aleph Alpha บริษัท AI จากไฮเดลแบร์กที่หายไปจากวงการโมเดลเปิดพักใหญ่ ปล่อย Kolibri-1 บน Hugging Face (repo Aleph-Alpha/Kolibri-1 สร้างเมื่อ 2 ต.ค. และ model card ระบุวันเปิดตัวว่า 3 ต.ค.) Kolibri-1 เป็นโมเดล reasoning แบบ Mixture-of-Experts ขนาด 78B ที่ใช้พารามิเตอร์จริงต่อโทเคนเพียง 3.46B ใช้ไลเซนส์ Apache-2.0 ซึ่งเป็นไลเซนส์เปิดเต็มรูปแบบ รองรับ context ได้ถึง 1,048,576 โทเคน มีโหมดคิดที่ปรับระดับได้ และรองรับ tool calling

ที่น่าสนใจคือมีบริษัทยุโรปปล่อยโมเดลที่เปิดข้อมูลการเทรนละเอียดระดับนี้ออกมา ทั้งจำนวนโทเคน จำนวน GPU ชั่วโมง พลังงานที่ใช้ และสัดส่วนข้อมูลภาษา แถมคะแนนก็แข่งได้จริงในกลุ่มโมเดลที่ active ราว 3B อย่างไรก็ตาม ถ้าดูจากตารางของ Aleph Alpha เอง Qwen3.8-27B ยังชนะเกือบทุกรายการ และโมเดลนี้รองรับเพียง ภาษาเยอรมันกับอังกฤษ เท่านั้น

สเปกและวิธีเทรน

ข้อมูลจาก model card และ config.json

รายการ	Kolibri-1
พารามิเตอร์รวม / active	78.1B / 3.46B ต่อโทเคน
Experts	384 ต่อชั้น (shared 1 + routed 6), 50 ชั้น
Attention	sliding window (513 โทเคน) สลับกับ full attention ในอัตรา 4:1
Context	เทรนจริงถึง 262,144 โทเคน ทดสอบแล้วถึง 1,048,576
ข้อมูลเทรน	pre-train 20T + mid-train 3.44T + long-context 201B โทเคน
ฮาร์ดแวร์เทรน	NVIDIA B200 768 ตัว pre-train 21 วัน (392k GPU-ชม.)
น้ำหนักที่ปล่อย	FP8 (~78 GB) และ BF16 (~156 GB)
ไลเซนส์	Apache-2.0 (ตรวจกับ GitHub ของ aleph-alpha-inference แล้ว)

มีรายละเอียดทางสถาปัตยกรรมที่ควรรู้คือ model card ระบุว่า ใส่ positional encoding เฉพาะในชั้น sliding window ส่วนชั้น full attention อีก 10 ชั้นไม่มีเลย ทีมจึงอ้างว่าขยาย context เกิน 262k ได้โดยไม่ต้องทำ position scaling สำหรับงานที่ต้องการ latency ต่ำ ทีมแนะนำให้ใช้ไม่เกิน 262k

บล็อกยังอธิบายเหตุผลที่เลือกขนาด 78B ทีมทดลองขยายโมเดลไปถึง 123B แล้วคุณภาพก็ดีขึ้นจริง แต่บน H100 สองตัว “123B can handle only 3 long-context 256k-token user queries on two H100s, while 78B handles 18 concurrent requests and decodes 28% faster” ต้นทุนการ serve จึงเป็นตัวตัดสิน ไม่ใช่คะแนนอย่างเดียว

ด้านภาษา Aleph Alpha ทำ tokenizer สองภาษาขึ้นมาเอง บล็อกระบุว่า 21.3% ของโทเคน pre-train เป็นภาษาเยอรมัน และใช้ข้อมูลแปลแค่ 6% (model card ใช้ตัวเลข ~23.9% เพราะนับจากคลังข้อมูลที่กรองแล้ว คนละฐานกับบล็อก) ก่อนหน้านี้ทีมเคยทำ Kolibri Origin ขนาด 30B (active 3B) ที่ context 65k โดยเทรนจบเมื่อ 11 มิ.ย. ส่วน Kolibri-1 เทรนจบ 11 ก.ย. ห่างกันแค่ 3 เดือน

คะแนนเทียบกับคู่แข่ง

ตัวเลขทั้งหมดมาจากตารางใน model card ซึ่ง Aleph Alpha วัดเอง ยังไม่มีผลจากหน่วยงานอิสระ

Benchmark	Kolibri-1	Qwen3.6 35B-A3B	GPT-OSS 120B	Nemotron 3 Super	Qwen3.8-27B (dense)
GPQA Diamond (EN)	84.3	83.4	76.4	78.0	89.2
MMLU-Pro CoT (EN)	80.0	84.3	80.8	82.7	85.0
AIME 2025 (EN)	96.9	84.6	90.6	91.7	97.9
LiveCodeBench v6	85.9	82.5	87.5	82.0	93.8
SWE-bench Verified	66.4	73.8	–	60.2	72.6
τ³-Bench (Banking)	38.1	10.6	14.7	15.5	50.0

สรุปได้ว่า ในกลุ่ม active ~3B Kolibri-1 นำชัดเจนด้านคณิตศาสตร์ (AIME) และงานเอเจนต์แบบ τ³-Bench ได้คะแนนห่าง Qwen3.6 35B-A3B มากกว่า 3 เท่า แต่ MMLU-Pro กับ SWE-bench Verified ยังแพ้ Qwen3.6 สำหรับ Qwen3.8-27B นั้น Aleph Alpha ใส่ไว้ในตารางเป็นสีเทาเพื่อใช้อ้างอิง และ Qwen3.8-27B ก็ชนะ Kolibri ทุกแถวในตารางนี้ ข้อแลกเปลี่ยนคือ Qwen3.8-27B เป็นโมเดล dense ที่ต้องคำนวณพารามิเตอร์ทั้ง 27B ต่อโทเคน ส่วน Kolibri คำนวณแค่ 3.46B ต่อโทเคน ข้อได้เปรียบของ Kolibri จึงอยู่ที่ throughput ไม่ใช่คะแนนสูงสุด

รันเองได้แค่ไหน

• ทางการ: ต้องติดตั้ง aleph-alpha-inference (ปลั๊กอิน vLLM) แล้วสั่ง vllm serve Aleph-Alpha/Kolibri-1 --kv-cache-dtype fp8 --reasoning-parser kolibri1 --tool-call-parser kolibri1 --enable-auto-tool-choice ได้ API แบบ OpenAI-compatible
• ฮาร์ดแวร์ขั้นต่ำ (FP8): H200 1 ตัว หรือ H100 2 ตัว หรือ B200 1 ตัว ใส่ GPU เกมมิ่งตัวเดียวไม่ได้
• ชุมชน: ภายในวันเดียวมีคนทำ quant ออกมาหลายตัว เช่น MLX 4-bit (ขนาด ~45 GB ซึ่งน่าจะพอดีกับ Mac แรม 64 GB) และ GGUF Q3_K_S แต่ตอนที่เขียนยัง ไม่พบ PR รองรับสถาปัตยกรรม kolibri1 ใน llama.cpp หรือ mlx-lm จึงยังไม่แน่ใจว่าไฟล์เหล่านั้นใช้กับเวอร์ชันหลักได้หรือไม่
• ปรับ reasoning_effort ได้เป็น low / medium / high / none ผ่าน chat template และค่าที่แนะนำคือ temperature=1.0, top_p=0.97, top_k=128

มุมมอง AI Curator

ผมว่า Kolibri-1 สำคัญในแง่ “ใครทำ” กับ “ทำอย่างไร” มากกว่าคะแนน ในวันที่โมเดลเปิดระดับท็อปเกือบทั้งหมดมาจากจีน การมีบริษัทยุโรปปล่อยโมเดล Apache-2.0 ที่เปิดเผยตั้งแต่จำนวน GPU ชั่วโมง พลังงาน (ประมาณ 950 MWh) ไปจนถึงสัดส่วนข้อมูลภาษา ทำให้ฝั่งองค์กรรัฐในยุโรปมีตัวเลือกที่ตอบคำถามเรื่อง EU AI Act และ supply chain ได้ ซึ่ง Qwen หรือ DeepSeek ให้ไม่ได้ ไม่ว่าคะแนนจะดีแค่ไหน

สำหรับคนไทย ข้อสังเกตที่ชัดที่สุดคือ Kolibri เลือกรองรับสองภาษาอย่างตั้งใจ ทั้ง tokenizer และข้อมูลถูกออกแบบมาสำหรับเยอรมันกับอังกฤษ ภาษาไทยจะถูกตัดเป็นโทเคนที่ไม่มีประสิทธิภาพและแทบไม่มีข้อมูลรองรับ ถ้าจะใช้ทำงานภาษาไทยตรง ๆ ผมไม่แนะนำ แต่สิ่งที่หน่วยงานไทยอย่าง SCB10X หรือ NECTEC เรียนรู้ได้คือสูตรนี้ “MoE active ~3B + tokenizer เฉพาะภาษา + เปิดข้อมูลการเทรนครบ” ซึ่งเป็นแนวทางที่ประเทศขนาดกลางทำได้จริง เพราะ Aleph Alpha ใช้งบประมาณ pre-train ประมาณ 6.4e23 FLOPs ซึ่งน้อยกว่าแล็บใหญ่หลายเท่า

ส่วนนักพัฒนาที่อยากทดลองตอนนี้ ผมแนะนำให้รอ benchmark จากหน่วยงานอิสระก่อน เช่น Artificial Analysis และรอให้ llama.cpp รองรับอย่างเป็นทางการ เพราะตารางของผู้พัฒนาเองมักเลือกคู่เทียบที่ทำให้ตัวเองดูดี ในตารางนี้เราเห็น Qwen3.8-27B เพราะ Aleph Alpha ใส่ไว้อย่างซื่อตรงเอง ซึ่งถือเป็นเรื่องที่ควรชม

แหล่งข่าว

• Aleph Alpha — Kolibri Has Landed: A Sovereign Open-Weight Model
• Hugging Face — Aleph-Alpha/Kolibri-1 (model card, ตารางคะแนน, config)
• Aleph Alpha — Kolibri Technical Report (PDF)
• GitHub — Aleph-Alpha/aleph-alpha-inference (ปลั๊กอิน vLLM)