NVIDIA เปิด Kumo Tabular — foundation model สำหรับตารางข้อมูล 28M–215M พารามิเตอร์ ทำนายได้ใน forward pass เดียวโดยไม่ต้องเทรน ขึ้นอันดับ 1 บน TabArena
งาน machine learning ที่องค์กรใช้มากที่สุดไม่ใช่แชตบอต แต่คือการทำนายจากตาราง เช่น churn, หนี้เสีย, ยอดขาย หรือราคา ซึ่งยี่สิบปีที่ผ่านมาใช้ gradient-boosted trees (XGBoost, LightGBM) เป็นหลัก เมื่อ 29 ก.ย. NVIDIA เปิด Kumo Tabular foundation model แบบเปิดสำหรับข้อมูลตาราง ใช้หลัก in-context learning แบบเดียวกับ LLM: ส่งแถวที่มี label เป็น context แล้วให้ทำนายแถวที่ยังไม่มี label ได้ใน forward pass เดียว ไม่ต้องเทรน ไม่ต้องจูน hyperparameter และไม่ต้องทำ feature engineering
โมเดลมาจากทีม Kumo ที่ NVIDIA (ในรายชื่อผู้เขียนมี Jure Leskovec และ Matthias Fey ผู้สร้าง PyG) มีสามขนาดคือ Small, Medium และ Large (28M ถึง 215M พารามิเตอร์) แยก checkpoint ระหว่าง classifier กับ regressor น้ำหนักอยู่บน Hugging Face ใต้ license OpenMDW-1.1 ที่ใช้เชิงพาณิชย์ได้ ส่วนไลบรารีสำหรับรัน structured-data-models เป็น Apache-2.0
ทำงานอย่างไร
- สถาปัตยกรรม: Transformer ที่ออกแบบตามโครงสร้างตาราง ต่อยอดจาก TabICL และ TabPFN มี column attention (ดูค่าในคอลัมน์ว่าปกติหรือผิดปกติ ต้นทุนโตเชิงเส้นตามจำนวนแถว), row attention (ดูความสัมพันธ์ระหว่างคอลัมน์ในแถว) แล้วบีบแต่ละแถวเป็น embedding ก่อนส่งให้ Transformer ตัวสุดท้ายทำ in-context learning
- แถวที่ต้องการทำนายไม่มองเห็นกันเอง: ผลทำนายของแต่ละแถวขึ้นกับ context และตัวมันเองเท่านั้น และ KV ของ context คำนวณครั้งเดียวแล้วนำไปใช้ซ้ำกับการทำนายครั้งถัดไปได้
- ผลลัพธ์: classification คืนความน่าจะเป็นของแต่ละคลาส ส่วน regression คืน 999 quantiles จึงได้ทั้งค่าทำนายและความไม่แน่นอน
- ข้อมูลเทรน: ใช้ ตารางสังเคราะห์ล้วน ที่สุ่มจาก Structural Causal Model พร้อมจงใจใส่ความไม่สมบูรณ์แบบข้อมูลจริง เช่น ค่าหาย, คอลัมน์ categorical หลายระดับ และ target ที่มีหางยาว รุ่น Small/Medium/Large เห็นตารางราว 35/71/137 ล้านตาราง context ยาวสุดตอนเทรน 60,000 แถว สูงสุด 100 คอลัมน์ NVIDIA บอกว่าจะเปิดสูตรเทรนและตัวสร้างข้อมูล “เร็ว ๆ นี้”
ตัวเลขที่ NVIDIA รายงาน
- TabArena: อันดับ 1 ด้วย ELO 1950 ด้วยการตั้งค่า default เทียบกับ GBDT ที่จูนแล้ว, AutoGluon และ tabular foundation model ตัวอื่น และ NVIDIA บอกว่าเร็วกว่า LimiX-2 17 เท่าบน RTX 6000 Pro ตัวเดียว
- BeyondArena: ELO 1418 อันดับ 1
- TALENT: อันดับเฉลี่ยดีที่สุดทั้ง accuracy, log-loss และ RMSE
- ScoringBench (วัดคุณภาพการกระจายของค่าทำนาย): รุ่น Large และ Medium ได้อันดับ 1 และ 2
ตัวเลขทั้งหมดมาจากโพสต์ของ NVIDIA เอง เรายังไม่ได้ตรวจกับหน้า leaderboard โดยตรง
ข้อจำกัดและจุดที่ต้องระวังก่อนลอง
- รับได้เฉพาะคอลัมน์ตัวเลขและ categorical ข้อความ รูปภาพ และ timestamp ต้องแปลงเป็น feature ก่อน (ไลบรารีมี recipe ให้)
- forward pass เดียวรองรับสูงสุด 10 คลาส ถ้ามากกว่านั้นไลบรารีใช้ error-correcting output codes ช่วย
- ความแม่นอาจลดเมื่อตารางใหญ่เกินช่วงที่เทรน หรือเมื่อแถวที่ทำนายมาจาก distribution ต่างจาก context
- เรื่องติดตั้ง: model card บอกให้
pip install structured-data-modelsแต่บน PyPI ตอนนี้ชื่อนี้มีแค่เวอร์ชัน0.0.0a0ที่ขึ้นเมื่อ 14 ก.ย. ส่วน README ของ repo บอกให้ติดตั้งจาก GitHub (pip install git+https://github.com/NVIDIA/structured-data-models.git) ต้องใช้ Python 3.11+ และ PyTorch 2.7+ - น้ำหนักเป็นไฟล์
.pt(PyTorch pickle) ไม่ใช่ safetensors ควรโหลดจาก repo ทางการเท่านั้น
มุมมอง AI Curator
ข่าวนี้อาจดูเงียบเมื่อเทียบกับ LLM ตัวใหม่ แต่สำหรับทีม data ในไทย ทั้งธนาคาร ประกัน ค้าปลีก และโลจิสติกส์ ซึ่งงานส่วนใหญ่ยังเป็น credit scoring, churn และพยากรณ์ยอดขายบนตาราง ข่าวนี้ใกล้งานจริงกว่า การทำ baseline ได้ในไม่กี่บรรทัดโดยไม่ต้องจูนช่วยลดเวลาจาก “มีคำถามธุรกิจ” ถึง “มีโมเดลแรกให้ดู” จากหลายวันเหลือไม่กี่นาที และโมเดลขนาดไม่กี่ร้อยล้านพารามิเตอร์รันบน GPU ขนาดกลางในองค์กรได้ ข้อมูลลูกค้าจึงไม่ต้องออกนอกบริษัท ซึ่งสำคัญภายใต้ PDPA
แต่ยังไม่ควรทิ้ง XGBoost ทันที ข้อแรก ตัวเลขทั้งหมดมาจาก NVIDIA และ tabular foundation model แข่งกันแรงมาก ทั้ง TabPFN, TabICL, LimiX และ TabFM ของ Google อันดับบน leaderboard เปลี่ยนเร็ว ข้อสอง งานที่ถูกกำกับดูแล เช่น credit scoring ต้องอธิบายได้ว่าทำไมปฏิเสธลูกค้า ซึ่ง GBDT ยังตอบได้ง่ายกว่า วิธีที่เหมาะคือใช้ Kumo Tabular เป็น baseline และตัวเปรียบเทียบ แล้ววัดผลบน holdout ของตัวเองตามที่ NVIDIA แนะนำไว้ ถ้าแพ้ GBDT ที่จูนแล้วแค่เล็กน้อยแต่ประหยัดเวลาได้มาก ก็คุ้มสำหรับงาน prototype และงานที่ต้องทำโมเดลหลายตัว
แหล่งข่าว
อ่านเพิ่มในหมวด โมเดลใหม่
Google เปิดตัว Gemini 4 Carbon ขึ้นอันดับ 1 Artificial Analysis v5 ด้วยคะแนน 59 แต่ยังให้ใช้แค่นักป้องกันไซเบอร์กลุ่มเล็ก
Gemini 4 Carbon เปิดตัว 28 ต.ค. แซง Claude Opus 5.5 บน Intelligence Index v5 แค่ 1 คะแนน และตามหลังเพียง 3 คะแนนในดัชนี coding agent ราคาเปิดตัว $2/$10 แต่นักพัฒนาทั่วไปยังเรียกใช้ไม่ได้ ระหว่างที่ Google ค่อย ๆ เปิดผ่านโปรแกรม Fairwind
Microsoft ปล่อย Mage-VL-Cowork โมเดล 4B คุมเดสก์ท็อปและเทอร์มินัลในตัวเดียว ได้ 66% บน OSWorld-Verified สัญญาอนุญาต Apache-2.0
Mage-VL-Cowork ขนาด 4B ของ Microsoft เลือกเองว่าจะคลิกหน้าจอหรือสั่ง bash ทำคะแนน OSWorld-Verified 66.0% ใกล้ค่าอ้างอิงมนุษย์ 72.4% ในตารางเดียวกัน แต่คำว่าดีที่สุดในขนาด 4B มีคู่เทียบบนตารางนี้แค่รุ่นเดียว
Mistral ปล่อยน้ำหนัก Large 4 จริงแล้ว — 1T ราคาลดเกือบครึ่ง แต่บน AA ได้ 26 และสัญญาอนุญาตห้ามขายเป็น API ถ้าไม่มีใบอนุญาตแยก
Mistral ปล่อยน้ำหนัก Large 4 (Le Chonk) เมื่อ 29 ต.ค. เป็นรุ่นที่ฝึก RL ต่ออีกสามสัปดาห์หลัง preview ขนาด 1T ใช้พื้นที่ราว 1.06TB ราคา API ลดเหลือ $0.70/$2.10 Mistral นำ open-weight ด้าน coding แต่คะแนนรวม AA 26 ตามหลังโมเดลจีน และสัญญาอนุญาตกันธุรกิจ Model-as-a-Service