ข้ามไปยังเนื้อหา

แท็ก

#Laya

3 บทความ

ไม่ต้องเทรนโมเดลตัดสินใจใหม่: Privatemode ใช้ GLM-5.3-Flash ตอบแบบ typed ด้วยโทเคนเดียวผ่าน logprobs ของ vLLM — ความแม่นยำไม่ต่างจาก Jev อย่างมีนัยสำคัญ อ่านภาพได้ด้วย แต่แพงกว่าราว 4 เท่า
เครื่องมือนักพัฒนา

ไม่ต้องเทรนโมเดลตัดสินใจใหม่: Privatemode ใช้ GLM-5.3-Flash ตอบแบบ typed ด้วยโทเคนเดียวผ่าน logprobs ของ vLLM — ความแม่นยำไม่ต่างจาก Jev อย่างมีนัยสำคัญ อ่านภาพได้ด้วย แต่แพงกว่าราว 4 เท่า

ทีม Privatemode ของ Edgeless Systems เผยแพร่เทคนิคและไลบรารี MIT ที่ทำให้ GLM-5.3-Flash ทำงานแบบโมเดลตัดสินใจอย่าง Jev ได้โดยไม่ต้อง fine-tune วิธีคือใส่หมายเลขให้ตัวเลือก เติมคำตอบไว้ล่วงหน้า แล้วอ่าน logprob ของโทเคนเดียว บน 28 ชุดข้อมูลแม่นเท่า Jev ในเชิงสถิติ (p = 0.64) และตอบคำถามที่มีภาพได้ แต่ต้นทุนราว €62 ต่อล้านครั้ง เทียบกับ €16 ของ Jev

· อ่าน 5 นาที
Ollaya — "Ollama สำหรับโมเดลตัดสินใจ" รัน Laya, Kev, Qwen3Guard ในเครื่องผ่าน API เดียวกับ TypeSafe ตอบใน 8–10 ms บน RTX 4090 พร้อม MCP server และ preset ตรวจคำสั่งของ agent
เครื่องมือนักพัฒนา

Ollaya — "Ollama สำหรับโมเดลตัดสินใจ" รัน Laya, Kev, Qwen3Guard ในเครื่องผ่าน API เดียวกับ TypeSafe ตอบใน 8–10 ms บน RTX 4090 พร้อม MCP server และ preset ตรวจคำสั่งของ agent

Ollaya เป็นเครื่องมือโอเพนซอร์ส Apache-2.0 ที่ดึงและเสิร์ฟโมเดลตัดสินใจแบบไม่สร้างข้อความ เช่น Laya, Kev, Von และ Qwen3Guard ในเครื่อง ด้วยคำสั่งแบบ Ollama และ API ที่ใช้แทน TypeSafe Jev ได้โดยเปลี่ยน environment variable ตัวเดียว ขึ้นหน้าแรก Hacker News 473 คะแนน และออก 5 เวอร์ชันใน 24 ชั่วโมง ส่วน Pydantic AI 2.50 ก็เพิ่มคลาส DecisionModel รองรับโมเดลประเภทนี้แล้ว

· อ่าน 4 นาที
Laya: โมเดลตัดสินใจ System 1 ขนาด 421M ใต้ Apache-2.0 — และตัวเลขภาษาไทยคือแถวที่กระโดดแรงที่สุดในตาราง 0.080 → 0.480
โมเดลใหม่

Laya: โมเดลตัดสินใจ System 1 ขนาด 421M ใต้ Apache-2.0 — และตัวเลขภาษาไทยคือแถวที่กระโดดแรงที่สุดในตาราง 0.080 → 0.480

18–19 ก.ย. Convai Innovations ปล่อย Laya สามเช็กพอยต์ใต้ Apache-2.0 — โมเดลตัดสินใจแบบไม่สร้างข้อความ ขนาด 421M/322M บน ModernBERT กับ mmBERT ตอบคำถามแบบมีชนิดพร้อมความน่าจะเป็นใน forward pass เดียว 32.8 มิลลิวินาที และในตาราง 51 ภาษา แถวที่ได้ประโยชน์จากการ route มากที่สุดคือภาษาไทย จาก 0.080 เป็น 0.480

· อ่าน 8 นาที