แท็ก

#Embeddings

3 บทความ

Google ปล่อย EmbeddingGemma 2: โมเดล embedding 740M ไลเซนส์ Apache 2.0 รวมข้อความ ภาพ เสียง และวิดีโอไว้ในเวกเตอร์ 768 มิติชุดเดียว โหลดเฉพาะ encoder ที่ใช้ได้ — งานโค้ดดีขึ้นชัด แต่ข้อความหลายภาษาแทบเท่าเดิม

6 ต.ค. 2026 Google DeepMind ปล่อย EmbeddingGemma 2 โมเดล embedding แบบเปิดขนาด 740M ที่แปลงข้อความ โค้ด ภาพ เสียง และวิดีโอลงพื้นที่เวกเตอร์ 768 มิติเดียวกัน ใช้ Apache 2.0 รองรับ Matryoshka ตัดเหลือ 128–512 มิติ และแยกโหลด encoder ภาพ/เสียงได้ คะแนน MTEB code ขึ้นจาก 68.76 เป็น 78.68 แต่ MTEB หลายภาษาแทบไม่ขยับ (61.15 → 61.36)

7 ต.ค. 2569 · อ่าน 4 นาที

เครื่องมือนักพัฒนา

สัปดาห์ของ embedding: Perplexity ปล่อย pplx-embed-v2-context-9b แบบเปิด (MIT) ที่ฝึกให้ดึงทั้งคำตอบและหลักฐาน, Cohere เปิด Embed 5 context 128K และ turbopuffer ฝังการทำ embedding ไว้ในฐานข้อมูล — แต่ในภาษาไทย Gemini ยังนำ

ปลายเดือนกันยายน 2026 มีของใหม่ฝั่ง retrieval ออกมาสามชิ้นติดกัน: Perplexity กับ turbopuffer เปิด pplx-embed-v2-context-9b-preview (MIT) ที่ฝังแต่ละ chunk โดยเห็นทั้งเอกสาร และนำ Voyage Context 4 บน context-bench 14.4 จุด, Cohere ปล่อย Embed 5 Pro/Fast ที่ context 128K และ self-host ด้วย vLLM ได้ ส่วน turbopuffer เปิด native embedding เป็น GA และประกาศเลิกใช้ ANN เป็น primary index

2 ต.ค. 2569 · อ่าน 6 นาที

โมเดลใหม่

Lattice: โมเดล retrieval ขนาด 7.94 MB ที่ฝัง Wikipedia อังกฤษทั้ง 6.4 ล้านบทความบน MacBook Air ได้ใน 7 นาที

Lattice คือ static retriever ที่ไม่มี transformer เลย — แค่ตาราง embedding 30,522 × 1,024 กับ mean pooling ทำได้ 0.4697 NDCG@10 บน BEIR ที่ขนาดไฟล์ 7.94 MB และ 9.52 ล้านโทเคน/วินาทีบน CPU ปล่อยครบทั้ง training pipeline และ runtime ภาษา Rust ใต้ MIT

10 ส.ค. 2569 · อ่าน 5 นาที