ข้ามไปยังเนื้อหา

แท็ก

#latency

5 บทความ

Pipecat ปล่อย PhoneLLM Alpha 1 ใต้ BSD — ฟายน์จูน Nemotron 3 Nano 30B-A3B ดันคะแนน PhoneBench จาก 28.6% เป็น 72.3% เท่า GPT-5.6 Terra ที่ค่ารันถูกกว่า 14 เท่า
โมเดลใหม่

Pipecat ปล่อย PhoneLLM Alpha 1 ใต้ BSD — ฟายน์จูน Nemotron 3 Nano 30B-A3B ดันคะแนน PhoneBench จาก 28.6% เป็น 72.3% เท่า GPT-5.6 Terra ที่ค่ารันถูกกว่า 14 เท่า

27 ส.ค. 2026 ทีม Pipecat ของ Daily ปล่อย PhoneLLM Alpha 1 น้ำหนักเปิดใต้ BSD 2-Clause — ฟายน์จูนเต็มพารามิเตอร์จาก NVIDIA Nemotron 3 Nano 30B-A3B เฉพาะงานเอเจนต์รับสาย พร้อมเบนช์มาร์กของตัวเองชื่อ PhoneBench v1 ตัวเลขที่สำคัญที่สุดไม่ใช่ 72.3% แต่คือโมเดลฐานตัวเดียวกันได้แค่ 28.6%

· อ่าน 8 นาที
OpenAI เปิดพรีวิว Ultrafast — GPT-5.6 Sol ตัวเดิม แต่วิ่งที่ 750 โทเค็น/วินาที บนชิป Cerebras
ผลิตภัณฑ์

OpenAI เปิดพรีวิว Ultrafast — GPT-5.6 Sol ตัวเดิม แต่วิ่งที่ 750 โทเค็น/วินาที บนชิป Cerebras

OpenAI เปิดตัว Ultrafast เมื่อ 13 ส.ค. 2026 — service tier ใหม่ที่รัน GPT-5.6 Sol เร็วขึ้นถึง 14 เท่าที่ 750 โทเค็นเอาต์พุตต่อวินาที โดยใช้ชิป wafer-scale ของ Cerebras ยังเป็นพรีวิวจำกัดเฉพาะลูกค้ากลุ่มเล็กและยังไม่ประกาศราคา

· อ่าน 5 นาที
งานวิจัยใหม่: LLM 'รู้ล่วงหน้า' ว่าคำตอบจะยาวแค่ไหน — ความยาวทั้งหมดอ่านได้จาก hidden state ก่อนพิมพ์โทเคนแรกด้วยซ้ำ
งานวิจัย

งานวิจัยใหม่: LLM 'รู้ล่วงหน้า' ว่าคำตอบจะยาวแค่ไหน — ความยาวทั้งหมดอ่านได้จาก hidden state ก่อนพิมพ์โทเคนแรกด้วยซ้ำ

งานวิจัย interpretability ใหม่พบว่า LLM เข้ารหัส 'ความยาวคำตอบที่เหลือ' ไว้เป็นทิศทางเชิงเส้นใน hidden state — decode ความยาวทั้งหมดออกมาได้จาก state สุดท้ายของ prompt ก่อนพิมพ์โทเคนแรก และ probe ยังขยับขึ้นตอนโมเดล 'ถอยกลับไปเริ่มใหม่' บ่งชี้ว่ามีการวางแผนความยาวในหัว

· อ่าน 5 นาที
Hugging Face + Cerebras เปิดสแตกเสียงเรียลไทม์แบบเปิดทั้งเส้น — Parakeet → Gemma 4 บน Cerebras → Qwen3-TTS สลับชิ้นส่วนได้อิสระ
เครื่องมือนักพัฒนา

Hugging Face + Cerebras เปิดสแตกเสียงเรียลไทม์แบบเปิดทั้งเส้น — Parakeet → Gemma 4 บน Cerebras → Qwen3-TTS สลับชิ้นส่วนได้อิสระ

1 ก.ค. 2026 Hugging Face จับมือ Cerebras ปล่อยสแตกสนทนาด้วยเสียงแบบเรียลไทม์ที่เปิดทั้งเส้น — Parakeet ถอดเสียง, Gemma 4 31B คิดบน Cerebras, Qwen3-TTS พูดกลับ — ทุกชิ้นเปิดและสลับได้ พร้อมโค้ดจริงบน GitHub และ argument ที่น่าสนใจว่าตัวฆ่าแอปเสียงคือ P95 tail latency ไม่ใช่ค่าเฉลี่ย

· อ่าน 5 นาที
GitHub Copilot เพิ่ม 'fast mode' ของ Claude Opus 4.8 — เร็วขึ้นเยอะ ฉลาดเท่าเดิม แต่แพงกว่าและแอดมินต้องเปิดเอง
เครื่องมือนักพัฒนา

GitHub Copilot เพิ่ม 'fast mode' ของ Claude Opus 4.8 — เร็วขึ้นเยอะ ฉลาดเท่าเดิม แต่แพงกว่าและแอดมินต้องเปิดเอง

29 มิ.ย. 2026 GitHub เพิ่ม fast mode ของ Claude Opus 4.8 เข้า Copilot แบบ preview — output token เร็วขึ้นมากที่ความฉลาดเท่าเดิม เหมาะกับ agentic loop ที่ latency เป็นคอขวด ใช้ได้บน Pro+, Max, Business, Enterprise ครอบคลุม IDE หลายตัว แต่ราคาสูงกว่า Opus 4.8 ปกติ และบนแพ็กเกจองค์กรปิดไว้เป็น default — แอดมินต้องเปิดนโยบายเอง

· อ่าน 4 นาที