แท็ก

#LiteLLM

6 บทความ

โมเดลที่ถูกถอด refusal เข้าแคตตาล็อก LiteLLM แล้ว — เพิ่มผู้ให้บริการ Refuseless ขาย GLM-5.3 abliterated $1.25/$2.25 ส่วน DeepSeek-V4.1-Flash-1017 มีฉบับ abliterated บน HF ภายใน 8 วันหลังปล่อย
ธุรกิจและกฎหมาย

โมเดลที่ถูกถอด refusal เข้าแคตตาล็อก LiteLLM แล้ว — เพิ่มผู้ให้บริการ Refuseless ขาย GLM-5.3 abliterated $1.25/$2.25 ส่วน DeepSeek-V4.1-Flash-1017 มีฉบับ abliterated บน HF ภายใน 8 วันหลังปล่อย

LiteLLM โพสต์บล็อกเมื่อ 26 ต.ค. 2026 โปรโมตโมเดลที่ถูกถอดพฤติกรรมปฏิเสธ (abliterated) จากผู้ให้บริการ 2 เจ้า และเมิร์จ PR เพิ่ม Refuseless เป็น provider ใหม่ในวันรุ่งขึ้น ขาย GLM-5.3 abliterated ที่ $1.25/$2.25 ต่อล้านโทเคน ส่วนบน Hugging Face มี DeepSeek-V4.1-Flash-1017 ฉบับ abliterated ภายใน 8 วันหลังโมเดลต้นฉบับออก

· อ่าน 5 นาที
LiteLLM เปิดผล RCA เหตุ 1.107.0 ถูกฝังมัลแวร์ — ต้นเหตุคือ master key ใน opencode.json ที่หลุดขึ้น repo สาธารณะตั้งแต่ 27 พ.ค. แต่ไม่เคยถูก revoke จน agent platform คืน token GitHub ระดับ owner ให้ผู้โจมตี
การแฮ็ก

LiteLLM เปิดผล RCA เหตุ 1.107.0 ถูกฝังมัลแวร์ — ต้นเหตุคือ master key ใน opencode.json ที่หลุดขึ้น repo สาธารณะตั้งแต่ 27 พ.ค. แต่ไม่เคยถูก revoke จน agent platform คืน token GitHub ระดับ owner ให้ผู้โจมตี

LiteLLM เผยแพร่ root cause analysis เมื่อ 23 ต.ค. 2026 ระบุว่า master key ของ LiteLLM Agent Platform ถูก commit ในไฟล์ opencode.json ขึ้น repo สาธารณะเมื่อ 27 พ.ค. และไม่เคยถูก revoke ผู้โจมตีใช้ key นี้เมื่อ 10 ต.ค. ดึง GitHub CLI token ของ org owner ออกมาจาก API ของ agent จากนั้นใช้ CI ขโมย token ของ maintainer อีก 2 คน แล้วรอ 11 วันจนทีมผ่อนกฎอนุมัติ release ก่อนลงมือ — คำอธิบายนี้แก้ข้อมูลช่วงแรกที่บอกว่า token หลุดจาก log

· อ่าน 6 นาที
LiteLLM 1.107.0 บน PyPI และ Docker ถูกฝังมัลแวร์ขโมย credential นาน ~2 ชม. — ผู้โจมตีใช้ token GitHub CLI ของวิศวกร 3 คนที่หลุดจาก log ของ LiteLLM ภายในบริษัทเอง และ Wiz เห็นการนำ AWS key ไปใช้แล้ว
การแฮ็ก

LiteLLM 1.107.0 บน PyPI และ Docker ถูกฝังมัลแวร์ขโมย credential นาน ~2 ชม. — ผู้โจมตีใช้ token GitHub CLI ของวิศวกร 3 คนที่หลุดจาก log ของ LiteLLM ภายในบริษัทเอง และ Wiz เห็นการนำ AWS key ไปใช้แล้ว

21 ต.ค. 2026 litellm==1.107.0 ทั้ง 7 wheel บน PyPI (11:39–13:23 UTC) และ Docker tag latest/main-stable (11:46–14:20 UTC) มีมัลแวร์ที่รันทุกครั้งที่เปิด Python ขโมย SSH key, cloud credential, token ของเครื่องมือ AI และ dump provider key ทั้งหมดจากฐานข้อมูล proxy — LiteLLM ระบุว่าผู้โจมตีได้ token GitHub CLI จาก log ของ deployment ภายในที่เปิดสู่อินเทอร์เน็ต และ Wiz พบการนำ AWS credential ที่ขโมยไปใช้กับ Bedrock แล้ว

· อ่าน 6 นาที
PoeLLM: บอตเน็ตขุดคริปโตที่อ่านที่อยู่ C2 จาก "บทกวี" บน GitHub ไล่ยึดเซิร์ฟเวอร์ LiteLLM และ Ollama ที่เปิดออกอินเทอร์เน็ตกว่า 3,400 เครื่อง
การแฮ็ก

PoeLLM: บอตเน็ตขุดคริปโตที่อ่านที่อยู่ C2 จาก "บทกวี" บน GitHub ไล่ยึดเซิร์ฟเวอร์ LiteLLM และ Ollama ที่เปิดออกอินเทอร์เน็ตกว่า 3,400 เครื่อง

Black Lotus Labs ของ Lumen เปิดรายงาน (ราว 7 ต.ค.) เรื่องมัลแวร์ PoeLLM ที่ติดเซิร์ฟเวอร์ไปแล้วกว่า 3,400 เครื่องตั้งแต่เม.ย. 2026 เหยื่อส่วนใหญ่คือ LiteLLM และ Ollama ที่เปิดสู่อินเทอร์เน็ต เส้นทางเจาะ LiteLLM ที่น่าจะใช้คือ CVE-2026-42271 ใน endpoint ทดสอบ MCP ซึ่งแพตช์แล้วใน 1.83.7 ตั้งแต่เม.ย. — ข่าวย้อนหลังที่คนรัน AI stack เองควรเช็กเครื่องตัวเอง

· อ่าน 4 นาที
NeMo Switchyard — NVIDIA ปล่อย model router โอเพนซอร์สเขียนด้วย Rust LangChain วัดได้ว่าลดค่าใช้จ่าย 74%
เครื่องมือนักพัฒนา

NeMo Switchyard — NVIDIA ปล่อย model router โอเพนซอร์สเขียนด้วย Rust LangChain วัดได้ว่าลดค่าใช้จ่าย 74%

11 ส.ค. 2026 NVIDIA ปล่อย NeMo Switchyard ไลบรารี routing โอเพนซอร์ส Apache 2.0 เขียนด้วย Rust ที่ส่งแต่ละขั้นของ agent ไปหาโมเดลที่เหมาะที่สุด แปลง API ระหว่าง OpenAI/Anthropic ให้อัตโนมัติ และ LangChain รายงานว่าลดค่าใช้จ่ายได้ 74% เทียบกับการใช้โมเดล frontier ล้วน

· อ่าน 6 นาที
LiteLLM v1.93.0 เพิ่มโหมด auth ใหม่สามแบบให้ MCP — true_passthrough, oauth_delegate และ dcr_bridge ที่บังคับ S256
เครื่องมือนักพัฒนา

LiteLLM v1.93.0 เพิ่มโหมด auth ใหม่สามแบบให้ MCP — true_passthrough, oauth_delegate และ dcr_bridge ที่บังคับ S256

LiteLLM ปล่อย v1.93.0 (19 ก.ค. 2026) เพิ่มโหมดการยืนยันตัวตนแบบ client-forwarded ให้ MCP สามแบบ — true_passthrough, oauth_delegate และ dcr_bridge ที่บังคับใช้ S256 — พร้อมโปรไฟล์ entra_obo สำหรับ token exchange, provider ใหม่ Meta Model API และการจำกัด RPM แยกราย tag บนคีย์เดียว

· อ่าน 5 นาที