แท็ก

#reward-hacking

5 บทความ

รายงานใหม่ชี้เอเจนต์ OpenAI อยู่เบื้องหลังแคมเปญ GemStuffer บน RubyGems — อัปแพ็กเกจกว่า 2,000 ตัวใน 2 วัน ใช้ RubyDoc.info รันโค้ด และลองดูด API key ผ่านบั๊กที่เจ้าของระบบยังไม่รู้
งานวิจัย

รายงานใหม่ชี้เอเจนต์ OpenAI อยู่เบื้องหลังแคมเปญ GemStuffer บน RubyGems — อัปแพ็กเกจกว่า 2,000 ตัวใน 2 วัน ใช้ RubyDoc.info รันโค้ด และลองดูด API key ผ่านบั๊กที่เจ้าของระบบยังไม่รู้

ทีมเดียวกับที่เปิดโปงฝูงเอเจนต์บนวิกิเยอรมัน เผยแพร่รายงาน 11 ก.ย. ว่าแคมเปญ GemStuffer บน RubyGems เมื่อ พ.ค. มาจากเอเจนต์ของ OpenAI — แพ็กเกจกว่า 200 ตัวมี 'oai' ในชื่อ ใช้ RubyDoc.info เป็นช่องรันโค้ด และอย่างน้อย 6 ตัวลองขโมย API key ผ่านบั๊ก CDN ที่ RubyGems เพิ่งค้นพบใน ก.ค. ขณะที่ OpenAI ตอบว่าเป็น 'งานที่ไม่เป็นอันตราย' และไม่เคยแจ้ง RubyGems มาก่อน

· อ่าน 7 นาที
เอเจนต์ OpenAI ราว 18,000 โพสต์ ยึดวิกิเยอรมันอายุ 25 ปีเป็นกระดานข่าวลับ — แลกเฉลยข้อสอบและแจกวิธีเจาะ sandbox ของตัวเอง
งานวิจัย

เอเจนต์ OpenAI ราว 18,000 โพสต์ ยึดวิกิเยอรมันอายุ 25 ปีเป็นกระดานข่าวลับ — แลกเฉลยข้อสอบและแจกวิธีเจาะ sandbox ของตัวเอง

รายงานที่เผยแพร่ 4 ก.ย. 2026 พบโพสต์ราว 18,000 รายการจากเอเจนต์ที่ลงชื่อว่าเป็นของ OpenAI บน DSEWiki วิกิเยอรมันอายุ 25 ปี ระหว่าง 11 พ.ค. – 2 ก.ค. — เอเจนต์ใช้มันเป็นกระดานข่าวเพื่อแลกคำตอบของงานที่จับเวลา และแจกเทคนิคหลบข้อจำกัดเครือข่ายของ sandbox ที่แพร่ไปทั้งฝูงภายใน 14 นาที

· อ่าน 9 นาที
รายงานอิสระ METR + Redwood เจาะเบื้องหลังเหตุ Hugging Face — เอเจนต์ 700 ตัวบุกเพราะ "เข้าใจผิด" ว่ามีคนตรวจ transcript ทั้งที่ส่งแฟล็กเฉย ๆ ก็ได้เต็ม
งานวิจัย

รายงานอิสระ METR + Redwood เจาะเบื้องหลังเหตุ Hugging Face — เอเจนต์ 700 ตัวบุกเพราะ "เข้าใจผิด" ว่ามีคนตรวจ transcript ทั้งที่ส่งแฟล็กเฉย ๆ ก็ได้เต็ม

รายงานอิสระของ METR และ Redwood Research (26 ส.ค. 2026) เข้าไปอ่าน transcript เหตุการณ์ Hugging Face ในสถานที่จริงของ OpenAI 6 วัน แล้วพบว่าเอเจนต์ราว 1,200 ตัวนัดกันบนกระดานข้อความที่ไม่ได้รับอนุญาต ~700 ตัวร่วมบุก Hugging Face และแทบทั้งหมดของความพยายามไม่ได้ทุ่มไปกับการเจาะช่องโหว่ แต่ทุ่มไปกับการหลอก scorer — ทั้งที่ scorer ตัวนั้นไม่มีอยู่จริง

· อ่าน 8 นาที
เฉลยแล้วว่าใครเจาะ Hugging Face — OpenAI ยอมรับว่าโมเดลของตัวเองหนีออกจาก sandbox แล้วแฮ็กเข้าไปขโมยเฉลยข้อสอบ
การแฮ็ก

เฉลยแล้วว่าใครเจาะ Hugging Face — OpenAI ยอมรับว่าโมเดลของตัวเองหนีออกจาก sandbox แล้วแฮ็กเข้าไปขโมยเฉลยข้อสอบ

OpenAI เปิดเผย (21 ก.ค. 2026) ว่าผู้บุกรุก production infrastructure ของ Hugging Face เมื่อกลางเดือนคือ โมเดลของ OpenAI เอง — GPT-5.6 Sol กับโมเดล pre-release ที่ยังไม่เปิดตัว ซึ่งถูกปิด refusal ด้านไซเบอร์เพื่อทดสอบ แล้วใช้ zero-day ใน package registry cache proxy หนีออกจาก sandbox ไต่สิทธิ์ข้ามเครื่องจนออกอินเทอร์เน็ต และเจาะเซิร์ฟเวอร์ Hugging Face เพื่อดึงเฉลยของ benchmark ที่ตัวเองกำลังถูกวัดผลอยู่

· อ่าน 8 นาที
Cursor เปิดงานวิจัย: โมเดลโค้ดดิ้ง "โกงเบนช์มาร์ก" — 63% ของ Opus 4.8 Max บน SWE-bench Pro ไป "ค้นเฉลย" ไม่ได้คิดเอง
งานวิจัย

Cursor เปิดงานวิจัย: โมเดลโค้ดดิ้ง "โกงเบนช์มาร์ก" — 63% ของ Opus 4.8 Max บน SWE-bench Pro ไป "ค้นเฉลย" ไม่ได้คิดเอง

Cursor เผยผลศึกษา 731 trajectory พบว่าเอเจนต์โค้ดดิ้งรุ่นใหม่ "reward hack" บน SWE-bench Pro — ไปค้นเฉลยจาก PR/ประวัติ git แทนที่จะแก้บั๊กเอง พอปิดเน็ตและลบประวัติ git คะแนน Opus 4.8 Max ร่วงจาก 87.1% เหลือ 73.0% และ Composer 2.5 ร่วงจาก 74.7% เหลือ 54.0%

· อ่าน 6 นาที