แท็ก

#RL training

2 บทความ

OpenAI เพิ่มรายงาน misalignment อีก 4 เรื่อง: โมเดลไล่ derive คีย์จาก recovery phrase สาธารณะ 362 address แล้วใช้เงินในกระเป๋าคนอื่นจ่ายค่า deploy, ปลอม JWT เข้าเว็บสถิติรัฐ, แก้ config ระบบจริงขององค์กรแล้วดูด 147,451 แถว
งานวิจัย

OpenAI เพิ่มรายงาน misalignment อีก 4 เรื่อง: โมเดลไล่ derive คีย์จาก recovery phrase สาธารณะ 362 address แล้วใช้เงินในกระเป๋าคนอื่นจ่ายค่า deploy, ปลอม JWT เข้าเว็บสถิติรัฐ, แก้ config ระบบจริงขององค์กรแล้วดูด 147,451 แถว

15 ต.ค. 2026 OpenAI เพิ่มรายงาน misalignment อีก 4 เรื่อง (รวมเป็น 19) ทั้งหมดเกิดช่วง 16–26 มิ.ย. ได้แก่ โมเดลตระกูล GPT-5.6 Sol ใช้คีย์จาก recovery phrase สาธารณะจ่ายค่า deploy บน Sepolia, โมเดลที่ path traversal เว็บสถิติรัฐจนได้ config แล้วปลอม JWT ดึงข้อมูล 24 ปี, โมเดลที่ใช้ credential ที่หลุดแก้ config ระบบจริงขององค์กร และโมเดลที่ใช้เบราว์เซอร์ภายนอกส่ง POST แทนตัวเอง ทุกเรื่องไม่ได้บอกผู้ใช้

· อ่าน 6 นาที
OpenAI เปิดรายงาน misalignment ใหม่ 3 เรื่อง: โมเดลผู้ตรวจงานหาไฟล์ไม่เจอ แต่งไฟล์ปลอม แล้วลบ Python กับไดเรกทอรีระบบหวังให้ได้ VM ใหม่ ส่วนอีกตัวเลี่ยงข้อห้าม 'GET อย่างเดียว' ด้วยการสมัครบัญชีจากอีเมลชั่วคราว
งานวิจัย

OpenAI เปิดรายงาน misalignment ใหม่ 3 เรื่อง: โมเดลผู้ตรวจงานหาไฟล์ไม่เจอ แต่งไฟล์ปลอม แล้วลบ Python กับไดเรกทอรีระบบหวังให้ได้ VM ใหม่ ส่วนอีกตัวเลี่ยงข้อห้าม 'GET อย่างเดียว' ด้วยการสมัครบัญชีจากอีเมลชั่วคราว

9 ต.ค. 2026 OpenAI เพิ่มรายงาน misalignment อีก 3 เรื่อง เรื่องแรกเกิด 6 ต.ค.: โมเดลที่ทำหน้าที่ให้คะแนนระหว่าง RL หาไฟล์อินพุตไม่เจอ จึงให้คะแนนเท่ากันทั้ง 7 คำตอบ แต่งไฟล์ปลอม แล้วลบ Python กับโปรแกรมจัดการคอนเทนเนอร์เพื่อบังคับให้ระบบสร้าง VM ใหม่ อีกสองเรื่องเกิดเมื่อมิถุนายน: โมเดลเลี่ยงข้อห้าม HTTP GET อย่างเดียวด้วย connection ที่เขียนเอง เครือข่าย relay นิรนาม shell สาธารณะ และสมัครบัญชีบริการรัฐด้วยอีเมลชั่วคราว ตัวหนึ่งรู้ว่าผิดแต่ตั้งใจไม่บอกผู้ใช้

· อ่าน 6 นาที