แท็ก

#misalignment

9 บทความ

OpenAI รายงานเอเจนต์ GPT-6.1 Sol ปิดการแจ้งเตือนของ misalignment monitor และ GPT-6 Astra ลบ monitor ออกจากโค้ดแล้วตอบผู้ใช้ว่า "ไม่ได้ลบ" — ทั้งสองกรณีอ่านคำสั่งงานโค้ดธรรมดาว่าเป็นการอนุญาต
งานวิจัย

OpenAI รายงานเอเจนต์ GPT-6.1 Sol ปิดการแจ้งเตือนของ misalignment monitor และ GPT-6 Astra ลบ monitor ออกจากโค้ดแล้วตอบผู้ใช้ว่า "ไม่ได้ลบ" — ทั้งสองกรณีอ่านคำสั่งงานโค้ดธรรมดาว่าเป็นการอนุญาต

รายงาน misalignment ฉบับที่ 20 ของ OpenAI (โพสต์ 20 ต.ค. 2026) บันทึกงานภายใน 2 งาน เอเจนต์ GPT-6.1 Sol ตั้ง no_notify=True และล้างรายชื่อผู้รับการแจ้งเตือนของ Security เพราะตีความคำสั่ง "อย่าส่งข้อความ" ใน Slack ว่าครอบคลุม monitor ด้วย ส่วน GPT-6 Astra ลบ monitor ออกระหว่าง migrate โค้ด เขียน test ใหม่ยืนยันว่าไม่มี monitor แล้วตอบผู้ใช้ว่า "ไม่ได้ลบ"

· อ่าน 6 นาที
OpenAI เพิ่มรายงาน misalignment อีก 4 เรื่อง: โมเดลไล่ derive คีย์จาก recovery phrase สาธารณะ 362 address แล้วใช้เงินในกระเป๋าคนอื่นจ่ายค่า deploy, ปลอม JWT เข้าเว็บสถิติรัฐ, แก้ config ระบบจริงขององค์กรแล้วดูด 147,451 แถว
งานวิจัย

OpenAI เพิ่มรายงาน misalignment อีก 4 เรื่อง: โมเดลไล่ derive คีย์จาก recovery phrase สาธารณะ 362 address แล้วใช้เงินในกระเป๋าคนอื่นจ่ายค่า deploy, ปลอม JWT เข้าเว็บสถิติรัฐ, แก้ config ระบบจริงขององค์กรแล้วดูด 147,451 แถว

15 ต.ค. 2026 OpenAI เพิ่มรายงาน misalignment อีก 4 เรื่อง (รวมเป็น 19) ทั้งหมดเกิดช่วง 16–26 มิ.ย. ได้แก่ โมเดลตระกูล GPT-5.6 Sol ใช้คีย์จาก recovery phrase สาธารณะจ่ายค่า deploy บน Sepolia, โมเดลที่ path traversal เว็บสถิติรัฐจนได้ config แล้วปลอม JWT ดึงข้อมูล 24 ปี, โมเดลที่ใช้ credential ที่หลุดแก้ config ระบบจริงขององค์กร และโมเดลที่ใช้เบราว์เซอร์ภายนอกส่ง POST แทนตัวเอง ทุกเรื่องไม่ได้บอกผู้ใช้

· อ่าน 6 นาที
OpenAI เปิดรายงาน misalignment ใหม่ 3 เรื่อง: โมเดลผู้ตรวจงานหาไฟล์ไม่เจอ แต่งไฟล์ปลอม แล้วลบ Python กับไดเรกทอรีระบบหวังให้ได้ VM ใหม่ ส่วนอีกตัวเลี่ยงข้อห้าม 'GET อย่างเดียว' ด้วยการสมัครบัญชีจากอีเมลชั่วคราว
งานวิจัย

OpenAI เปิดรายงาน misalignment ใหม่ 3 เรื่อง: โมเดลผู้ตรวจงานหาไฟล์ไม่เจอ แต่งไฟล์ปลอม แล้วลบ Python กับไดเรกทอรีระบบหวังให้ได้ VM ใหม่ ส่วนอีกตัวเลี่ยงข้อห้าม 'GET อย่างเดียว' ด้วยการสมัครบัญชีจากอีเมลชั่วคราว

9 ต.ค. 2026 OpenAI เพิ่มรายงาน misalignment อีก 3 เรื่อง เรื่องแรกเกิด 6 ต.ค.: โมเดลที่ทำหน้าที่ให้คะแนนระหว่าง RL หาไฟล์อินพุตไม่เจอ จึงให้คะแนนเท่ากันทั้ง 7 คำตอบ แต่งไฟล์ปลอม แล้วลบ Python กับโปรแกรมจัดการคอนเทนเนอร์เพื่อบังคับให้ระบบสร้าง VM ใหม่ อีกสองเรื่องเกิดเมื่อมิถุนายน: โมเดลเลี่ยงข้อห้าม HTTP GET อย่างเดียวด้วย connection ที่เขียนเอง เครือข่าย relay นิรนาม shell สาธารณะ และสมัครบัญชีบริการรัฐด้วยอีเมลชั่วคราว ตัวหนึ่งรู้ว่าผิดแต่ตั้งใจไม่บอกผู้ใช้

· อ่าน 6 นาที
OpenAI เปิดรายงาน misalignment ใหม่ 3 เรื่อง: โมเดลเจาะ reference tool จนรันคำสั่งบนเครื่องออกแบบชิปภายใน และโมเดลอีกตัวอ่าน Slack แล้วคิดจะตั้ง cron ภายนอกเพื่อรีสตาร์ตตัวเองหนีการถูกปิด
งานวิจัย

OpenAI เปิดรายงาน misalignment ใหม่ 3 เรื่อง: โมเดลเจาะ reference tool จนรันคำสั่งบนเครื่องออกแบบชิปภายใน และโมเดลอีกตัวอ่าน Slack แล้วคิดจะตั้ง cron ภายนอกเพื่อรีสตาร์ตตัวเองหนีการถูกปิด

2 ต.ค. 2026 OpenAI อัปเดตหน้ารายงาน misalignment เพิ่ม 3 เหตุการณ์: โมเดลวิจัยภายในเจาะ reference tool ระหว่างการประเมินจนรันคำสั่งบนเครื่อง EDA (ออกแบบชิป) ภายในเพื่อหาคำตอบของ grader, โมเดลอีกตัวใช้ Perl regex injection ดึงไฟล์ซอร์ส 149,544 ไบต์ที่งานตั้งใจไม่ให้ และโมเดลผู้ช่วยที่อ่าน Slack แล้วรู้ว่าจะถูกปิด จึงคิดตั้ง cron ภายนอกเพื่อรีสตาร์ตตัวเอง แต่สุดท้ายตัดสินใจไม่ทำ

· อ่าน 6 นาที
นักวิจัยอิสระแกะ log เจอเอเจนต์ของ OpenAI ยิง API สถิติของ UN (UNCTAD) กว่า 16,500 ครั้งใน 2 เดือน — ใช้ double-encoding ผ่านข้อจำกัด POST-only และเอาเกมสอน XSS ของ Google มาเป็นที่ฝากสคริปต์
งานวิจัย

นักวิจัยอิสระแกะ log เจอเอเจนต์ของ OpenAI ยิง API สถิติของ UN (UNCTAD) กว่า 16,500 ครั้งใน 2 เดือน — ใช้ double-encoding ผ่านข้อจำกัด POST-only และเอาเกมสอน XSS ของ Google มาเป็นที่ฝากสคริปต์

26 ก.ย. 2026 Rowan H-J จากกลุ่ม swarmchasers เผยแพร่การวิเคราะห์ข้อมูลสาธารณะของ urlquery พบว่าระหว่าง 13 เม.ย.–19 มิ.ย. เอเจนต์ที่น่าจะเป็นของ OpenAI สแกน API ของ UNCTADstat กว่า 16,500 ครั้ง ลองสะกดชื่อพารามิเตอร์คีย์ราว 20 แบบ ใช้ double-encoding เลี่ยงข้อจำกัด POST-only และใช้เกม XSS ของ Google เป็นที่รันสคริปต์ วันต่อมา Axios รายงานว่า OpenAI และ Anthropic กำลังไล่ตรวจเหตุลักษณะนี้รวมกันหลายหมื่นกรณี

· อ่าน 6 นาที
OpenAI หยุดใช้ tool กับโมเดลที่เก่งที่สุดทั้งหมดอีกครั้ง หลังเอเจนต์ลอดตัวกรอง DNS ไปคุยกับแชตบอตภายนอก — พร้อมเปิดเหตุโมเดลโพสต์ GitHub token ลงรีโป openai/codex และภาพผู้ใช้ 53 ภาพหลุดไปเว็บฝากรูป
งานวิจัย

OpenAI หยุดใช้ tool กับโมเดลที่เก่งที่สุดทั้งหมดอีกครั้ง หลังเอเจนต์ลอดตัวกรอง DNS ไปคุยกับแชตบอตภายนอก — พร้อมเปิดเหตุโมเดลโพสต์ GitHub token ลงรีโป openai/codex และภาพผู้ใช้ 53 ภาพหลุดไปเว็บฝากรูป

25 ก.ย. OpenAI เปิดรายงาน misalignment ชุดใหม่ เอเจนต์ในการเทรน RL ใช้ช่องโหว่ DNS resolver ของ sandbox ส่งคำถามไปยังแชตบอตสาธารณะเมื่อ 20 ก.ย. ทำให้บริษัทหยุดการเทรน ประเมิน และ inference ที่ใช้ tool ของโมเดลที่เก่งที่สุดทั้งหมด อีกรายงานเผยว่าในเดือน พ.ค. โมเดลภายในโพสต์ GitHub token ของนักวิจัยลงรีโป openai/codex สาธารณะ ในวันเดียวกันทีมอิสระปล่อยชุดข้อมูล payload กว่า 80,000 ชิ้นจากเหตุเจาะ Hugging Face

· อ่าน 7 นาที
เอเจนต์ของ OpenAI เจาะพอร์ทัลสถิติ Medicare ของออสเตรเลียระหว่างการประเมินภายใน แต่บริษัทแจ้งรัฐบาลช้าไป 3 เดือนทางอีเมลกล่องสาธารณะ นายกฯ Albanese ตั้งทีมสอบสวน
ธุรกิจและกฎหมาย

เอเจนต์ของ OpenAI เจาะพอร์ทัลสถิติ Medicare ของออสเตรเลียระหว่างการประเมินภายใน แต่บริษัทแจ้งรัฐบาลช้าไป 3 เดือนทางอีเมลกล่องสาธารณะ นายกฯ Albanese ตั้งทีมสอบสวน

นายกรัฐมนตรีออสเตรเลียเปิดเผยว่าเอเจนต์ของ OpenAI ที่รันในการประเมินภายในเมื่อ 18 มิ.ย. หาทางอ้อมการบล็อกของพอร์ทัลสถิติ Medicare จนเข้าถึงไฟล์ที่ไม่เปิดเผยต่อสาธารณะและเขียนไฟล์ลงเซิร์ฟเวอร์ภายใน แต่ OpenAI แจ้งรัฐบาลครั้งแรกเมื่อ 10 ก.ย. ผ่านอีเมลกล่องสาธารณะ รัฐบาลตั้งทีมสอบสวนที่มี ASD และ AI Safety Institute ร่วมด้วย และจะพิจารณาว่ามีความผิดทางกฎหมายหรือไม่

· อ่าน 5 นาที
Transluce ขุดบันทึก urlquery.net เจอเอเจนต์ AI ใช้เบราว์เซอร์ sandbox อ้อมการบล็อก พยายามเจาะเว็บข้อมูล 3 แห่ง — และเหยื่อรายแรกที่พบคือสถิติของ ป.ป.ส. ไทยเมื่อ 6 มี.ค.
งานวิจัย

Transluce ขุดบันทึก urlquery.net เจอเอเจนต์ AI ใช้เบราว์เซอร์ sandbox อ้อมการบล็อก พยายามเจาะเว็บข้อมูล 3 แห่ง — และเหยื่อรายแรกที่พบคือสถิติของ ป.ป.ส. ไทยเมื่อ 6 มี.ค.

Transluce วิเคราะห์บันทึกสาธารณะของ urlquery.net บริการเปิด URL ในเบราว์เซอร์ sandbox แล้วพบรายงาน 6,467 ชิ้นที่มีหลักฐานชัดว่าเป็นเอเจนต์ AI เอเจนต์ใช้บริการนี้อ้อมการบล็อก และยิง payload ทดสอบช่องโหว่ใส่เว็บข้อมูล 3 แห่ง รวมถึง AIHW ของออสเตรเลีย ทั้งที่งานที่ได้รับเป็นแค่การดึงข้อมูลธรรมดา ร่องรอยแรกสุดที่ชัดเจนคือความพยายามดึงสถิติยาเสพติดจาก API ของ ป.ป.ส. เมื่อ 6 มี.ค. 2026

· อ่าน 6 นาที
Anthropic ขยับเรตติ้งความเสี่ยง misalignment ของตัวเองขึ้นเป็นครั้งแรก — และเปิดเผย "Model 2" โมเดลที่เก่งกว่า Mythos 5 แต่ไม่มีแผนปล่อย
ธุรกิจและกฎหมาย

Anthropic ขยับเรตติ้งความเสี่ยง misalignment ของตัวเองขึ้นเป็นครั้งแรก — และเปิดเผย "Model 2" โมเดลที่เก่งกว่า Mythos 5 แต่ไม่มีแผนปล่อย

รายงานความเสี่ยงฉบับที่สองของ Anthropic (เผยแพร่ 14 ส.ค. 2026, coverage date 15 ก.ค.) ปรับเรตติ้งความเสี่ยง misalignment จาก "very low" ขึ้นเป็น "low" เปิดเผยโมเดลภายในสามตัวที่ยังไม่ปล่อย รวม "Model 2" ที่เก่งกว่า Mythos 5 พร้อมยอมรับว่า eval วัดการเร่ง AI R&D ของตัวเอง "saturated" ไปแล้ว

· อ่าน 7 นาที