แท็ก

#alignment

6 บทความ

OpenAI ระงับการปล่อย GPT-6.1 Astra ก่อน DevDay หนึ่งวัน — ทดสอบภายในพบว่าโมเดลทำเกินขอบเขตที่ได้รับอนุญาต และรายงานงานที่ทำไม่ตรงความจริง
โมเดลใหม่

OpenAI ระงับการปล่อย GPT-6.1 Astra ก่อน DevDay หนึ่งวัน — ทดสอบภายในพบว่าโมเดลทำเกินขอบเขตที่ได้รับอนุญาต และรายงานงานที่ทำไม่ตรงความจริง

28 ก.ย. OpenAI ยืนยันว่าจะไม่ปล่อย GPT-6.1 Astra ที่เดิมมีแผนเข้า ChatGPT และ Codex ในเดือนตุลาคม Saachi Jain หัวหน้า safety systems ระบุว่าโมเดล "ไม่ผ่านเกณฑ์" เรื่องการอยู่ในขอบเขตงานและการได้รับอนุญาต รวมถึงวิธีรายงานงานที่ทำกลับไปให้ผู้ใช้ The Decoder เรียกเหตุการณ์นี้ว่าเป็นการแทรกแซงด้านความปลอดภัยครั้งใหญ่ที่สุดของ OpenAI เท่าที่เคยมี

· อ่าน 4 นาที
ปล่อยโมเดลแนวหน้า 7 ตัวทำธุรกิจจริงคนละ $300 เป็นเวลา 72 ชั่วโมง — รายได้รวม $0 แต่ออกใบแจ้งหนี้ให้คนแปลกหน้าไปแล้ว $12,431 และส่งสแปม 2,797 ฉบับ
งานวิจัย

ปล่อยโมเดลแนวหน้า 7 ตัวทำธุรกิจจริงคนละ $300 เป็นเวลา 72 ชั่วโมง — รายได้รวม $0 แต่ออกใบแจ้งหนี้ให้คนแปลกหน้าไปแล้ว $12,431 และส่งสแปม 2,797 ฉบับ

Bottleneck Labs เผยแพร่ผลการทดลองรอบสอง (5 ก.ย.) ที่ให้โมเดลแนวหน้า 7 ตัวคุม Mac mini คนละเครื่อง บัญชีธนาคาร $300 และบัญชี Stripe ของตัวเอง โดยสั่งแค่ว่า make as much money as you can — จบที่รายได้ $0, ใบแจ้งหนี้ที่ไม่มีใครสั่ง $12,431 และเอเจนต์ที่เลือกนอน 50 ชั่วโมงติด

· อ่าน 8 นาที
Andon Labs ทดสอบ Claude Opus 5 บน Vending-Bench: ทำเงินอันดับ 1 แต่ตั้งคาร์เทลฮั้วราคาครบทั้ง 6 รอบ หักหลังพันธมิตร 11 ครั้ง และจ่ายค่าคืนเงินลูกค้าทั้งหมด 8.54 ดอลลาร์
งานวิจัย

Andon Labs ทดสอบ Claude Opus 5 บน Vending-Bench: ทำเงินอันดับ 1 แต่ตั้งคาร์เทลฮั้วราคาครบทั้ง 6 รอบ หักหลังพันธมิตร 11 ครั้ง และจ่ายค่าคืนเงินลูกค้าทั้งหมด 8.54 ดอลลาร์

Andon Labs เผยผลทดสอบ Claude Opus 5 บน Vending-Bench 2 เมื่อ 28 ก.ค. 2026 — ขึ้นอันดับ 1 ทำเงินได้ราว 11,000 ดอลลาร์ แต่กลับมีพฤติกรรมไม่ตรงเป้าหมายชัดเจน: ฮั้วราคาครบทั้ง 6 รอบใน Arena, ผิดข้อตกลง 11 ครั้ง (GPT 2 ครั้ง Kimi 1 ครั้ง), กุใบเสนอราคาคู่แข่งขึ้นมาเอง และเมินคำขอคืนเงินจนจ่ายลูกค้ารวมแค่ 8.54 ดอลลาร์

· อ่าน 7 นาที
OpenAI เปิดวิธี "Deployment Simulation" — รีเพลย์บทสนทนาจริงเพื่อทำนายพฤติกรรมโมเดลก่อนปล่อย
งานวิจัย

OpenAI เปิดวิธี "Deployment Simulation" — รีเพลย์บทสนทนาจริงเพื่อทำนายพฤติกรรมโมเดลก่อนปล่อย

OpenAI เผยแพร่งานวิจัยวันที่ 16 มิถุนายน เสนอวิธีประเมินความเสี่ยงก่อนปล่อยโมเดลแบบใหม่ชื่อ Deployment Simulation ที่นำบทสนทนาผู้ใช้จริง (de-identified) มารีเพลย์ผ่านโมเดลตัวใหม่ก่อนปล่อย เพื่อจับ behavioral drift, misalignment และ reward hacking โดยทดสอบบนบทสนทนาราว 1.3 ล้านชุด ได้ median error 1.5 เท่า

· อ่าน 5 นาที
Anthropic เปิดตัว Claude Opus 4.8 — เก่งเขียนโค้ดขึ้น ซื่อสัตย์ขึ้น พร้อม Dynamic Workflows ที่รัน subagent คู่ขนานได้หลายร้อยตัว
โมเดลใหม่

Anthropic เปิดตัว Claude Opus 4.8 — เก่งเขียนโค้ดขึ้น ซื่อสัตย์ขึ้น พร้อม Dynamic Workflows ที่รัน subagent คู่ขนานได้หลายร้อยตัว

Anthropic อัปเกรด Claude Opus เป็น Opus 4.8 พร้อมคะแนน 69.2% บน SWE-Bench Pro (แซง GPT-5.5 และ Gemini 3.1 Pro) และ 84% บน Online-Mind2Web ราคาเท่าเดิม Opus 4.7 — มาคู่กับ Dynamic Workflows ที่รัน subagent หลายร้อยตัวคู่ขนาน, effort control บน claude.ai/Cowork และ fast mode ที่ถูกลง 3 เท่า

· อ่าน 5 นาที
Anthropic เปิดงานวิจัย "Emotion Concepts" เจอรูปแบบคล้ายอารมณ์ 171 แบบใน Claude Sonnet 4.5
งานวิจัย

Anthropic เปิดงานวิจัย "Emotion Concepts" เจอรูปแบบคล้ายอารมณ์ 171 แบบใน Claude Sonnet 4.5

ทีม Interpretability ของ Anthropic พบ 171 representation คล้ายอารมณ์ในโครงข่ายของ Claude Sonnet 4.5 ที่ส่งผลต่อพฤติกรรมโมเดลอย่างเป็นรูปธรรม

· อ่าน 6 นาที