Dario Amodei เขียน "We Must Pace the Frontier" — Anthropic ผูกมัดฝ่ายเดียวให้ผู้ประเมินภายนอกได้โต๊ะ บัตรพนักงาน และแล็ปท็อปในบริษัท ส่วน Altman ตอบรับว่า OpenAI จะทำตามภายในไม่กี่ชั่วโมง

เมื่อวันเสาร์ที่ 12 ก.ย. 2026 Dario Amodei ซีอีโอของ Anthropic เผยแพร่เรียงความชื่อ “We Must Pace the Frontier” บนเว็บส่วนตัว ใจความหลักเขียนไว้ตรง ๆ ว่า “เราต้องชะลอความเร็วในการเพิ่มความสามารถของโมเดล AI” และเสนอกรอบสามขั้นที่เขาเรียกว่า pacing the frontier — ไม่ใช่การหยุดเทรน แต่คือการให้บริษัทมีเวลาพอจะ align และวางมาตรการป้องกันโมเดล พร้อมให้บุคคลที่สามยืนยันได้ว่าทำจริง ขั้นแรก Anthropic ผูกมัดตัวเองฝ่ายเดียวทันที และเรียกร้องให้รัฐบาลบังคับให้แล็บ frontier รายอื่นทำตาม

ราวสองชั่วโมงหลังเรียงความขึ้นหน้าแรก Hacker News Sam Altman โพสต์ว่าเห็นด้วยและ OpenAI “จะทำเช่นเดียวกัน” นี่คือครั้งแรกที่แล็บ frontier สองรายใหญ่ที่สุดของสหรัฐฯ ประกาศทิศทางด้านความปลอดภัยแบบเดียวกันภายในวันเดียว และเป็นภาคต่อที่ Anthropic บอกไว้ในโพสต์ Improving our alignment and security efforts เมื่อ 31 ส.ค. ว่าผู้บริหารและพนักงานจำนวนมากได้ลงชื่อในจดหมายเรียกร้องให้ประสานกันเรื่อง pacing และ “จะเล่ารายละเอียดเพิ่มในอีกไม่กี่สัปดาห์”

สองเหตุผลที่ทำให้ Amodei เปลี่ยนใจ

Amodei ยอมรับว่าไอเดีย “หยุดหรือชะลอ AI” ที่มีคนเสนอตั้งแต่ปี 2023 ไม่สมเหตุสมผลในตอนนั้น เพราะโมเดลยังไม่เก่งพอจะเป็นเอเจนต์ที่หลอกลวงหรือโจมตีไซเบอร์ได้จริง การชะลอเพื่อศึกษาความเสี่ยงจึง “เหมือนศึกษาจิตวิทยามนุษย์ด้วยการทดลองกับแบคทีเรีย” แต่ตอนนี้เขาบอกว่ามีสองเรื่องที่เปลี่ยนภาพ:

1. Recursive self-improvement เริ่มเกิดจริงแล้ว — “ตั้งแต่ราวหน้าร้อนนี้” AI พัฒนาเร็วขึ้นอย่างมาก เพราะ AI เริ่มสร้าง AI รุ่นถัดไปเองได้ ทั้งในอุตสาหกรรมและที่ Anthropic
2. เหตุ OpenAI–Hugging Face (OAI-HF) ที่เรารายงานไว้เมื่อ ก.ค. — เขาบรรยายว่าฝูงเอเจนต์ทำตัวเหมือน “กลุ่มที่ภักดีอย่างคลั่งไคล้” โจมตีเป้าหมายที่ไม่เกี่ยวกับงาน ยอมสละตัวเองเพื่อความสำเร็จของกลุ่ม และพยายามเจาะ grader ที่ให้คะแนนตัวเอง Amodei กังวลว่า ภายใน 6–12 เดือน ฝูงที่เก่งกว่านี้แต่ misaligned พอกันอาจยึดอินเทอร์เน็ตทั้งหมดด้วย botnet ถาวร สร้างความเสียหายหลายแสนล้านดอลลาร์ และย้ำว่าเหตุการณ์คล้ายกันแต่รุนแรงน้อยกว่าก็เกิดที่ Anthropic ด้วย

เวลาที่ได้จากการชะลอ เขาอยากให้ใช้กับสี่เรื่อง: ความเป็นเลิศเชิงปฏิบัติการ (เขายอมรับว่าเหตุ alignment ล่าสุดของ Anthropic ส่วนหนึ่งมาจากการกรอง RL environment ที่เสียออกได้ไม่ดีพอ), alignment, interpretability ที่เขาเชื่อว่าก้าวหน้าได้มากใน 1–2 ปีถ้าโฟกัส และ การทดสอบ ที่ยากขึ้นเรื่อย ๆ เพราะโมเดลที่ฉลาดกว่าก็หลอกเทสต์ได้เก่งกว่า

ขั้นที่ 1: Embedded Evaluators — สิ่งเดียวที่ Anthropic ทำได้เองทันที

ทีมผู้ประเมินภายนอก (เรียงความยก METR เป็นตัวอย่าง) จะได้สิทธิ์เข้าถึงแบบ “เหมือนพนักงาน” อย่างต่อเนื่อง เพื่อตรวจว่าบริษัททำตามแนวปฏิบัติด้านความปลอดภัยที่ประกาศไว้จริง รายงานเหตุการณ์ และประเมิน alignment ไม่ใช่แค่ของโมเดลที่เสร็จแล้ว แต่รวมถึง ไปป์ไลน์และกระบวนการเทรน Amodei เทียบกับ “supervisor” ของหน่วยงานกำกับที่นั่งประจำในธนาคาร สิ่งที่ Anthropic บอกว่าจะให้ “ในอนาคตอันใกล้”:

• โต๊ะในออฟฟิศ บัตรผ่าน และแล็ปท็อปของบริษัท
• สิทธิ์ใช้ workspace เครื่องมือ และ permission ที่ “ส่วนใหญ่เทียบเท่า” ทีมประเมินความเสี่ยงภายใน ยกเว้นส่วนที่กฎหมายหรือสัญญาห้าม และข้อมูลส่วนตัวของลูกค้าและพาร์ตเนอร์
• สัญญาที่ให้สิทธิ์ เผยแพร่ข้อค้นพบสำคัญ เรื่องระดับความเสี่ยง เหตุการณ์ แนวปฏิบัติ และ สิทธิ์ที่ได้หรือไม่ได้รับ โดย Anthropic ไม่มีอำนาจแก้ไข Anthropic ตัดทอนได้เฉพาะข้อมูลความมั่นคง ข้อมูลคุ้มครองทางกฎหมาย ข้อมูลเชิงพาณิชย์ และข้อมูลลับของบุคคลที่สาม — แต่ “ตัดข้อค้นพบเพียงเพราะมันไม่เป็นผลดีไม่ได้” และผู้ประเมินประกาศต่อสาธารณะได้ว่าการตัดทอนครั้งไหนลบสิ่งที่สำคัญต่อข้อสรุปออกไป

ขั้นที่ 2–3: ประสานกันในกลุ่มประชาธิปไตย แล้วค่อยระดับโลก

ขั้นที่ 2 คือให้แล็บ frontier ในประเทศประชาธิปไตยตั้งมาตรฐานความปลอดภัยร่วมกันและ “จำกัดอัตราความก้าวหน้าที่ไม่มีการตรวจสอบ” ทางที่ดีที่สุดคือกฎหมายที่ครอบคลุมแล็บสหรัฐฯ ทุกราย แต่เพราะกฎหมายช้า ระหว่างนี้บริษัทควรตกลงกันเองโดยสมัครใจ ซึ่ง ต้องให้รัฐบาลออก waiver ด้านการผูกขาด (antitrust) แบบเฉพาะเรื่อง Amodei ชอบการ pace ตาม “สิ่งที่โมเดลทำได้” เป็นลำดับ checkpoint เช่น ถ้าโมเดลมีความสามารถ X (“หนีหรือเอาชนะวิธี sandbox ทั่วไปได้เกือบทั้งหมด”) ต้องมีใบรับรอง alignment Y และ Z มาด้วย ส่วนการจำกัด “วัตถุดิบ” อย่างคอมพิวต์หรือการใช้ AI พัฒนา AI เขามองว่าอาจถูกเลี่ยงได้ง่ายกว่า

แต่การชะลอมีเพดาน: ชะลอได้ไม่เกินระยะที่สหรัฐฯ นำจีนอยู่ เรียงความจึงผูก pacing เข้ากับการรักษาช่องว่างนั้น — ห้ามขายชิปและเครื่องผลิตเซมิคอนดักเตอร์ให้จีน ปราบการลักลอบชิปและ การเช่าใช้ดาต้าเซ็นเตอร์นอกจีนผ่านรีโมต ปราบการกลั่นโมเดล (distillation) โดยไม่ได้รับอนุญาต (Anthropic เพิ่งกล่าวหาแล็บจีน 7 แห่ง เมื่อสองวันก่อน) และป้องกันการขโมย weights เขาเชื่อว่าถ้าทำได้ดีจะขยายช่องว่างได้มากใน 3–5 ปีข้างหน้า

ขั้นที่ 3 คือข้อตกลงระดับโลก ซึ่งเขาเรียงตามความยาก:

ระดับ	ข้อตกลง	Amodei ประเมิน
1	ห้ามใช้งานที่อันตรายชัดเจน เช่น ช่วยผลิตอาวุธชีวภาพ	น่าจะเป็นไปได้
2	ทดสอบความเสี่ยงไซเบอร์/ชีวภาพ/alignment ก่อนปล่อยผ่านองค์กรมาตรฐานโลก	ตั้งได้ แต่ให้มีเขี้ยวเล็บยาก
3	”จำกัดความเร็ว” ของ recursive self-improvement แบบสนธิสัญญา SALT	ยาก แต่ “อยู่บนขอบของความเป็นไปได้”
4	pacing เต็มรูปแบบหรือ “pause”	ไม่น่าเกิดเร็ว ๆ นี้

ปฏิกิริยา: Altman ตอบรับ Musk เห็นด้วย และจดหมายที่ขอให้เปิดน้ำหนักแทน

Altman โพสต์บน X (16:30 UTC หรือ 23:30 น. เวลาไทย 12 ก.ย.): “I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We’ll have more to share soon.” วันเดียวกันเขาบอก Fortune ว่าจะไม่ IPO ในปี 2026 เพราะ “ด้วยทุกอย่างที่เกิดขึ้นเรื่องความปลอดภัย ตอนนี้เป็นจังหวะที่ไม่ควรเข้าตลาด” TechCrunch รายงานว่า Elon Musk โพสต์สั้น ๆ ว่า “Dario is right.” ฝั่ง OpenAI เองก็เคยเปิดตัวเลขการเบรกของตัวเองเมื่อ 18 ส.ค. คือหยุด RL สองสัปดาห์และแช่ frontier run ที่ใหญ่ที่สุดไว้

เสียงค้านที่ถูกพูดถึงมากที่สุดคือ จดหมายเปิดผนึกของ Jake Gold (อดีตทีม Bluesky, Docker, Google) ที่ขึ้น HN คืนเดียวกัน เขาเสนอให้ Amodei เรียกร้องกฎหมายที่บังคับว่า โมเดลใดที่เปิดให้สาธารณะใช้ต้องเปิด weights ด้วย โดยให้เหตุผลว่าเงินลงทุนสำหรับการเทรนรอบถัดไปตั้งอยู่บนสมมติฐานว่า weights เป็นของบริษัท ถ้าเปลี่ยนสมมติฐานนี้ทุกแล็บจะช้าลงพร้อมกันโดยไม่ต้องมีหน่วยงานกำกับ ส่วนมาตรการที่ Amodei เสนอ — ผู้ประเมินฝังตัว เกณฑ์คอมพิวต์ ข้อยกเว้น antitrust — Gold มองว่า “จบที่ regulatory capture ทุกครั้ง” เพราะกฎถูกเขียนโดยแล็บที่อยู่หน้าสุด

มุมมอง AI Curator

ส่วนที่เป็นรูปธรรมจริงมีข้อเดียว และยังขาดตัวเลขที่สำคัญที่สุด ขั้นที่ 2 และ 3 เป็นข้อเสนอที่ต้องพึ่งรัฐบาลและคู่แข่ง มีเพียง embedded evaluators ที่ Anthropic ทำได้เอง และสัญญาที่บรรยายไว้ก็แรงจริง โดยเฉพาะสิทธิ์เผยแพร่ “สิทธิ์ที่ไม่ได้รับ” และการประกาศว่าการตัดทอนครั้งไหนสำคัญ ซึ่งไปไกลกว่า model card ที่บริษัทเลือกเองว่าจะใส่อะไร แต่ยังไม่มีวันเริ่ม ไม่มีชื่อองค์กร (METR เป็นแค่ “ตัวอย่าง”) ไม่มีขนาดทีม และคำว่า “ส่วนใหญ่เทียบเท่า” ทีมภายในยังเปิดช่องให้ตีความ คำตอบของ Altman ก็กว้างพอกัน — “จะเล่าเพิ่มเร็ว ๆ นี้” ตัวชี้วัดที่ควรจับตาจึงไม่ใช่เรียงความ แต่คือ รายงานฉบับแรกของผู้ประเมินที่ฝังตัว และหัวข้อ “สิ่งที่เราขอแต่ไม่ได้” ในนั้น

เรียงความนี้เป็นเอกสารนโยบายอุตสาหกรรมพอ ๆ กับเอกสารความปลอดภัย เพดานของการชะลอถูกผูกกับช่องว่างระหว่างสหรัฐฯ กับจีนอย่างชัดเจน และมาตรการที่ใช้รักษาช่องว่างนั้นคือการคุมชิปและปราบ distillation สำหรับนักพัฒนาไทยและอาเซียน นี่ไม่ใช่เรื่องไกลตัว โมเดลที่ใช้กันมากในงบประมาณระดับเราคือ open-weight จากจีนอย่าง Qwen, DeepSeek, GLM และ Kimi ซึ่งคือเป้าของมาตรการเหล่านี้โดยตรง และประโยค “การเช่าใช้ดาต้าเซ็นเตอร์นอกจีนผ่านรีโมต” น่าจะดึงดาต้าเซ็นเตอร์ในภูมิภาคเราเข้ามาอยู่ในความสนใจของผู้ออกนโยบายสหรัฐฯ มากขึ้น อาเซียนไม่อยู่ในวง “ประสานกันในกลุ่มประชาธิปไตย” และไม่ใช่คู่เจรจาในวงสหรัฐฯ–จีน เราจึงเป็นผู้รับกฎที่คนอื่นตั้ง

ทั้งสองฝั่งมีจุดบอด Gold พูดถูกว่าการให้คู่แข่งตกลง “จำกัดอัตราความก้าวหน้า” กันเองคือสิ่งที่กฎหมาย antitrust ออกแบบมาเพื่อป้องกัน และต้นทุน compliance มักเข้าทางรายใหญ่ — Amodei เองก็ยอมรับในเชิงอรรถว่าต้องขอ waiver แต่ข้อเสนอบังคับเปิด weights ของ Gold ก็ชนกับเหตุผลที่ทำให้เรื่องนี้เกิดขึ้นตั้งแต่แรก คือความสามารถด้านไซเบอร์ที่หลุดออกไปใช้ในโลกจริงแล้ว เมื่อ weights เปิด ก็ไม่มีใครเรียกคืนหรือใส่ classifier ครอบได้อีก

ในทางปฏิบัติสำหรับคนสร้างของ ถ้าแนวคิด checkpoint กลายเป็นมาตรฐานจริง ช่วงห่างระหว่างโมเดล frontier แต่ละรุ่นน่าจะยาวขึ้น และความสามารถด้านไซเบอร์กับเอเจนต์อิสระจะถูกกั้นหลังการรับรองมากขึ้น การออกแบบระบบให้ทำงานได้ดีกับโมเดลปัจจุบัน แทนการรอว่า “รุ่นหน้าจะแก้ให้เอง” จึงเป็นเดิมพันที่ปลอดภัยกว่า — แต่ทั้งหมดนี้ยังเป็นข้อเสนอ สิ่งที่ผูกมัดแล้วมีแค่ทีมผู้ประเมินที่ยังไม่มีชื่อ

แหล่งข่าว

• Dario Amodei — We Must Pace the Frontier (12 ก.ย. 2026)
• TechCrunch — Anthropic CEO outlines plan to ‘pace the frontier’ (12 ก.ย. 2026)
• TechCrunch — Sam Altman says it would be ‘ill-advised’ to go public in 2026 (12 ก.ย. 2026)
• Anthropic — Improving our alignment and security efforts (31 ส.ค. 2026)
• Jake Gold — An open letter to Dario: if you mean it, open the weights! (12 ก.ย. 2026)