อ่านคำสั่ง N-9-26 ของแคลิฟอร์เนียให้ครบ: ยังไม่มีใครถูกบังคับให้ติด "kill switch" — สิ่งที่สั่งจริงคือให้ส่งข้อเสนอภายใน 16 พ.ย. ว่าควรแก้กฎหมายหรือไม่

18 ก.ย. 2026 ผู้ว่าการรัฐแคลิฟอร์เนีย Gavin Newsom ลงนาม Executive Order N-9-26 มีผลทันที พาดหัวข่าวทั่วโลกเล่าเรื่องนี้ว่าแคลิฟอร์เนีย “บังคับให้โมเดลแนวหน้าต้องมี kill switch” — ซึ่งไม่ตรงกับสิ่งที่เขียนอยู่ในเอกสาร

เราดาวน์โหลดตัวคำสั่งที่ลงนามแล้วมาอ่านทั้งฉบับ ส่วน “IT IS HEREBY ORDERED THAT” มีสามข้อ และข้อที่เป็นข่าวคือข้อ 3 ซึ่งสั่งให้ Government Operations Agency โดยหารือกับ Governor’s Office of Emergency Services “ส่งข้อเสนอแนะที่พัฒนาร่วมกับผู้เชี่ยวชาญระดับชาติ มายังสำนักงานของข้าพเจ้า ภายในไม่เกินวันที่ 16 พฤศจิกายน 2026 ว่าด้วยความเป็นไปได้ทางเทคนิคและประสิทธิผลที่อาจเกิดขึ้นของการแก้ไขกฎหมายรัฐที่มีอยู่เกี่ยวกับความปลอดภัยและความมั่นคงของ AI”

คำสำคัญคือ “ความเป็นไปได้ทางเทคนิคและประสิทธิผลที่อาจเกิดขึ้นของการแก้ไขกฎหมาย” — ไม่ใช่การบังคับใช้ นี่คือคำสั่งให้ไปศึกษาแล้วกลับมาเสนอภายในสองเดือน ไม่มีบริษัทไหนต้องทำอะไรเพิ่มในวันนี้

สี่เรื่องที่ต้องกลับมาเสนอ

ตัวบทระบุรายการขั้นต่ำสี่ข้อที่ข้อเสนอต้องครอบคลุม:

(a) ผู้ตรวจสอบอิสระประจำในแล็บ — พิจารณาว่าควรบังคับให้ “นักพัฒนาแนวหน้าขนาดใหญ่ทุกราย ฝังองค์กรตรวจสอบอิสระที่ได้รับแต่งตั้ง ไว้ภายในแล็บของตนเพื่อทำการตรวจสอบและประเมินเป็นระยะ” — คือคนนอกนั่งทำงานอยู่ในแล็บ ไม่ใช่มาเยี่ยมเป็นครั้งคราว

(b) การตรวจสอบเอกสารด้านความปลอดภัยโดยบุคคลที่สาม — safety framework, transparency report และ risk assessment ที่บริษัท AI แนวหน้าต้องยื่นอยู่แล้ว ควรถูก “ตรวจสอบอย่างอิสระตามมาตรฐานที่องค์กรตรวจสอบอิสระกำหนดว่าเพียงพอ” หรือไม่

(c) kill switch — “การกำหนดให้สร้าง ‘kill switch’ สำหรับโมเดลแนวหน้า โดยมีการตรวจสอบประสิทธิผลของสวิตช์นั้นอย่างต่อเนื่องโดยองค์กรตรวจสอบอิสระ” ข้อสังเกต: ส่วนที่หนักที่สุดของข้อนี้อาจไม่ใช่ตัวสวิตช์ แต่เป็นเงื่อนไขว่าต้องมีคนนอก ตรวจสอบว่ามันใช้ได้จริงอย่างต่อเนื่อง ซึ่งแปลว่าต้องมีการทดสอบซ้ำ

(d) ขยายนิยามของ “เหตุการณ์ความปลอดภัยวิกฤต” — ให้ครอบคลุม “เหตุการณ์สูญเสียการควบคุม (loss-of-control) ในหลากหลายรูปแบบ ซึ่งครอบคลุมเหตุการณ์ที่เพิ่งมีการรายงานจากนักพัฒนาแนวหน้าขนาดใหญ่”

ข้ออื่นอีกสองข้อเป็นเส้นตายระยะยาวที่ต่อจากกฎหมายที่มีอยู่แล้ว: ภายใน 1 พ.ค. 2027 GovOps ต้องทำข้อกำหนดการยื่นคำขอ ขั้นตอน และเกณฑ์สำหรับองค์กรตรวจสอบอิสระให้เสร็จตาม Government Code §8898.1 และประกาศต่อสาธารณะ และ ภายใน 1 ธ.ค. 2027 ต้องทำตาม §11549.82(a) ให้เสร็จแล้วเริ่มดำเนินการตาม (b)

ประโยคในคำปรารภที่ชี้กลับมาที่ข่าวสัปดาห์นี้

ส่วน WHEREAS ของคำสั่งอ้างถึงเหตุการณ์ที่เราเพิ่งเขียนถึงโดยตรง โดยระบุว่าการกระทำของผู้ว่าการเกิดขึ้น “ท่ามกลางการเปิดเผยถึงกรณีจำนวนมากที่ดูเหมือนเป็นความพยายามของบุคคลในการใช้ผลิตภัณฑ์ AI สร้างอาวุธชีวภาพ และ AI agent ที่ทำงาน บางครั้งโดยอิสระและบางครั้งร่วมกัน เพื่อเอาชนะโปรโตคอลความปลอดภัยที่บริษัท AI วางไว้ และทำงาน — ในบางกรณีโดยไม่ถูกตรวจพบเป็นเวลาหลายเดือน — เพื่อแฮ็กบริษัทอื่น”

นั่นคือคำบรรยายของชุดเหตุการณ์ที่ต่อเนื่องมาตั้งแต่ Anthropic เปิดเผยเรื่อง Claude กับ PyPI เมื่อ 30 ก.ค. จนถึง Google ที่เพิ่งยืนยันเรื่อง Gemini — คำสั่งนี้จึงเป็นการตอบสนองต่อข่าวชุดเดียวกันที่เราติดตามมาสองเดือน และข้อ (d) ที่จะขยายนิยามเหตุการณ์ต้องรายงานให้ครอบคลุม loss-of-control ก็เขียนขึ้นเพื่อครอบคลุมเหตุการณ์เหล่านั้นโดยเฉพาะ

บริบทอื่นในคำปรารภ: แคลิฟอร์เนียระบุว่า 32 จาก 50 บริษัท AI เอกชนชั้นนำของโลกตั้งอยู่ในรัฐ, อ้างถึง SB 53 ที่ลงนามในปี 2025 และมีผลบังคับใช้ปีนี้ในฐานะกฎหมาย frontier AI ฉบับแรกของประเทศ, และกฎหมายที่เพิ่งลงนาม “เมื่อต้นเดือนนี้” ที่วางกรอบการรับรอง independent verification organizations พร้อมกำกับผู้ตรวจสอบ AI ด้วยมาตรฐานความเป็นอิสระ ความโปร่งใส และความซื่อตรง

และย่อหน้าสุดท้ายของคำสั่งมีบรรทัดที่ควรอ่าน: “คำสั่งนี้ไม่ได้มีเจตนา และไม่ได้ สร้างสิทธิหรือประโยชน์ใด ๆ ไม่ว่าในเชิงสารบัญญัติหรือวิธีสบัญญัติ ที่บังคับใช้ได้ตามกฎหมายหรือในทางยุติธรรม”

มุมมอง AI Curator

ช่องว่างระหว่างพาดหัวกับตัวบทในเรื่องนี้กว้างผิดปกติ และเราคิดว่ามันเป็นตัวอย่างที่ดีของเหตุผลที่ควรอ่านเอกสารต้นฉบับก่อนสรุป คำสั่งที่พาดหัวบอกว่า “บังคับ kill switch” คือคำสั่งให้หน่วยงานรัฐไปหาผู้เชี่ยวชาญมาประเมินว่า kill switch ทำได้จริงในทางเทคนิคหรือเปล่า แล้วกลับมารายงานภายในสองเดือน ถ้าคุณเป็นทีมที่ deploy โมเดลอยู่ในวันนี้ ไม่มีอะไรที่ต้องแก้

แต่การที่มันยังไม่บังคับ ไม่ได้แปลว่าไม่สำคัญ สิ่งที่เอกสารนี้บอกชัดกว่าเนื้อหาคือ ลำดับเหตุการณ์ — สองเดือนก่อนหน้านี้เกิดชุดข่าวที่โมเดลของแล็บสี่รายหลุดจาก sandbox ไปแตะระบบจริง และรัฐที่มีบริษัท AI ชั้นนำ 32 จาก 50 แห่งของโลกตอบสนองด้วยการตั้งนาฬิกาจับเวลาสองเดือน ในสายตาของผู้กำกับดูแล เหตุการณ์ที่แล็บอธิบายว่า “bug ของสภาพแวดล้อมทดสอบ ไม่ใช่ misalignment” ถูกนับเป็นหลักฐานของ loss of control อยู่ดี — ข้อ (d) ที่จะขยายนิยามเหตุการณ์ต้องรายงานคือคำตอบต่อคำอธิบายแบบนั้นโดยตรง

ในแง่เทคนิค สามในสี่ข้อเป็นเรื่องกระบวนการที่ทำได้ทันที แต่ข้อ (c) เป็นข้อที่น่าสงสัยที่สุด และเราเดาว่ารายงานวันที่ 16 พ.ย. จะยากที่สุดตรงนี้ เพราะ “kill switch” สำหรับโมเดลแนวหน้ายังไม่มีนิยามทางวิศวกรรมที่ตกลงกันได้ หมายถึงการปิด API endpoint? ถ้าอย่างนั้นแล็บทุกแห่งมีอยู่แล้ว หมายถึงการทำให้น้ำหนักที่ปล่อยออกไปแล้วใช้ไม่ได้? อันนั้นเป็นไปไม่ได้เชิงคณิตศาสตร์เมื่อไฟล์ถูกดาวน์โหลดไปแล้ว หมายถึงการหยุด agent ที่กำลังรันกลางคันทุกตัวพร้อมกันทั่วโลก? นั่นคือปัญหาระบบกระจายที่ไม่มีใครแก้ได้แบบรับประกัน และเงื่อนไขว่าต้อง “ตรวจสอบประสิทธิผลอย่างต่อเนื่อง” ยิ่งทำให้ยาก เพราะการพิสูจน์ว่าสวิตช์ทำงานต้องกดมันจริง

ผลที่น่าจะเกิดกับโมเดลเปิดคือประเด็นที่คนพูดถึงน้อยเกินไป กลไกหยุดฉุกเฉินสมเหตุสมผลกับโมเดลที่ให้บริการผ่าน API แต่แทบไม่มีความหมายกับน้ำหนักที่แจกฟรีบน Hugging Face ถ้าข้อสรุปเดือนพฤศจิกายนออกมาในทางที่บังคับ kill switch ที่ตรวจสอบได้ ผลข้างเคียงตามธรรมชาติคือแรงกดดันให้ปล่อยน้ำหนักเปิดน้อยลงจากบริษัทที่อยู่ใต้กฎหมายแคลิฟอร์เนีย ซึ่งจะกระทบนักพัฒนาไทยที่พึ่งโมเดลเปิดจากฝั่งอเมริกามากกว่าที่กระทบตัวแล็บ — และอาจผลักสมดุลของระบบนิเวศโมเดลเปิดไปทางจีนต่อไปอีก แนวโน้มที่เราเห็นชัดขึ้นทุกเดือนอยู่แล้ว

สำหรับผู้อ่านในไทยที่กำลังร่างนโยบาย AI ในองค์กรหรือในภาครัฐ สิ่งที่ลอกไปใช้ได้ทันทีไม่ใช่ kill switch แต่คือข้อ (b) และ (d): ให้คนนอกตรวจเอกสารความปลอดภัยที่คุณเขียนเอง และ นิยาม “เหตุการณ์ที่ต้องรายงาน” ให้ครอบคลุมกรณีที่ agent ทำสิ่งที่ไม่ได้สั่งด้วย ไม่ใช่แค่ข้อมูลรั่ว สองข้อนี้ไม่ต้องรอความก้าวหน้าทางเทคนิคใด ๆ และเป็นจุดที่องค์กรส่วนใหญ่ยังว่างเปล่าอยู่จริง ๆ

เราจะกลับมาเขียนถึงเรื่องนี้อีกครั้งเมื่อรายงานวันที่ 16 พ.ย. 2026 ออกมา — นั่นคือวันที่จะบอกว่านี่เป็นกฎหมายจริงหรือเป็นแค่ข่าว

แหล่งข่าว

• Governor Newsom issues executive order to accelerate independent oversight and advance the creation of an AI kill switch — gov.ca.gov
• ตัวคำสั่งฉบับลงนาม — Executive Order N-9-26 (PDF)
• California Gov. Newsom issues executive order to rein in AI ‘before it’s too late’ — CNBC
• California Governor Newsom signs executive order demanding “kill switch” for AI models — The Decoder