Q Labs เปิด Dust: ฝึก transformer ภาษาโดยไม่ใช้ backprop แล้วได้ loss ต่ำกว่า backprop ในงบ 1M token — แต่ต้องสุ่มรบกวน activation นับพันครั้งต่ออัปเดต และโมเดลใหญ่สุดที่ทดสอบมีแค่ 243M พารามิเตอร์

Q Labs แล็บวิจัยขนาดเล็ก เผยแพร่งานชื่อ Dust: Pretraining Transformers Without Backpropagation (ลงวันที่ ต.ค. 2026 ขึ้นหน้าแรก Hacker News เมื่อ 5 ต.ค.) พร้อมโค้ดบน GitHub แบบ MIT โดยอ้างว่าเป็นวิธี zeroth-order วิธีแรกที่สู้ backprop ได้ในการ pretrain โมเดลภาษา transformer คือฝึกได้โดยไม่ต้องมี backward pass และไม่ต้องคำนวณ gradient ตรง ๆ เลย

ข้อแลกเปลี่ยนก็ชัดเจนตั้งแต่ต้น Dust ได้ผลใกล้หรือดีกว่า backprop เมื่อใช้การคำนวณมากกว่าหลายเท่า และทุกการทดลองยังอยู่ในระดับโมเดลเล็ก ไม่ถึง 1B พารามิเตอร์

Dust ทำงานอย่างไร

วิธีแบบ evolution strategies (ES) ทั่วไป เช่น EGGROLL จะสุ่มรบกวนน้ำหนักของโมเดลหลายชุด แล้วดูว่าชุดไหนทำให้ loss ลดลง ปัญหาคือแต่ละชุดต้องสร้างและประเมินแยกกัน ยิ่งประชากร (population) ใหญ่ ต้นทุนยิ่งสูง

Dust เปลี่ยนไปรบกวน activation แทน (เทคนิคที่เรียกว่า node perturbation) และสุ่มแยกกันทีละ token ทำให้แต่ละ token ทำหน้าที่เป็นสมาชิกประชากรเสมือนหนึ่งตัว และ forward pass ครั้งเดียวประเมินได้ทั้งหมดพร้อมกัน จากนั้นให้รางวัลแก่การรบกวนแต่ละครั้งตามว่าทำให้ loss ของ token นั้นลดลงเท่าไร แล้วเฉลี่ยรวมเป็นค่าประมาณของ gradient ทีมใช้คำว่า “draw” แทนการรบกวนหนึ่งรอบ ซึ่งถูกกว่า forward pass เต็มเล็กน้อย เพราะรันซ้ำเฉพาะบล็อกตั้งแต่ชั้นที่ถูกรบกวนเป็นต้นไป

ผลการทดลอง

ตั้งค่าหลักคือ GPT 8 ชั้น กว้าง 512 ฝึกบน FineWeb ด้วย tokenizer BPE 4,096 คำ, batch 16k token และ SGD แบบมี momentum โดยปรับ hyperparameter ของทุกวิธีแยกกันในทุกงบและทุกขนาดประชากร รันวิธีละ 3 seed

• งบ 100k และ 1M token: Dust ได้ test loss ต่ำกว่า backprop โดยเริ่มชนะตั้งแต่ไม่กี่ร้อย draw (100k) และราว 1,000 draw (1M)
• งบ 10M และ 20M token: ยังแพ้ backprop แต่ช่องว่างแคบลงเมื่อเพิ่มประชากร ที่ 20M ทีมลากเส้น power law แล้วได้ค่าขีดจำกัด 4.431 (ช่วงความเชื่อมั่น 95% คือ 3.89–4.58) ต่ำกว่า backprop ที่ 4.633 แต่ทีมเตือนเองว่าเป็นการคาดการณ์ เพราะ loss ยังลดลงอยู่ที่ 16k draw ควรอ่านเป็นสัญญาณว่าช่องว่างกำลังแคบลง ไม่ใช่ผลที่วัดได้จริง
• เทียบกับ EGGROLL: แม้ให้ประชากรมากกว่า 256 เท่า EGGROLL ที่ 16k ก็ยังไม่ถึง Dust ที่ 64 draw และสูงกว่า 0.4–0.6 ที่งบ 1M ขึ้นไป ทีมประเมินว่า Dust มีประสิทธิภาพมากกว่าในระดับ 10³–10⁴ เท่า
• ใช้กับ Adam ได้: ที่ 1M token ค่าขีดจำกัดที่ลากเส้นได้คือ 5.248 (5.17–5.30) เทียบ backprop 5.361
• โมเดลใหญ่ขึ้นไม่ได้แย่ลงอย่างที่คาด: ที่งบ 10M token ทดสอบ 4 ขนาดตั้งแต่ 2M ถึง 243M พารามิเตอร์ โมเดล 243M ทำได้ดีกว่าโมเดล 2M ที่ประชากรเกือบทุกระดับ แต่ถ้าดูตารางของทีมเองที่ 16k draw โมเดล 38M ได้ 5.036 เทียบ backprop 5.015 และ 243M ได้ 5.086 เทียบ 5.048 แปลว่ายิ่งโมเดลใหญ่ ยังตามหลัง backprop มากขึ้นเล็กน้อย

ข้อจำกัดที่ทีมยอมรับ

ส่วนสรุปของงานเขียนไว้ตรง ๆ ว่า ต้องเพิ่มประสิทธิภาพด้านการคำนวณอีกหลายระดับ (orders of magnitude) ก่อนที่ Dust จะใช้แทน backprop ได้จริงในระดับการคำนวณปัจจุบัน ประชากร 16k draw ต่ออัปเดตแปลว่าต้องรันส่วนของ forward pass ซ้ำหลายพันถึงหมื่นครั้งต่อ step ขณะที่ backprop ใช้ต้นทุนราวไม่กี่เท่าของ forward pass เดียว ข้อมูลที่ใหญ่ที่สุดที่ทดสอบคือ 1B token ในส่วนที่วัดความสอดคล้องกับ gradient ของ backprop ซึ่งยังห่างจากการ pretrain โมเดลจริงหลายระดับ

มุมมอง AI Curator

Dust ไม่ได้บอกว่าเราจะเลิกใช้ backprop เร็ว ๆ นี้ งานนี้ตั้งคำถามว่า ถ้าการคำนวณมีเหลือเฟือ วิธีค้นหาแบบ brute force จะสู้ backprop ได้หรือไม่ ซึ่งเป็นแนวคิด bitter lesson ที่ทีมอ้างถึงเอง ผลที่ชนะ backprop ในงบ token น้อย ๆ น่าสนใจ เพราะบอกว่าการค้นหาใน activation อาจหาทิศทางที่ดีกว่า gradient อันดับหนึ่งได้ (ทีมคาดว่าอาจเป็นเพราะโน้มไปหาบริเวณที่ loss แบนกว่า แต่ยังอธิบายกลไกไม่ได้) แต่ต้องจำไว้ว่าผลนี้มาจากโมเดลเล็กมาก และตัวเลขดีที่สุดบางส่วนเป็นการลากเส้นคาดการณ์

ประเด็นที่นักพัฒนาควรสนใจจริงคือสิ่งที่วิธีนี้เปิดให้ทำได้ Dust ไม่ต้องให้เครือข่ายหา gradient ได้ตลอดทั้งเส้น จึงเปิดทางให้สถาปัตยกรรมที่มีส่วนหา gradient ไม่ได้ หรือโครงสร้างแบบวนซ้ำที่ backprop ฝึกได้ยาก ประกอบกับงาน PC-ALM ของ Sakana AI เมื่อเดือนก่อน เห็นได้ว่าตอนนี้มีหลายกลุ่มกำลังทดลองหาวิธีฝึกที่ไม่ใช่ backprop ซึ่งต่างจากเมื่อไม่กี่ปีก่อนที่เรื่องนี้แทบไม่มีใครทำในระดับ transformer

สำหรับนักวิจัยและนักศึกษาในไทย งานนี้เข้าถึงได้ง่ายกว่างาน pretraining ส่วนใหญ่ โมเดลฐานมีแค่ 8 ชั้น ข้อมูลคือ FineWeb ที่เปิดอยู่แล้ว และโค้ดเป็น MIT การทำซ้ำผลที่ 1M token บน GPU ตัวเดียวน่าจะทำได้จริง เป็นหัวข้อที่เหมาะกับการเรียนรู้ว่า optimizer ทำงานอย่างไรใต้ฝากระโปรง หรือต่อยอดเป็นงานวิจัยระดับบัณฑิตศึกษา มากกว่าจะเป็นเครื่องมือที่ใช้ฝึกโมเดลจริงในวันนี้

---

แหล่งข่าว

• Dust: Pretraining Transformers Without Backpropagation — Q Labs
• qlabs-eng/dust — GitHub (MIT)
• EGGROLL: Evolution Strategies at the Hyperscale — arXiv