QwenPU รัน LLM ซ้อนใน LLM ด้วยหน่วยเวกเตอร์ที่คอมไพล์ลงในน้ำหนัก Qwen3.5-4B ส่วน bootgpt ทำให้เครื่อง 386 บูตเข้าโมเดลภาษาโดยไม่มี OS

งานสองชิ้นปลายเดือนตุลาคมพาโมเดลภาษาไปอยู่ในที่ที่ไม่น่าจะอยู่ได้ QwenPU (repo สร้าง 31 ต.ค. 2026) รัน LLM ตัวเล็กอยู่ภายในน้ำหนักของ LLM อีกตัว ส่วน bootgpt (repo สร้าง 30 ต.ค.) ทำให้โมเดลภาษาทำงานทันทีที่เปิดเครื่อง 386 โดยไม่มีระบบปฏิบัติการ

ทั้งสองงานไม่มีประโยชน์เชิงผลิตภัณฑ์ทันที แต่เป็นบทเรียนที่ดีว่า “การรันโมเดล” แท้จริงคือการคำนวณแบบไหน และ QwenPU ยังเป็นตอนต่อของสายงาน compiled weights ที่เราเล่าไว้ใน Qwenputer และ nesformer

QwenPU: LLM ใน LLM

Divyansh Agrawal ผู้สร้าง Qwenputer คอมไพล์ CPU RISC-V 32 บิตพร้อม หน่วยเวกเตอร์ ลงในน้ำหนักของ Qwen3.5-4B น้ำหนักที่เพิ่มเข้ามาไม่ได้มาจากการเทรน คอมไพเลอร์เป็นผู้คำนวณทุกค่า จากนั้นรัน stories260K โมเดล Llama ขนาด 260K พารามิเตอร์จาก llama2.c ของ Andrej Karpathy เป็นโปรแกรม C บนหน่วยนั้น

ตัวเลขที่น่าสนใจคือจำนวน trace token ที่ใช้ต่อหนึ่ง token ของเรื่องเล่า

วิธีสร้าง	trace token ต่อ token เรื่องเล่า
C ธรรมดา น้ำหนัก int8	2,430,000
NPU ของ Qwenputer	225,000
หน่วยเวกเตอร์ของ QwenPU	53,000

README ระบุว่าทุกวิธีให้เรื่องเดียวกันทุก token ส่วนสถานะยังเป็นงานระหว่างพัฒนา ไฟล์ checkpoint หนัก 26.7GB โหลดทั้งก้อนต้องใช้ GPU 40GB ขึ้นไป แต่เดโมที่รันเฉพาะเลเยอร์ของคอมพิวเตอร์ใช้ GPU 24GB ได้ โค้ดใช้ใบอนุญาต MIT และผู้สร้างบอกว่าบทความอธิบายเต็มกำลังตามมา

bootgpt: เครือข่ายประสาทที่บูตเครื่อง

bootgpt เขียน MBR ขนาด 512 ไบต์ด้วย assembly ล้วน อ่านโมเดล int8 ขนาด 11.5KB จาก 23 เซกเตอร์ถัดไป แล้วรันใน 16-bit real mode บนเครื่อง 386 ไม่มี OS และไม่มี C runtime เครื่องจะ “ฝัน” log การบูตของ Linux ออกมา ทั้ง timestamp, PCI และเหตุการณ์ ACPI ของฮาร์ดแวร์ที่ไม่มีอยู่จริง

โมเดลใช้ context 8 ตัวอักษรและชั้นซ่อนเดียว ผลจึงเป็นข้อความครึ่งมั่ว ความน่าสนใจอยู่ที่วิศวกรรม สคริปต์เทรนจำลองการคำนวณจำนวนเต็มแบบเดียวกับ assembly ทำให้ผลจาก Python กับบูตเซกเตอร์ตรงกันทุกตัวอักษร ใบอนุญาต MIT และลองผ่าน QEMU ได้โดยไม่ต้องหาเครื่องจริง

มุมมอง AI Curator

ถ้า nesformer คือการถามว่าน้ำหนักโมเดลเป็นคอมพิวเตอร์ได้ไหม QwenPU คือการถามต่อว่าคอมพิวเตอร์นั้นเร่งความเร็วเฉพาะทางได้ไหม คำตอบคือการลดลงจาก 2.43 ล้านเหลือ 53,000 trace ด้วยการเพิ่มหน่วยที่เหมาะกับงาน ซึ่งเป็นตรรกะเดียวกับการออกแบบฮาร์ดแวร์จริง แต่เกิดขึ้นในรูปของเมทริกซ์ นี่ยังเป็นงานทดลองที่ช้ามาก แต่ก็เตือนนักวิจัยความปลอดภัยว่า checkpoint อาจมีกลไกที่ไม่ได้มาจากการเทรนซ่อนอยู่ได้

bootgpt อยู่อีกขั้วหนึ่งและเหมาะกับการสอนมาก นักศึกษาไทยที่เรียนสถาปัตยกรรมคอมพิวเตอร์หรือเริ่ม deep learning จะเห็น forward pass ทั้งหมดในระดับคำสั่งเครื่อง ไม่มีเฟรมเวิร์กมาบัง การอ่านโค้ดชุดนี้ให้ความเข้าใจเรื่อง quantization ได้ดีกว่าการเรียกไลบรารีหลายเท่า

แหล่งข่าว

• QwenPU — GitHub
• QwenPU — Hugging Face
• bootgpt — GitHub
• stories260K (tinyllamas) — Hugging Face