นี่เป็นเรื่องทีน่าตื่นเต้นของวงการ LLMs อีกครั้ง เมื่อ Google พูดถึง Project ที่กำลังซุ่มพัฒนาศึกษาอยู่นั่นคือ Gemini Diffusion หลายคนในวันนี้อาจจะยังไม่คุ้นเคยกับชื่อนี้ แต่เชื่อผมเถอะครับว่าอีกไม่นาน คำนี้จะเป็นที่รู้จักกันดีและเขย่าโลกใบนี้อีกครั้งนึง
Gemini Diffusion คืออะไร ?
หลายคนคงเคยได้ยินเรื่อง Diffusion Model ที่ใช้ในการสร้างภาพใช่ไหมครับ เช่น Imagen 4 ที่ใช้ latent diffusion หรือ open source อย่าง Stable Diffusion เอง ที่มันจะค่อย ๆ กำจัด Noise ออกจากภาพที่เต็มไปด้วยจุด ๆ จนกลายเป็นภาพที่สวยงามและสมบูรณ์
ตัวอย่างการกำจัด noise ที่มาใช้สร้างภาพบน Diffusion Model, ภาพประกอบ Wikipedia
ภาพนี้ถูกสร้างจากภาพต้นฉบับวัยเด็กของผู้เขียนด้วย Nano Banana (Gemini 2.5 Flash Image) ที่ใช้ advanced latent diffusion models
ซึ่งไม่เหมือนกับ traditional AI image model ทั่วไป ซึ่งอาศัยพลังงานประมวลผลจำนวนมาก
แต่ช้าก่อนครับ Gemini Diffusion ที่เราพูดถึงกันวันนี้ ไม่ใช่โมเดลสร้างภาพนะครับ แต่เรานำแนวคิดนี้ที่เป็นหลักการของ Diffusion มาปรับใช้กับข้อมูลที่เป็น Text ครับ แทนที่จะค่อย ๆ ลบ Noise เพื่อสร้างภาพ แต่มันจะค่อย ๆ เติม Text หรือ ปะติดปะต่อ Text ที่เป็นกลุ่มคำกระจัดกระจาย ให้กลายเป็นประโยคที่สมบูรณ์และมีความหมาย ซึ่งวิธีการนี้แตกต่างจาก LLMs แบบดั้งเดิมอย่างสิ้นเชิงครับ
Gemini Diffusion แตกต่างจาก LLMs ทั่วไปอย่างไร ?
เมื่อพูดถึง LLM ทั่วไปที่เราใช้กันอย่าง Gemini, ChatGPT มาจาก Transformer จะใช้หลักการที่เรียกว่า Autoregressive ครับ คือมันจะทำนายคำถัดไปทีละคำ (next token prediction) ไปเรื่อยๆ เหมือนกับเรากำลังพิมพ์ข้อความแล้วมีระบบ Auto-complete คอยแนะนำคำให้
ตัวอย่าง Transformer-based translator ที่ใช้ในการแปลภาษา
ตัวอย่างการ Token คำถัดไปในสถาปัตยกรรม MoE ที่เริ่มต้นใช้บน Gemini 1.5
ซึ่งวิธีทำนาย token ถัดไปนี้มีข้อจำกัดด้านความเร็ว เพราะต้องรอให้คำก่อนหน้าถูกสร้างขึ้นมาก่อนถึงจะไปต่อได้ แต่ Gemini Diffusion ไม่ได้ทำแบบนั้นครับ มันสามารถสร้าง Token หรือส่วนของข้อความได้พร้อมๆ กันทั้งหมดในคราวเดียวทันที (non-autoregressive generation) ซึ่งนี่คือจุดแข็งที่ทำให้มันเร็วกว่า LLM ทั่วไปอย่างมาก
หัวใจของการทำงานของ Gemini Diffusion อยู่ที่การใช้หลักการของ Diffusion ซึ่งโมเดลจะเรียนรู้ที่จะค่อยๆ เติมข้อมูลที่ขาดหายไปลงในช่องว่างของประโยคที่กระจัดกระจาย (fill-in-the-blanks) แทนที่จะทำนายคำถัดไปทีละคำ มันจะสร้างข้อความที่สอดคล้องกับภาพรวมของประโยคในทันที ซึ่งนี่เป็นเหตุผลที่ทำให้มันสามารถสร้างและแก้ไขข้อความได้อย่างรวดเร็ว
ความสามารถของ Gemini Diffusion
จากหน้าเพจของ Deepmind สรุปคุณสมบัติเด่นของ Gemini Diffusion ไว้ 3 ข้อดังนี้
Rapid Response (ตอบสนองได้เร็วมาก)
ตรงนี้คือจุดแข็งที่สำคัญที่สุดเลย เพราะมันไม่ได้ทำงานเหมือน LLMs ทั่วไปทีสร้างข้อความแบบ Autoregressive แต่ใช้ non-autoregressive สร้างทีเดียวเลย
More coherent text (ข้อความสอดคล้องกันมากขึ้น)
เนื่องจากมันไม่ได้ทำนายคำถัดไป แต่เป็นการ เติมเต็ม ช่องว่างที่กระจัดกระจายให้สมบูรณ์ หมายความว่ามันมองภาพรวมของประโยคทั้งหมดทีดียว ทำให้การข้อความสุดท้ายมีความสอดคล้องกับบริบทโดยรวม ซึ่งลดความวกไปวนมา หรือข้อความซ้ำ ๆ ที่เราเห็นจาก LLMs สร้างมา ซึ่งอ่านข้ามก็ได้เป็นต้น
Iterative refinement (การปรับปรุงข้อความแบบ Iterative วนซ้ำ)
การทำงานโมเดลมันจะวนกลับมาตรวจสอบและแก้ไขข้อความที่สร้างขึ้นในขั้นตอนก่อนหน้า (อารมณ์เหมือน Image Diffusion ที่ค่อย ๆ แก้รูปจาก noise แรกครับ) ทำให้ผลลัพธ์สุดท้ายที่สิ้นสุดมีความถูกต้องและสอดคล้องกับมากขึ้น ตัวอย่างเช่น ถ้าโมเดลสร้างประโยคตอนแรกที่มีคำผิดอยู่ตรงกลาง มันก็จะย้อนวนไปแก้ไขจุดนั้นซ้ำ โดยไม่ต้องเริ่มเขียนประโยคใหม่ทั้งหมดแบบ Autoregressive
สำหรับผมคิดว่ามีข้อดีที่น่าสนใจอีก เช่น
- ความสามารถในการสร้างข้อมูลที่ไม่เคยเห็น
เพราะโมเดลไม่ได้แค่จดจำข้อมูลที่มี แต่เรียนรู้ที่จะสร้างข้อมูลที่สอดคล้องกับบริบทมากกว่า ยกตัวอย่างเช่น มันอาจจะมีประโยคบางอันที่มีคำศัพท์วัยรุ่นแบบเด็ก Gen Z อย่าง คุณน้า, กี่โมง, ทำถึง ที่โมเดลไม่เคยเห็นพร้อมกันมาก่อน แต่มันก็สามารถสร้างประโยคที่สมเหตุสมผลและสอดคล้องกันได้ - การจัดการข้อมูล Sensitive Data
การทำงานแบบ Diffusion มีศักยภาพในการจัดการข้อมูลส่วนบุคคลหรือพวกความลับได้ดี เพราะเราให้โมเดลเรียนรู้จากข้อมูลที่มีการใส่ Noise หรือปิดข้อความบางส่วนไว้ ทำให้เราไม่ต้องเปิดข้อมูลทั้งหมด
แต่ก็มีจุดอ่อนทีต้องพิจารณาครับ เช่น บางเคสข้อความอาจขาดความลื่นไหลสละสลวยเมื่อเทียบกับ Autoregressive ที่ถูก Train มาอย่างดีเยี่ยมด้วย Parameter โหดๆ ครับ ตรงจุดนี้ก็ต้อง Trade off กันว่าเราเลือกแบบไหน เพราะ Gemini Diffusion ยังอยู่ในขั้นตอนการศึกษาวิจัย แต่ผมเชื่อว่าในอนาคตจะต้องเก่งมากแน่ ๆ ครับ
ลองส่องความเร็วระดับเทพของ Gemini Diffusion
เนื่องจาก ณ วันที่ผมเขียนบทความนี้ กันยายน ปี 2025 ตัว Gemini Diffusion ยังไม่ปล่อยให้บุคคลทั่วไปได้ลองใช้ จำเป็นต้องขอผ่าน Waitlist บนเว็บไซต์ Google Deepmind ผมจึงขออนุญาตแนบวีดีโอประกอบของ Youtuber ท่านนึงเป็นตัวอย่างให้ผู้อ่านทุกท่านดูก่อนเป็นน้ำจิ้มไปพลาง ๆ นะครับ
Gemini Diffusion เก่งแค่ไหน ?
จากตาราง Benchmark ของ Google Deepmind เรามาเปรียบเทียบกับระหว่าง Gemini Diffusion กับ Gemini 2.0 Flash-Lite ซึ่งเป็น Autoregressive model ของ Google ที่เร็วที่สุดในเวลานี้ครับ ผลลัพธ์ผมว่าสูสี แต่ถ้าเทียบกับความเร็วผมว่าอาจจะทำได้ดีเกินคาดครับ
ด้านการเขียน Code
Gemini Diffusion ทำได้ดีพอ ๆ กับโมเดล Autoregressive ที่ถูกพัฒนามานานแล้ว อันนี้ผมว่าน่าประทับใจมาก เพราะโค้ดดิ้งต้องอาศัยความถูกต้องครับ
ด้านวิทยาศาสตร์ คณิตศาสตร์ และการใช้เหตุผล
ดูจาก GPQA Diamond (วิทยาศาสตร์) และ BIG-Bench Extra Hard (การใช้เหตุผล) โมเดล Autoregressive อาจจะยังดีกว่าในการทำโจทย์ที่ซับซ้อนและใช้เหตุผลเป็นหลัก แต่ไม่แปลกใจครับเพราะโมเดลแบบ Autoregressive ถูก Train มาให้คิดเป็นระดับขั้นตอน ซึ่งอะไรที่เป็นขั้นตอนผมว่ามันน่าจะทำได้ดีกว่า
ด้านภาษาและภาพรวม
ในด้านความเข้าใจภาษาที่หลากหลายและภาพรวม Gemini 2.0 Flash-Lite ทำได้ดีกว่าอย่างชัดเจน โมเดล Autoregressive ที่ถูกฝึกมาอย่างหนักยังคงมีประสิทธิภาพที่สูงกว่าครับ
จาก Benchmark ทั้งหมดนี้จุดแข็งผมว่าน่าจะเป็นความเร็วกับเรื่องเขียนโค้ดด้วย เพราะตัวอย่างที่ Deepmind เปิดให้เราดู ถ้าเอาไปเขียนโค้ดสร้างแอพ คือระดับกระพริบตาเสร็จครับ แต่ถ้าเป็น Autoregressive เอาไปเขียนโค้ดน่าจะสักพักเลย คิดแล้วก็หวั่น ๆ ว่า ถ้าเป็น Hacker นำไปใช้สร้าง Tools เพื่อ Hack ระบบอะไรสักอย่างก็จะเร็วมากครับ ดังนั้น Ads Cyber Security ต้องเข้าแล้วครับงานนี้ 🤭
ทำไม Gemini Diffusion ถึงน่าสนใจ ?
ยังมีประเด็นที่หลายคนถกเถียงว่าตกลง LLMs ที่ใช้กันเข้าใจหรือรู้ในสิ่งที่เราสอนจริง ๆ หรือแค่ Pattern เหมือนที่ผมอธิบายว่าใน Autoregressive ครับ อาจจะแค่ตอบตามตำรา ตามไวยากรณ์ ลำดับก่อนหลัง จนได้ประโยคที่สวย แต่ไม่รู้ว่ามันหมายถึงอะไร
หรือจริง ๆ มันเข้าใจระดับหนึ่ง ในการเชื่อมโยงโดเมน หรือ corpus แบบมนุษย์แหละ โดยใช้เทคนิค inference หรืออนุมาน อาจความว่านี่เป็นส่วนหนึ่งของความเข้าใจที่มนุษย์กำลังศึกษาโมเดลเหล่านี้อยู่ครับ
กลับมาที่ Gemini Diffusion มันอาจจะเป็นคำตอบของอีกก้าวหนึ่งด้าน LLMs ก็ได้ เพราะมันไม่ได้แค่ทำนาย หรืออนุมาน แต่เติมเต็มส่วนที่ขาดหายของข้อมูล ซึ่งทำให้โมเดลมัน สร้างความสัมพันธ์ของข้อมูล ในแบบที่ลึกซึ้งมากขึ้นเหมือนที่คนคิดครับ เหมือนมนุษย์ที่สร้างข้อมูลใหม่ให้ดูมีเหตุมีผล แม้ว่าเราจะไม่เคยเห็นข้อมูลเหล่านั้นมาก่อน แบบที่เราจินตนาการว่าน่าจะมีหลุมดำ หรืออะไรอื่น ๆ ที่ทำให้วงการวิทยาศาสตร์เราเติบโตจนถึงทุกวันนี้ นี่ผมพิมพ์ไปขนลุกไปเลยนะครับ 🤣
อย่างไรแล้ว Gemini Diffusion ยังอยู่ในขั้นทดลอง แต่คิดว่าไม่นานครับเราคงได้เล่น Gemini Diffusion กัน ติดตามได้ที่ เว็บไซต์ของ DeepMind ครับ
หน้าแรก 
โซลูชั่น 
โทร 
ติดต่อเรา