🎙️ Claude กับภารกิจหยุดยั้ง “สูตรระเบิดนิวเคลียร์” ในยุคที่ AI สามารถตอบคำถามแทบทุกอย่างได้อย่างรวดเร็วและแม่นยำ ความกังวลก็เพิ่มขึ้นตามไปด้วย โดยเฉพาะคำถามที่อาจนำไปสู่การสร้างอาวุธทำลายล้างสูง เช่น ระเบิดนิวเคลียร์ Anthropic บริษัทผู้พัฒนา Claude ซึ่งเป็นคู่แข่งของ ChatGPT ได้ร่วมมือกับหน่วยงานด้านความมั่นคงของสหรัฐฯ อย่าง NNSA (National Nuclear Security Administration) เพื่อพัฒนา “classifier” หรือระบบตรวจจับคำถามที่เกี่ยวข้องกับการสร้างอาวุธนิวเคลียร์ ระบบนี้สามารถแยกแยะได้ว่า ผู้ใช้กำลังถามเกี่ยวกับวิทยาศาสตร์นิวเคลียร์ทั่วไป เช่น “ฟิชชันคืออะไร” หรือกำลังพยายามขอ “แผนสร้างระเบิดยูเรเนียมในโรงรถ” ซึ่งถือเป็นการใช้งานที่อันตราย ผลการทดสอบพบว่า classifier นี้สามารถตรวจจับคำถามที่เป็นภัยได้ถึง 96% โดยใช้ชุดข้อมูลจำลองกว่า 300 แบบ และยังสามารถจับการใช้งานจริงที่มีความเสี่ยงได้ในบางกรณี เช่น การทดลองของทีม red team ภายในบริษัทเอง Anthropic ยังประกาศว่าจะนำแนวทางนี้ไปแบ่งปันกับกลุ่ม Frontier Model Forum ซึ่งรวมถึงบริษัทใหญ่อย่าง Google, Meta, Microsoft และ OpenAI เพื่อสร้างมาตรฐานความปลอดภัยร่วมกันในวงการ AI แม้ Claude จะไม่เคยช่วยใครสร้างระเบิดจริง ๆ แต่การป้องกันไว้ก่อนก็ถือเป็นก้าวสำคัญของการพัฒนา AI อย่างมีความรับผิดชอบ 📌 สรุปเนื้อหาเป็นหัวข้อ ➡️ Anthropic พัฒนา classifier เพื่อป้องกันการใช้ Claude ในการออกแบบอาวุธนิวเคลียร์ ➡️ ร่วมมือกับ NNSA ซึ่งเป็นหน่วยงานด้านความมั่นคงของสหรัฐฯ ➡️ classifier สามารถแยกแยะคำถามทั่วไปกับคำถามที่มีเจตนาอันตราย ➡️ ตรวจจับคำถามเกี่ยวกับอาวุธนิวเคลียร์ได้แม่นยำถึง 96% จากชุดข้อมูลจำลอง ➡️ ระบบถูกนำไปใช้จริงกับการสนทนาใน Claude บางส่วนแล้ว ➡️ Claude สามารถจับคำถามของทีม red team ภายในบริษัทได้อย่างแม่นยำ ➡️ Anthropic จะนำแนวทางนี้ไปแบ่งปันกับ Frontier Model Forum เพื่อสร้างมาตรฐานร่วม ➡️ ผู้ใช้ยังสามารถถามเรื่องวิทยาศาสตร์นิวเคลียร์ทั่วไป เช่น พลังงานนิวเคลียร์หรือการแพทย์นิวเคลียร์ได้ตามปกติ ➡️ ระบบนี้ทำงานคล้าย spam filter โดยตรวจจับภัยคุกคามแบบเรียลไทม์ ✅ ข้อมูลเสริมจากภายนอก ➡️ Anthropic ได้รับการสนับสนุนจาก Amazon และ Google ➡️ Claude ถูกเสนอให้หน่วยงานรัฐบาลสหรัฐฯ ใช้งานในราคาเพียง $1 เพื่อส่งเสริมความปลอดภัย ➡️ NNSA มีบทบาทในการดูแลคลังอาวุธนิวเคลียร์ของสหรัฐฯ และพัฒนาเทคโนโลยีด้านความมั่นคง ➡️ ระบบ classifier ใช้การสรุปแบบลำดับชั้น (hierarchical summarization) เพื่อหลีกเลี่ยงการตีความผิด ➡️ การพัฒนา classifier นี้เป็นส่วนหนึ่งของแนวทาง “red-teaming” ที่เน้นการทดสอบความปลอดภัยเชิงรุก https://www.techradar.com/ai-platforms-assistants/claude/anthropic-will-nuke-your-attempt-to-use-ai-to-build-a-nuke