📰 PromptPwnd – ช่องโหว่ AI ที่ทำให้ข้อมูลรั่วไหล ช่องโหว่ใหม่ชื่อ PromptPwnd ถูกค้นพบในระบบ CI/CD ที่ใช้ AI เช่น GitHub Actions และ GitLab โดยนักวิจัยจาก Aikido Security พบว่าแฮกเกอร์สามารถใช้เทคนิค prompt injection เพื่อขโมยข้อมูลสำคัญอย่าง security keys และปรับเปลี่ยน workflow ได้ PromptPwnd เกิดขึ้นเมื่อ AI agent ที่ทำงานในระบบอัตโนมัติ (เช่น Gemini CLI, Claude Code Actions, OpenAI Codex Actions) ถูกป้อนข้อความที่มีคำสั่งแฝงอยู่ใน bug report หรือ input อื่น ๆ ทำให้ AI เข้าใจผิดและรันคำสั่งที่มีสิทธิ์สูงโดยไม่ได้ตั้งใจ ส่งผลให้ผู้โจมตีสามารถเข้าถึง GITHUB_TOKEN หรือข้อมูลลับอื่น ๆ ได้ 🏢 บริษัทใหญ่ได้รับผลกระทบ Aikido Security ยืนยันว่ามีอย่างน้อย 5 บริษัท Fortune 500 ที่ถูกเปิดเผยต่อความเสี่ยงนี้ และในกรณีของ Google ช่องโหว่ถูกพบใน Gemini CLI repository ซึ่งถูกแก้ไขภายใน 4 วันหลังจากได้รับรายงาน ถือเป็นครั้งแรกที่มีการยืนยันว่า prompt injection สามารถทำลายระบบซอฟต์แวร์ที่สำคัญได้จริง 🛠️ การแก้ไขและแนวทางป้องกัน Aikido Security ได้เปิดซอร์ส Opengrep rules เพื่อช่วยให้องค์กรสามารถตรวจสอบโค้ดของตัวเองว่ามีช่องโหว่หรือไม่ ผู้เชี่ยวชาญแนะนำให้ จำกัดสิทธิ์ของ AI agents และหลีกเลี่ยงการใส่ข้อความจากผู้ใช้โดยตรงเข้าไปใน prompt โดยไม่กรอง 🌐 ผลกระทบต่อวงการ AI Automation เหตุการณ์นี้สะท้อนให้เห็นว่าแม้ AI จะช่วยเพิ่มความเร็วในการทำงาน แต่ก็สร้างความเสี่ยงใหม่ที่ไม่เคยมีมาก่อน หากไม่มีมาตรการป้องกันที่เข้มงวด ระบบอัตโนมัติที่ใช้ AI อาจกลายเป็นจุดอ่อนที่ทำให้ข้อมูลสำคัญรั่วไหลได้ 📌 สรุปสาระสำคัญ ✅ ช่องโหว่ PromptPwnd ➡️ เกิดจาก prompt injection ในระบบ CI/CD ➡️ ทำให้ AI agent รันคำสั่งที่มีสิทธิ์สูงโดยไม่ได้ตั้งใจ ✅ บริษัทที่ได้รับผลกระทบ ➡️ อย่างน้อย 5 บริษัท Fortune 500 ➡️ Google Gemini CLI repository ถูกแก้ไขภายใน 4 วัน ✅ การแก้ไขและป้องกัน ➡️ ใช้ Opengrep rules ตรวจสอบโค้ด ➡️ จำกัดสิทธิ์ AI agents และกรอง input ✅ ผลกระทบต่อวงการ AI Automation ➡️ แสดงให้เห็นความเสี่ยงใหม่จากการใช้ AI ➡️ ระบบอัตโนมัติอาจกลายเป็นจุดอ่อนขององค์กร ‼️ คำเตือนสำหรับผู้ใช้และองค์กร ⛔ การใช้ AI โดยไม่กรอง input อาจทำให้ข้อมูลรั่วไหล ⛔ การปิด safety rules ในระบบอัตโนมัติยิ่งเพิ่มความเสี่ยง https://hackread.com/promptpwnd-vulnerabilit-ai-systems-data-theft/