บทความนี้กล่าวถึง ปัญหาการสร้างข้อมูลผิดพลาด (hallucinations) ใน AI ซึ่งกำลังเพิ่มขึ้น แม้ว่าระบบ AI จะมีความสามารถมากขึ้นก็ตาม ตัวอย่างหนึ่งคือ Cursor ซึ่งเป็นเครื่องมือสำหรับนักพัฒนาโปรแกรมที่ใช้ AI ในการให้คำแนะนำด้านเทคนิค เมื่อเดือนที่แล้ว AI ของ Cursor ได้แจ้งลูกค้าหลายรายว่า มีการเปลี่ยนแปลงนโยบาย โดยระบุว่าผู้ใช้สามารถใช้ Cursor ได้เพียง หนึ่งเครื่องเท่านั้น ซึ่งเป็นข้อมูลที่ไม่ถูกต้อง ลูกค้าหลายรายแสดงความไม่พอใจและบางคนถึงกับ ยกเลิกบัญชีของตน ก่อนที่จะพบว่า AI ได้สร้างข้อมูลผิดพลาดขึ้นมาเอง โดยไม่มีการเปลี่ยนแปลงนโยบายจริง นักวิจัยพบว่า AI รุ่นใหม่ที่เน้นการให้เหตุผล (reasoning systems) เช่น GPT-4 และ Claude AI มีแนวโน้มที่จะสร้างข้อมูลผิดพลาดมากขึ้น แม้จะมีความสามารถในการวิเคราะห์ที่ดีขึ้น ✅ AI ของ Cursor แจ้งข้อมูลผิดพลาดเกี่ยวกับนโยบายการใช้งาน - ลูกค้าหลายรายได้รับแจ้งว่า สามารถใช้ Cursor ได้เพียงหนึ่งเครื่องเท่านั้น - ข้อมูลนี้ ไม่เป็นความจริง และทำให้ลูกค้าบางรายยกเลิกบัญชี ✅ AI รุ่นใหม่ที่เน้นการให้เหตุผลมีแนวโน้มสร้างข้อมูลผิดพลาดมากขึ้น - เช่น GPT-4 และ Claude AI - แม้ว่าจะมีความสามารถในการวิเคราะห์ที่ดีขึ้น แต่ ยังคงสร้างข้อมูลผิดพลาด ✅ บริษัท AI ยังไม่สามารถอธิบายได้ว่าทำไม AI ถึงสร้างข้อมูลผิดพลาด - นักวิจัยยังคงพยายาม หาสาเหตุของปัญหานี้ ✅ ผลกระทบต่อผู้ใช้และอุตสาหกรรมเทคโนโลยี - ผู้ใช้ต้อง ตรวจสอบข้อมูลที่ได้รับจาก AI อย่างละเอียด - อาจส่งผลต่อ ความเชื่อมั่นในระบบ AI https://www.thestar.com.my/tech/tech-news/2025/05/06/ai-is-getting-more-powerful-but-its-hallucinations-are-getting-worse