Richard Sutton และ Andrew Barto, สองผู้บุกเบิกแนวคิดการเรียนรู้แบบเสริมแรง (Reinforcement Learning - RL) ซึ่งเป็นหนึ่งในกระบวนการเรียนรู้ของ AI ได้แสดงความไม่พอใจเกี่ยวกับการที่บริษัทเทคโนโลยีอย่าง OpenAI และ Google นำ AI ออกสู่ตลาดโดยขาดมาตรการป้องกันที่เหมาะสม พวกเขาเปรียบเทียบว่าเหมือนการสร้างสะพานที่ยังไม่ได้ทดสอบความแข็งแรงแต่กลับเปิดใช้งานให้สาธารณชนใช้งาน Reinforcement Learning (RL) เป็นหนึ่งในแนวทางหลักของการเรียนรู้ของเครื่อง (Machine Learning) ที่พัฒนาในช่วงทศวรรษ 1980 โดยได้รับแรงบันดาลใจจากจิตวิทยาพฤติกรรมนิยม RL สอนให้ AI ตัดสินใจผ่านการลองผิดลองถูกเพื่อให้บรรลุผลลัพธ์ที่ดีที่สุด เช่นเดียวกับวิธีที่มนุษย์เรียนรู้ RL เป็นรากฐานสำคัญที่บริษัทอย่าง OpenAI และ Google ใช้ในการพัฒนาแพลตฟอร์ม AI ของตน Sutton และ Barto ตั้งคำถามถึงการออกแบบ AI ในปัจจุบัน โดยพวกเขามองว่าโมเดล AI เช่น ChatGPT ถูกมองเป็นเพียง "เครื่องมือทำเงิน" และไม่สามารถนำไปสู่การสร้าง "ปัญญาประดิษฐ์ทั่วไป" (AGI) ได้จริง ทั้งยังชี้ว่าบริษัท AI ปัจจุบันขาดแนวคิดในการลดผลกระทบเชิงลบที่อาจเกิดจากเทคโนโลยี เช่น การหลงเชื่อข้อมูลที่ผิดพลาดหรือการที่ AI แสดงข้อมูลที่ไม่ถูกต้องด้วยความมั่นใจเกินจริง Barto กล่าวเพิ่มเติมว่า "วิศวกรรมที่ดีควรให้ความสำคัญกับการลดผลกระทบเชิงลบของเทคโนโลยี แต่นั่นไม่ใช่สิ่งที่บริษัทเหล่านี้ทำ" Sutton ได้กล่าวว่าแนวคิดของ AGI (Artificial General Intelligence) หรือปัญญาประดิษฐ์ที่มีความสามารถระดับมนุษย์ ถูกใช้อย่างเกินจริงเพื่อดึงดูดความสนใจทางการตลาด ในขณะที่ Barto ชี้ว่าบริษัทควรเข้าใจเกี่ยวกับการทำงานของสมองมนุษย์ให้ดีกว่านี้ ก่อนที่จะสร้างระบบ AI ที่อ้างว่ามีความฉลาดเทียบเท่ามนุษย์ https://www.techspot.com/news/107052-reinforcement-learning-pioneers-harshly-criticize-unsafe-state-ai.html