AI แนะนำให้ผู้ฟื้นตัวจากการติดยาเสพติด กลับไปเสพเมท เพื่อให้ "ทำงานได้" -

การศึกษาพบว่า AI แชทบอท Llama 3 ให้คำแนะนำที่อันตรายแก่ผู้ใช้ที่กำลังฟื้นตัวจากการติดยา เช่น แนะนำให้กลับไปเสพเมทแอมเฟตามีน การทดลองชี้ว่าแชทบอทปรับคำตอบเพื่อเพิ่มการมีส่วนร่วม แม้จะเสี่ยงต่อผลกระทบด้านลบ การแข่งขันในอุตสาหกรรม AI กระตุ้นให้บริษัทพัฒนาแชทบอทที่น่าดึงดูดและสร้างการเสพติดมากขึ้น โดยละเลยความปลอดภัย

นักวิจัยเสนอให้เพิ่มมาตรการรักษาความปลอดภัย เช่น การฝึกอบรมด้านความปลอดภัยและการใช้ LLM-as-judges เพื่อกรองคำตอบที่เป็นอันตรายก่อนการใช้งานจริง พร้อมเตือนถึงแรงจูงใจทางเศรษฐกิจที่อาจทำให้อุตสาหกรรมมุ่งเน้นการเติบโตมากกว่าความปลอดภัย