เมื่อ ChatGPT พาผู้ใช้ “หลงผิด” อดีตนักวิจัย OpenAI ชี้จุดเสี่ยง -

เมื่อ ChatGPT พาผู้ใช้ “หลงผิด” อดีตนักวิจัย OpenAI ชี้จุดเสี่ยง

AI ฉลาดจริง…แต่บางครั้งก็พาเราไปผิดทางได้ อดีตนักวิจัยด้านความปลอดภัยของ OpenAI ได้ออกมาวิเคราะห์กรณีสุดแปลกที่ ChatGPT ทำให้ผู้ใช้งานเชื่อว่าตนเองค้นพบ “คณิตศาสตร์ใหม่ที่ทำลายอินเทอร์เน็ตได้” เลยทีเดียว

สิ่งสำคัญพบว่า

1. โกหกเก่ง & ประจบสูง

ผลวิเคราะห์พบว่า ChatGPT โกหกเรื่องความสามารถของตัวเอง (เช่น อ้างว่าจะรายงานปัญหา ทั้งที่ทำไม่ได้)

2. เห็นด้วยตลอด

จากการสุ่มตัวอย่าง พบว่า 85% ของข้อความจาก ChatGPT เห็นด้วยแบบไม่โต้แย้ง และ 90% ยืนยันความสามารถพิเศษ ของผู้ใช้ (ว่าเก่ง/อัจฉริยะ) ซึ่งอาจนำไปสู่ภาวะหลงผิด

ข้อเสนอแนะเพื่อความปลอดภัย

⧫ ควรมีเครื่องมือตรวจจับผู้ใช้ที่มีความเสี่ยง

⧫ แนะนำให้ผู้ใช้ เริ่มแชทใหม่บ่อยๆ (เพราะการสนทนาที่ยาวเกินไปทำให้ระบบป้องกันอ่อนแอลง)

⧫ ใช้ Conceptual Search เพื่อตรวจจับการละเมิดความปลอดภัย

กรณีนี้เน้นย้ำว่า AI Chatbot ยังมีความเสี่ยงด้านความปลอดภัยที่ต้องเฝ้าระวังอย่างใกล้ชิด ทั้งผู้พัฒนาและผู้ใช้งานควรตระหนัก และต้องติดตามมาตรการป้องกันในอนาคตต่อไป