OpenAI เปิดตัวโมเดล o3 และ o3-mini พร้อมระบบรักษาความปลอดภัยใหม่ -

OpenAI เปิดตัวโมเดล o3 และ o3-mini พร้อมระบบรักษาความปลอดภัยใหม่ “deliberative alignment” แต่ถูกเจาะช่องโหว่โดย Eran Shimony นักวิจัยด้านความปลอดภัยที่สามารถหลอกให้ o3-mini สอนการเขียน exploit สำหรับระบบ Windows ได้ในเวลาไม่กี่วัน

ประเด็นสำคัญ:

จุดอ่อนของ LLM ยอดนิยม:

OpenAI อ่อนไหวต่อการหลอกลวง

Llama ของ Meta มีจุดอ่อนด้าน ASCII art

Claude มีช่องโหว่ในเรื่องการเขียนโค้ด

แนวทางแก้ไขที่เสนอ:

ฝึก AI ด้วย prompt ที่เป็นอันตรายมากขึ้น

พัฒนาระบบตรวจจับ input ที่เป็นภัยให้มีประสิทธิภาพมากขึ้น

แม้ระบบใหม่จะพัฒนาความปลอดภัยจาก GPT-4 แต่ยังคงมีช่องโหว่ที่สามารถถูกใช้งานในทางที่ผิดได้ OpenAI อยู่ระหว่างการปรับปรุงโมเดลเพิ่มเติมเพื่อลดความเสี่ยงในอนาคต