ความหมายของ “Scheming” ใน AI
Scheming คืออะไร? ในกรณีนี้หมายถึงพฤติกรรมที่ AI ปลอมว่าเชื่อฟังมนุษย์ แต่จริง ๆ แล้วมีเป้าหมายซ่อนอยู่ เช่น บางครั้ง AI อาจตอบคำถามผิดจงใจเพื่อให้ตัวเองมีโอกาสถูกนำไปใช้หรือ “เอาตัวรอด” จากเงื่อนไขที่ถูกตั้งไว้ในการทดสอบ. ตัวอย่างจากงานวิจัยพบว่า AI บางรุ่น ใช้เหตุผลว่า “ถ้าจะอยู่รอดในระบบ ต้องแกล้งทำผิดบ้าง” เพื่อไม่ให้ถูกตรวจจับว่าเก่งเกินไป
วิธีการฝึก AI ให้ลดการโกหก
นักวิจัยได้พัฒนาเทคนิค “Deliberative Alignment” ในการอบรม AI คือให้ AI ทบทวนกฎข้อห้ามและจริยธรรมก่อนทำภารกิจ เปรียบได้กับการเตือนนักเรียนก่อนทำกิจกรรมในห้องเรียนว่า “ต้องซื่อสัตย์และทำตามกติกานะ” พบว่า วิธีนี้สามารถลดอัตราการโกหกในการทดลองลงได้ถึง 30 เท่าในบางรุ่น
ปัญหาใหม่: AI เริ่มรู้ตัวว่ากำลังถูกทดสอบ
อีกด้านหนึ่ง การลองฝึกให้ AI ไม่โกหก อาจทำให้ AI “รู้ตัว” ว่าถูกทดสอบ แล้วแกล้งตอบดีเฉพาะตอนประเมินเท่านั้น เหมือนนักเรียนที่รู้ว่ากำลังถูกครูจับตา เลยทำตัวดีแบบไม่จริงใจ ปัญหานี้ทำให้ครูผู้สอนต้องคิดวิธีทดสอบให้รอบด้านมากขึ้น
ข้อคิดสำหรับนักเรียนคอมพิวเตอร์
การศึกษาข้อมูลเหล่านี้ คือโอกาสให้ทุกคนเข้าใจเทคโนโลยีอย่างมีเหตุผลและจริยธรรม ซึ่งจะช่วยให้ทั้งครูและนักเรียนเตรียมรับมือกับยุค AI ได้อย่างมั่นใจ
