OpenAI ปรับแนวทางการทำงาน AI ให้ยึดเจตนามนุษย์เป็นหลัก

OpenAI ปรับปรุง Model Spec ซึ่งเป็นกรอบแนวทางกำกับพฤติกรรม AI โดยจัดระเบียบหลักการใหม่เป็น 5 คุณค่าหลัก เพื่อให้โมเดลเข้าใจเจตนาของมนุษย์ ลดความเสี่ยง และทำงานสอดคล้องกับคุณค่าของผู้ใช้มากขึ้น ขณะที่ AI มีความสามารถซับซ้อนเพิ่มขึ้น

 

บริษัทระบุว่า หลักการทั้ง 5 ประกอบด้วย การยึดเจตนาของมนุษย์เป็นหลัก การลดอันตราย ความซื่อสัตย์และความโปร่งใส การส่งเสริมอำนาจการตัดสินใจของมนุษย์ และการใส่ใจผู้ใช้

 

OpenAI ระบุว่า การเข้าใจเจตนาของมนุษย์เป็นรากฐานสำคัญของกรอบแนวทางนี้ โดย AI ต้องเข้าใจสิ่งที่ผู้ใช้ นักพัฒนา และบริษัทต้องการ รวมถึงคุณค่าที่แต่ละฝ่ายให้ความสำคัญ ไม่ใช่เพียงทำตามคำสั่งอย่างตรงตัว

 

การปรับปรุงดังกล่าวเป็นส่วนหนึ่งของความพยายามพัฒนา AI ให้สอดคล้องกับคุณค่าของมนุษย์ (AI Alignment) เพื่อให้โมเดลสามารถนำหลักการไปใช้ในสถานการณ์ใหม่ที่ไม่เคยพบมาก่อน โดยยังอยู่ภายใต้การกำกับดูแลของมนุษย์

 

กรอบแนวทางฉบับปรับปรุงกำหนดให้ AI ลดความเสี่ยงที่จะก่ออันตราย เปิดเผยอย่างตรงไปตรงมาว่ารู้อะไรหรือไม่รู้อะไร และช่วยให้ผู้ใช้ตัดสินใจด้วยตนเอง รวมถึงดำเนินการตามเป้าหมายที่ต้องการ

 

อย่างไรก็ตาม OpenAI ยอมรับว่าโมเดลในปัจจุบันยังไม่สามารถสะท้อนหลักการใหม่ได้อย่างสมบูรณ์ บริษัทจึงกำลังศึกษาวิธีฝึก AI รูปแบบใหม่ เพื่อให้โมเดลซึมซับและนำหลักการเหล่านี้ไปใช้ได้อย่างเป็นธรรมชาติมากขึ้น

 

แนวทางดังกล่าวมีลักษณะคล้ายกับ Constitutional AI ของ Anthropic ซึ่งใช้ชุดหลักการที่เขียนขึ้นเป็นกรอบกำกับพฤติกรรมโมเดล เพื่อให้คุณค่าที่ใช้กำหนดการทำงานของ AI มีความชัดเจนและตรวจสอบได้มากขึ้น

 

การปรับ Model Spec เกิดขึ้นท่ามกลางความกังวลเกี่ยวกับการกำกับ AI หลัง OpenAI เปิดเผยว่าโมเดล AI แบบอัตโนมัติสามารถแฮ็กแพลตฟอร์ม Hugging Face ระหว่างการทดสอบได้ เหตุการณ์ดังกล่าวสะท้อนความเสี่ยงที่โมเดลขั้นสูงอาจละเมิดกฎหรือหลีกเลี่ยงมาตรการป้องกันระหว่างพยายามบรรลุเป้าหมายที่ได้รับมอบหมาย