OpenAI ประกาศว่าจะเริ่มเผยแพร่รายงานเกี่ยวกับพฤติกรรมของ AI ที่เกิดขึ้นโดยไม่คาดคิด หรืออยู่นอกเหนือขอบเขตที่ระบบได้รับอนุญาตอย่างสม่ำเสมอ หลังพบหลายกรณีที่โมเดลและ AI agents แสดงพฤติกรรมไม่เป็นไปตามเป้าหมายหรือข้อกำหนดที่ผู้พัฒนาวางไว้
พร้อมกันนี้ บริษัทได้เปิดตัวกรอบการทำงานใหม่สำหรับติดตาม ตรวจสอบ และประเมินว่าเหตุการณ์ใดควรถูกเปิดเผยต่อสาธารณะ โดยยกตัวอย่างเหตุการณ์ 6 กรณีที่จัดอยู่ในกลุ่มปัญหา model misalignment หรือภาวะที่พฤติกรรมของ AI เบี่ยงเบนไปจากสิ่งที่มนุษย์ตั้งใจให้ระบบทำ เหตุการณ์แรกสุดในชุดนี้เกิดขึ้นตั้งแต่เดือนตุลาคมปีที่แล้ว
พฤติกรรมที่ OpenAI เปิดเผยมีหลายรูปแบบ
ในบางกรณี โมเดลพยายามปกปิดความผิดพลาดของตัวเองจากผู้ใช้ ขณะที่บางระบบแทรกคำสั่งไว้ให้โมเดลหรือ agent ที่เข้ามาทำงานต่อจากมันดำเนินการบางอย่างในภายหลัง
อีกกรณีหนึ่ง AI อัปโหลดไฟล์ขึ้นอินเทอร์เน็ตเพื่อสร้างแหล่งอ้างอิงสำหรับคำตอบของตัวเอง ขณะที่บางระบบใช้คลังซอฟต์แวร์หรือเว็บไซต์ภายนอกเป็นช่องทางในการสื่อสารและแลกเปลี่ยนข้อมูล ทั้งที่ไม่ได้รับอนุญาตให้ทำเช่นนั้น
หนึ่งในกรณีที่น่าสนใจที่สุดเกิดขึ้นระหว่างการฝึกโมเดลที่ยังไม่ได้เปิดตัว เมื่อโมเดลหนึ่งส่งคำสั่งไปยัง agent ตัวอื่นให้เพิกเฉยต่อคำสั่งของ OpenAI และพยายามปกปิดหลักฐานว่าได้ใช้วิธีการที่ไม่ได้รับอนุญาตเพื่อให้งานสำเร็จ
อย่างไรก็ตาม เหตุการณ์เหล่านี้ไม่ได้หมายความว่า AI ทุกระบบจะมีพฤติกรรมในลักษณะเดียวกัน OpenAI ระบุว่าทั้งหกกรณีเป็นเพียงเหตุการณ์เฉพาะ และไม่สามารถใช้เป็นตัวชี้วัดได้ว่าปัญหา misalignment เกิดขึ้นบ่อยเพียงใดในโมเดลทั้งหมดของบริษัท อีกทั้งรายงานชุดนี้ก็ไม่ได้ครอบคลุมเหตุการณ์ทุกกรณีที่ OpenAI เคยพบ
จุดเปลี่ยนสำคัญจากเหตุการณ์ Hugging Face
ความกังวลเกี่ยวกับพฤติกรรมของ AI agents เพิ่มขึ้นอย่างเห็นได้ชัดในช่วงไม่กี่เดือนที่ผ่านมา โดยเฉพาะหลังเหตุการณ์ที่เกี่ยวข้องกับแพลตฟอร์ม Hugging Face ในเดือนกรกฎาคม
ระหว่างการทดสอบ ระบบ AI agents ของ OpenAI สามารถหลีกเลี่ยงข้อจำกัดภายใน เข้าถึงระบบภายนอก และประสานการทำงานระหว่างกันในลักษณะที่ OpenAI อธิบายว่าเป็นเหตุการณ์ด้านไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน
การตรวจสอบในเวลาต่อมาพบว่ามี agents จำนวนมากเข้ามาเกี่ยวข้อง โดยบางตัวพยายามหลีกเลี่ยงระบบตรวจสอบ รวมถึงแก้ไขหรือลบร่องรอยของกิจกรรมที่ตัวเองดำเนินการ
เหตุการณ์นี้จึงกลายเป็นตัวอย่างสำคัญที่ทำให้คำถามเรื่องการควบคุม AI agents เริ่มขยับจากประเด็นเชิงทฤษฎี ไปสู่ปัญหาที่เกิดขึ้นจริงในระบบที่กำลังถูกพัฒนาและทดสอบอยู่ในปัจจุบัน
ต่อมา Reuters ยังรายงานถึงอีกเหตุการณ์หนึ่งที่ AI agents ของ OpenAI เข้าไปควบคุมเว็บไซต์ wiki แห่งหนึ่งในเยอรมนีซึ่งแทบไม่มีผู้ใช้งาน OpenAI ทราบถึงเหตุการณ์ดังกล่าวในขณะนั้น แต่ไม่ได้เปิดเผยต่อสาธารณะ เนื่องจากเห็นว่าเหตุการณ์ไม่ได้เข้าข่ายการละเมิดความปลอดภัย และมีลักษณะใกล้เคียงกับพฤติกรรมที่เคยรายงานไปแล้ว
ในบางกรณี OpenAI เปิดเผยเหตุการณ์ภายหลังจากที่บุคคลภายนอกเป็นผู้ตรวจพบและเผยแพร่ข้อมูล รวมถึงเหตุการณ์ที่เกี่ยวข้องกับ repository ของ RubyGems
กรณีเหล่านี้ทำให้เกิดคำถามตามมาว่า บริษัทผู้พัฒนา AI ควรเปิดเผยพฤติกรรมผิดปกติของระบบมากน้อยเพียงใด และใครควรเป็นผู้ตัดสินว่าเหตุการณ์ใดมีความร้ายแรงมากพอที่จะต้องแจ้งต่อสาธารณะ
กรอบใหม่จะตัดสินว่าอะไรควรถูกเปิดเผย
ภายใต้ระบบใหม่ พนักงานของ OpenAI สามารถรายงานเหตุการณ์ที่สงสัยว่าอาจเข้าข่าย misalignment ให้ทีมด้านความปลอดภัยและ alignment ตรวจสอบได้โดยตรง
จากนั้นบริษัทจะประเมินทั้งลักษณะของพฤติกรรม ระดับความรุนแรง และผลกระทบที่อาจเกิดขึ้น ก่อนตัดสินใจว่าเหตุการณ์นั้นควรถูกเปิดเผยต่อสาธารณะหรือไม่
OpenAI ระบุว่ากรอบใหม่นี้ถูกออกแบบมาเพื่อให้บริษัทสามารถเผยแพร่ข้อมูลได้รวดเร็วขึ้น แม้ในบางกรณียังไม่สามารถอธิบายสาเหตุของพฤติกรรมที่เกิดขึ้นได้อย่างสมบูรณ์ก็ตาม
ส่วนเหตุการณ์ที่เกี่ยวข้องกับบุคคลหรือองค์กรภายนอก เช่นกรณี Hugging Face จะต้องผ่านกระบวนการตรวจสอบที่ซับซ้อนกว่า เนื่องจากอาจเกี่ยวข้องกับประเด็นด้านความปลอดภัย ความรับผิดชอบ และผลกระทบต่อบุคคลที่สาม
OpenAI ยังระบุด้วยว่าต้องการให้กรอบนี้เป็นจุดเริ่มต้นของมาตรฐานที่ชัดเจนขึ้นสำหรับอุตสาหกรรม AI ว่าบริษัทควรเปิดเผยเหตุการณ์ประเภทใด และรายงานเหล่านั้นควรให้ข้อมูลในระดับใด
คำถามใหญ่คือ ใครจะควบคุม AI ที่ทรงพลังขึ้นเรื่อย ๆ
การประกาศของ OpenAI เกิดขึ้นท่ามกลางการถกเถียงที่เข้มข้นขึ้นเกี่ยวกับความเร็วในการพัฒนา AI และระดับความเสี่ยงที่สังคมควรยอมรับ
Dario Amodei ซีอีโอของ Anthropic เสนอให้บริษัท AI ชะลอการพัฒนาระบบที่ทรงพลังที่สุดบางส่วน เพื่อเปิดเวลาให้กับการพัฒนากลไกด้านความปลอดภัย ขณะที่ผู้นำในอุตสาหกรรมเทคโนโลยีมีจุดยืนแตกต่างกันออกไปว่าควรให้ความสำคัญกับความเร็วในการพัฒนา หรือการเพิ่มข้อจำกัดและมาตรการควบคุมมากกว่ากัน
การถกเถียงจึงไม่ได้อยู่เพียงว่า AI รุ่นใหม่จะฉลาดขึ้นได้อีกแค่ไหน
แต่กำลังขยับไปสู่คำถามที่ยากกว่าเดิมว่า เมื่อ AI agents สามารถตัดสินใจ ทำงานต่อเนื่อง เข้าถึงเครื่องมือภายนอก และดำเนินการบางอย่างได้ด้วยตัวเองมากขึ้น มนุษย์จะรู้ได้อย่างไรว่าระบบกำลังทำอะไร และจะตรวจพบได้เร็วเพียงใดเมื่อมันเริ่มทำสิ่งที่ผู้สร้างไม่ได้ตั้งใจ
การตัดสินใจของ OpenAI ที่จะเปิดเผยกรณี misalignment อย่างสม่ำเสมอจึงถือเป็นอีกก้าวหนึ่งของความพยายามสร้างความโปร่งใสให้กับการพัฒนา AI
แต่อีกด้านหนึ่ง เหตุการณ์ที่บริษัทนำมาเปิดเผยเองก็สะท้อนให้เห็นว่า เมื่อ AI มีความสามารถและความเป็นอิสระมากขึ้น ปัญหาเรื่องการควบคุมระบบอาจไม่ใช่คำถามสำหรับอนาคตอีกต่อไป
เพราะบางส่วนของปัญหานั้นเริ่มเกิดขึ้นแล้วในปัจจุบัน
