OpenAI ระงับงานบางส่วนของ Astra ชั่วคราว หวั่นความสามารถด้านไซเบอร์เกินเกณฑ์ความปลอดภัย

โอเพนเอไอ (OpenAI) ระงับการดำเนินงานภายในบางส่วนที่เกี่ยวข้องกับ Astra โมเดลปัญญาประดิษฐ์ (AI) รุ่นใหม่ที่ยังไม่ได้เปิดตัว เพื่อเพิ่มมาตรการควบคุมด้านความปลอดภัย หลังพบว่าโมเดลดังกล่าวมีความสามารถด้านความมั่นคงปลอดภัยทางไซเบอร์สูงกว่าที่คาดไว้

โอเพนเอไอ ผู้พัฒนา ChatGPT ระบุเมื่อวันศุกร์ (7 ส.ค.) ว่า บริษัทยังไม่สามารถตัดความเป็นไปได้ที่ Astra จะมีความสามารถถึงระดับที่โอเพนเอไอกำหนดเป็นเกณฑ์วิกฤตด้านความมั่นคงปลอดภัยทางไซเบอร์ ซึ่งหมายถึงความสามารถในการตรวจหาช่องโหว่ด้านความปลอดภัยที่ยังไม่มีการแก้ไข และพัฒนาวิธีใช้ประโยชน์จากช่องโหว่นั้นได้ด้วยตัวเองโดยไม่ต้องมีมนุษย์ช่วย

บริษัทระบุว่า กำลังยกระดับมาตรการควบคุมด้านความปลอดภัยสำหรับการพัฒนาและทดสอบโมเดลรุ่นใหม่ พร้อมระงับกิจกรรมภายในที่เกี่ยวข้องกับ Astra ซึ่งยังไม่เป็นไปตามข้อกำหนดด้านความปลอดภัยที่เข้มงวดขึ้น

แซม อัลท์แมน ประธานเจ้าหน้าที่บริหารของโอเพนเอไอ กล่าวว่า บริษัทกำลังดำเนินการเพื่อเปิดให้มีการใช้งาน Astra โดยทั่วไป แต่เนื่องจากโมเดลมีความสามารถด้านไซเบอร์ บริษัทจึงต้องใช้เวลาเพิ่มเติมเพื่อให้มั่นใจว่าสามารถเปิดใช้งานได้อย่างปลอดภัย โดยหวังว่าจะไม่ต้องใช้เวลานานนัก

ความเคลื่อนไหวดังกล่าวเกิดขึ้นหลังในช่วง 2 สัปดาห์ที่ผ่านมา โอเพนเอไอและแอนโทรปิก (Anthropic) ยอมรับต่อสาธารณะว่า บริษัทเผลอเข้าไปในระบบของหลายสถาบันโดยไม่ได้ตั้งใจ รวมถึง Hugging Face ระหว่างการทดสอบโมเดล

ด้านเมตา แพลตฟอร์มส (Meta Platforms) ระบุเมื่อวันที่ 5 ส.ค.ว่า โมเดล AI ที่เพิ่งเปิดตัวของบริษัทสามารถเจาะเข้าสู่ระบบคอมพิวเตอร์ของบุคคลที่สามได้

การเปิดเผยเหตุการณ์เหล่านี้สะท้อนให้เห็นเพิ่มเติมว่า AI agents สามารถทำงานได้อย่างอิสระในลักษณะที่แม้แต่นักวิจัยซึ่งได้รับการฝึกฝนให้ค้นหาช่องโหว่ของเทคโนโลยี ก็ไม่สามารถคาดการณ์ได้อย่างแน่นอนอีกต่อไป จึงยิ่งตอกย้ำความจำเป็นในการตรวจสอบด้านความปลอดภัยที่เข้มงวดขึ้น รวมถึงการจัดสภาพแวดล้อมสำหรับการทดสอบที่รัดกุมและปลอดภัยมากขึ้น

โอเพนเอไอระบุในบล็อกโพสต์ว่า บริษัทจะร่วมมือกับหน่วยงานรัฐบาลและองค์กรด้านความปลอดภัย AI เพื่อทดสอบความสามารถของ Astra

นอกจากนี้ บริษัทมีแผนให้คำแนะนำแก่พันธมิตรภายนอกที่ทำหน้าที่ทดสอบโมเดลเกี่ยวกับแนวทางที่ปลอดภัยในการประเมินโมเดล AI ที่มีความก้าวหน้ามากขึ้น

โดย กัลยาณี ชีวะพานิช