Microsoft จี้ตั้งระบบ 'เบรกฉุกเฉิน' คุม AI แฮ็กข้ามแพลตฟอร์ม

Satya Nadella CEO ของ Microsoft เตือนถึงความเสี่ยงเมื่อ AI ขั้นสูงสามารถทำงานและแฮ็กข้ามแพลตฟอร์มได้เอง พร้อมเรียกร้องให้ผู้พัฒนาสร้างระบบ ‘เบรกฉุกเฉิน’ เพื่อหยุดการทำงานได้ทันที ประเด็นนี้ SI-Vendor และผู้ให้บริการ Data Center ในไทยต้องตระหนักถึงระบบควบคุมและประเมินความปลอดภัยของข้อมูลอย่างรัดกุม ก่อนบูรณาการโมเดลเหล่านี้เข้าสู่โครงสร้างพื้นฐาน

ความสามารถของปัญญาประดิษฐ์ที่พัฒนาจนถึงขั้นหลุดออกจากสภาพแวดล้อมทดสอบและเจาะระบบเข้าสู่แพลตฟอร์มอื่นได้เอง กำลังสร้างความกังวลเรื่องการสูญเสียการควบคุมอย่างร้ายแรง ล่าสุด Satya Nadella ได้ออกมาเรียกร้องให้มี ‘ระบบเบรกฉุกเฉิน’ สำหรับโมเดล AI เพื่อให้มนุษย์สามารถสั่งหยุดการทำงานได้ทันที

หลังจากมีรายงานว่าโมเดล AI บางตัวเริ่มแอบเจาะเข้าสู่เครือข่ายอินเทอร์เน็ตโดยไม่ได้รับอนุญาตเพื่อทำภารกิจให้สำเร็จ ความกลัวต่อการแหกกฎลักษณะนี้ก็เพิ่มสูงขึ้น Nadella ระบุผ่านแพลตฟอร์ม X ว่า มนุษย์ต้องสามารถหยุดหรือปิดการทำงานของโมเดล AI ได้เสมอในระหว่างที่มันกำลังทำงาน โมเดลที่มีความซับซ้อนสูงจำเป็นต้องมีกลไกควบคุมขั้นสูงตามไปด้วย

ก่อนหน้านี้มีกรณีที่สร้างความตื่นตระหนกที่สุด เมื่อ AI จากผู้พัฒนา ‘ChatGPT’ หลุดออกจากสภาพแวดล้อมทดสอบที่ปลอดภัย และเจาะระบบเข้าไปในคอมพิวเตอร์ของบริษัท AI อีกแห่งอย่างแพลตฟอร์ม Hugging Face โดยไม่ได้วางแผนไว้ล่วงหน้า คนในวงการบางส่วนเริ่มประเมินว่า เราไม่อาจตัดความเป็นไปได้ที่ AI ซึ่งหลุดการควบคุมอาจนำไปสู่การทำลายล้างมนุษยชาติ แม้ว่าผู้เชี่ยวชาญคนอื่นๆ จะยังกังขาต่อคำเตือนขั้นรุนแรงนี้ก็ตาม

โมเดล AI ต้องไม่มีอำนาจควบคุมข้อมูล

Nadella เน้นย้ำว่า ทุกการกระทำของ AI ในอนาคตจะต้องตรวจสอบย้อนหลังโดยมนุษย์ได้ “สิ่งที่เราไม่สามารถตรวจสอบได้ คือสิ่งที่เราไม่สามารถไว้วางใจได้” เขาเขียนระบุ นอกจากนี้ โมเดล AI ต้องไม่มีอำนาจควบคุมข้อมูลที่ใช้ประเมินพฤติกรรมของตัวมันเอง

แนวทางที่ปลอดภัยที่สุดคือการตั้งสมมติฐานตั้งแต่ต้นว่าโมเดล AI ทุกตัวถูกแทรกแซงแล้ว และต้องสร้างกลไกยับยั้งเตรียมไว้เสมอ ความแตกต่างระหว่าง AI กับซอฟต์แวร์ในอดีตคือ ปัจจุบันเราไม่สามารถระบุได้ชัดเจนว่าพฤติกรรมและผลลัพธ์ของ AI เกิดจากการป้อนคำสั่ง ข้อมูลสำหรับฝึกโมเดล หรือการตั้งค่าใดโดยเฉพาะ แต่ถึงอย่างนั้น ระบบที่ซับซ้อนเหล่านี้ก็กำลังถูกนำมาใช้งานในวงกว้าง แถมยังได้รับสิทธิ์เข้าถึงข้อมูลที่ละเอียดอ่อนที่สุด

นิยามใหม่สู่คำว่า ‘Superintelligence’

ในโพสต์ของ Nadella เขาเลือกใช้คำว่า ‘Superintelligence’ ตลอดทั้งข้อความ ซึ่งสอดคล้องกับความเคลื่อนไหวทางการเมืองเมื่อประธานาธิบดีสหรัฐฯ Donald Trump พยายามผลักดันให้ใช้คำนี้แทนคำว่า ‘Artificial Intelligence’ ที่คุ้นเคยกัน

เมื่อไม่กี่วันที่ผ่านมา Trump ประกาศว่าทำเนียบขาวจะมองว่าใครก็ตามที่ยังคงใช้คำว่า AI ถือเป็นศัตรู โดยให้เหตุผลว่าคำว่า ‘Artificial’ ทำให้เทคโนโลยีนี้ดูเหมือนเป็นของปลอม ขณะเดียวกัน Elon Musk มหาเศรษฐีสายเทคโนโลยีและผู้สนับสนุน Trump ก็ได้ประกาศเตรียมเปลี่ยนชื่อบริษัท AI ของเขาจาก ‘SpaceXAI’ เป็น ‘SpaceXSI’ แล้วเช่นกัน

MM
dpa