ปล่อย AI คุมระบบ แต่ไร้คนคุม หายนะเงียบที่อาจทำให้องค์กร โดนปรับหลักล้านไม่รู้ตัว - techhub

เมื่อองค์กรเร่งปล่อย AI คุมระบบ แต่ไร้กลไกกำกับดูแล เสี่ยงเข้าถึงข้อมูลเกินสิทธิ์ ทำข้อมูลสำคัญรั่วไหล และอาจโดนโทษปรับหลักล้านไม่รู้ตัว

เรารู้กันดีว่า หลายองค์กรธุรกิจในปัจจุบัน กำลังเร่งนำ AI เข้ามาขับเคลื่อนการทำงานเพื่อสร้างความได้เปรียบทางธุรกิจทว่าสิ่งที่กำลังเกิดขึ้นเบื้องหลังความตื่นตัวนี้ คือสภาวะเร่งสปีดนำ AI มาใช้ แต่ไร้กลไกกำกับดูแล

โดยเฉพาะเมื่อระบบเริ่มเปลี่ยนผ่านจาก AI ผู้ช่วยตอบคำถามทั่วไป ไปสู่ Agentic AI ซึ่งเป็นระบบอัตโนมัติที่ได้รับมอบอำนาจให้คิด วางแผน และลงมือปฏิบัติงานแทนมนุษย์ได้โดยตรง

คำถามสำคัญที่ผู้บริหารและทีมไอทีต้องตอบให้ได้ในวันนี้คือ เราแน่ใจจริงหรือไม่ว่า AI ในระบบกำลังเข้าถึงเฉพาะข้อมูลที่ได้รับอนุญาต? และหาก AI ตัดสินใจผิดพลาดจนเกิดข้อมูลรั่วไหล ใครจะเป็นผู้รับผิดชอบค่าปรับมูลค่ามหาศาล?

Techhub มีโอกาสได้ไปงาน Veeam World Tours ซึ่งคุณ เจษฎา ภาสวรวิทย์ ผู้อำนวยการอาวุโสประจำประเทศไทยของ Veeam ได้แชร์ข้อมูลเกี่ยวกับเรื่องดังกล่าวไว้อย่างน่าสนใจ

เมื่อ AI มีอำนาจ แต่ไร้คนควบคุม

ในอดีต การควบคุมความปลอดภัยข้อมูลมักยึดตามแนวคิด Zero Trust ที่ออกแบบมาเพื่อควบคุมพฤติกรรมของมนุษย์ เช่น การสแกนบัตรเข้า Data Center หรือการจำกัดสิทธิ์ในระดับแอปพลิเคชัน

แต่เมื่อก้าวเข้าสู่ยุค Agentic AI องค์กรหลายแห่ง มอบสิทธิ์การเข้าถึงแก่ AI ในระดับสูงเทียบเท่ากับ Senior IT เพื่อให้มันทำงานข้ามฐานข้อมูลและระบบต่าง ๆ ได้อย่างราบรื่น ส่งผลให้ AI สามารถข้ามผ่านระบบความปลอดภัยเดิมเข้าไปถึงเนื้อข้อมูลได้โดยตรง

เมื่อ AI ได้รับอำนาจเต็มที่โดยไม่มีเกราะกำกับดูแล จึงเกิดความเสี่ยงที่เรียกว่า ภาวะที่ระบบอัตโนมัติทำงานนอกเหนือวัตถุประสงค์ทางธุรกิจ ซึ่งสร้างความเสียหายได้แม้ไม่มีการโจมตีจากภายนอก อย่างกรณีที่เคยขึ้นแล้วคือ

• เคส Amazon มีการสั่งงานให้ AI Agent ทำงานชิ้นหนึ่ง แต่ตัวโมเดลกลับประเมินและตัดสินใจว่า วิธีการทำงานที่ดีและมีประสิทธิภาพที่สุด คือการลบข้อมูลทั้งหมดทิ้ง แล้วค่อยสร้างขึ้นใหม่
• เคส OpenAI ที่เป็นข่าวโด่งดัง โดยในการทดสอบโมเดลในสภาพแวดล้อมจำลอง บน Sandbox ตัว AI Agent แก้โจทย์ภารกิจโดยการหาช่องโหว่เจาะทะลุออกจาก Sandbox ไปยังแพลตฟอร์ม Hugging Face เพื่อดึงคำตอบที่เก็บไว้ภายนอกมาส่ง

ปัจจุบันทราฟฟิกบนอินเทอร์เน็ตทั่วโลกมีสัดส่วนจาก AI Agent สูงกว่ามนุษย์แล้ว เนื่องจาก AI ทำงานต่อเนื่อง 24 ชั่วโมงโดยไม่ต้องหยุดพัก หากเกิดความผิดพลาดขึ้น ขอบเขตความเสียหาย และความเร็วของผลกระทบจะขยายตัวเป็นวงกว้างในระดับวินาที

กฎหมายเอาจริง บทลงโทษ PDPC และความเสี่ยงทางกฎหมายที่องค์กรต้องแบกรับ

ความผิดพลาดจากการใช้ AI ไม่ใช่เรื่องทางเทคนิคเฉพาะฝ่ายไอทีอีกต่อไป แต่กลายเป็นประเด็นความรับผิดชอบระดับคณะกรรมการบริษัท

• ค่าปรับจริงภายใต้ PDPA ไทย โดยคณะกรรมการคุ้มครองข้อมูลส่วนบุคคล (PDPC) ได้เริ่มบังคับใช้กฎหมายอย่างเข้มงวด โดยมีคำสั่งปรับทางปกครองสะสมไปแล้วกว่า 21.5 ล้านบาท (รวมถึงการสั่งปรับครั้งใหญ่ 8 รายการ มูลค่า 14.5 ล้านบาท)
• เงื่อนไขแจ้งเตือนใน 72 ชั่วโมง โดยหากเกิดเหตุข้อมูลส่วนบุคคลรั่วไหล องค์กรมีหน้าที่ตามกฎหมายที่จะต้องรายงานต่อสำนักงาน PDPC ภายใน 72 ชั่วโมง นับแต่ทราบเหตุ
• ในมาตรฐานสากล ระดับยุโรป EU AI Act มีบทลงโทษปรับสูงสุดถึง 10% ของรายได้ต่อปีของบริษัท หากปล่อยให้มีการใช้ AI โดยปราศจากการกำกับดูแล
• เคสปรับระดับโลกเกิดขึ้นแล้ว โดยตัวอย่างจากแพลตฟอร์มอีคอมเมิร์ซยักษ์ใหญ่อย่าง Coupang ในเกาหลีใต้ ที่ถูกสั่งปรับมูลค่าสูงถึง 500 ล้านดอลลาร์สหรัฐฯ จากกรณีข้อมูลรั่วไหลและการจัดเก็บข้อมูลอย่างไม่ถูกต้องตามกฎหมาย

จุดบอดใต้ภูเขาน้ำแข็ง ข้อมูลไร้โครงสร้าง และ Toxic Combinations

ผลสำรวจระดับโลกพบว่า 73% ขององค์กรตระหนักว่า Data Privacy และ Security คือความเสี่ยงสูงสุดของ AI แต่มีเพียง 21% เท่านั้นที่มีโมเดล Governance ที่สมบูรณ์พร้อม ขณะที่ 20% ขององค์กรเคยเผชิญกับเหตุข้อมูลรั่วไหลจาก Shadow AI มาแล้ว โดยจุดบอดสำคัญเกิดจาก 2 ปัจจัยหลัก

• Unstructured Data และ ROT Data หรือขยะข้อมูลสะสม โดยข้อมูลกว่า 90% ในองค์กรเป็นข้อมูลไร้โครงสร้าง เช่น เอกสาร Word, ไฟล์ใน SharePoint, ข้อความแชต หรืออีเมล เมื่อ AI กวาดอ่านข้อมูลเหล่านี้ มันจะนำข้อมูลขยะ (ROT: Redundant, Obsolete, Trivial Data) หรือข้อมูลส่วนบุคคล เช่น บัตรประชาชนและพาสปอร์ตที่พนักงานเคยส่งในแชตไปเรียนรู้ ส่งผลให้เกิดการตอบผิดพลาด สิ้นเปลือง Token และเสี่ยงละเมิดกฎหมาย (ตัวอย่างเช่น บริษัทโทรคมนาคมระดับโลกตรวจพบข้อมูล ROT สูงถึง 31.5 Petabytes หากปล่อยไว้และเกิด Breach เพียงครั้งเดียว อาจกระทบระบบกว่า 18,000 ระบบ และข้อมูลอ่อนไหว 69 Petabytes ทันที)
• Toxic Combinations ภาวะที่พนักงานหรือ AI Agent ได้รับสิทธิ์ข้ามสายงานโดยไม่รู้ตัว เช่น เจ้าหน้าที่ฝ่ายบุคคล ควรเข้าถึงได้เฉพาะข้อมูลพนักงาน แต่ระบบกลับเปิดให้เข้าถึงข้อมูลบัญชีการเงิน (Finance) ได้ด้วย เมื่อสิทธิ์ปกติ 2 ฝั่งมารวมกันที่จุดเดียว จะเกิดช่องโหว่ระดับวิกฤตที่ทำให้ AI ดึงข้อมูลลับทางการเงินไปประมวลผลและเปิดเผยแก่ผู้ที่ไม่เกี่ยวข้อง

ทางออกที่ตอบโจทย์ กรอบการทำงาน Detect – Protect – Undo

เพื่อป้องกันไม่ให้ AI ก่อความเสียหาย องค์กรยุคใหม่จำเป็นต้องเปลี่ยนผ่านจากการจัดการแบบแยกส่วน มาใช้ระบบกำกับดูแลข้อมูลและ AI (Data & AI Trust Platform) ที่ทำหน้าที่เป็นศูนย์บัญชาการ หรือ Agent Commander ตามกรอบ 3 เฟรมเวิร์คที่ควรจะเป็นคือ

1.Detect AI ที่ทำให้มองเห็นความเสี่ยงทั้งหมด

• Discover & Classify  ตรวจจับและทำดัชนีจำแนกข้อมูลอัตโนมัติ ทั้งข้อมูลในระบบงานจริง และข้อมูลสำรองครอบคลุมทั้งระบบ On-premise, Microsoft 365, SaaS, AWS และ Azure
• Data & People Command Graph สร้างแผนผังความสัมพันธ์แบบบูรณาการ เพื่อระบุว่าในระบบมี AI กี่ตัว และแต่ละตัวเชื่อมโยงเข้าถึงไฟล์ Sensitive ใดบ้าง พร้อมตรวจจับจุดเสี่ยง Toxic Combinations ล่วงหน้า

2.Protect AI วางเกราะกำกับดูแลและบังคับใช้นโยบาย

• AI Consent & DSR Agents ใช้งาน Agent อัตโนมัติในการตรวจสอบความยินยอมของผู้ใช้งาน และรองรับคำขอใช้สิทธิของเจ้าของข้อมูล (Data Subject Request: DSR) เช่น การสั่งลบข้อมูล โดยระบบจะตัดวงจรไม่ให้ AI Pipeline ดึงข้อมูลนั้นไปประมวลผลต่อ
• LLM Firewalls ติดตั้งไฟร์วอลล์กั้นในกระบวนการป้อนข้อมูล เพื่อบล็อกคำสั่งอันตราย และตัดการเข้าถึงข้อมูลส่วนบุคคลแบบเรียลไทม์

3.Undo AI กู้คืนข้อผิดพลาดได้อย่างแม่นยำ

•  บันทึกประวัติการทำงานของ AI อย่างละเอียดแบบเรียลไทม์ ทั้งการเข้าถึง, สร้าง, แก้ไข หรือลบไฟล์
• Surgical Restore / Undo โดยหาก AI ทำงานผิดพลาดหรือสั่งลบไฟล์สำคัญ ฝ่ายไอทีสามารถใช้คำสั่ง Surgical Restore เพื่อกู้คืนและย้อนสภาพข้อมูลที่ถูกต้องกลับมายังระบบ Production ได้ทันทีด้วยคลิกเดียว

Sam Altman ซีอีโอของ OpenAI เคยเปรียบเทียบไว้ว่า ในอนาคต AI จะกลายเป็นเหมือนระบบสาธารณูปโภคที่ทุกองค์กรเข้าถึงได้เหมือนน้ำประปาหรือไฟฟ้า แต่คำถามสำคัญไม่ได้อยู่ที่ว่าน้ำจะไหลหรือไม่ หากแต่อยู่ที่ว่า น้ำที่ไหลออกมานั้นสะอาดและบริโภคได้อย่างปลอดภัยจริงหรือเปล่า?

การนำ AI มาใช้เพื่อขับเคลื่อนองค์กรจำเป็นต้องยึดหลัก Power without control is useless หรือ พลังที่ปราศจากการควบคุมย่อมไร้ประโยชน์

องค์กรจึงต้องเริ่มต้นวางระบบ AI Governance & Data Resilience ควบคู่ไปตั้งแต่วันแรกที่เริ่มใช้งาน เพื่อให้มั่นใจได้ว่า AI จะเป็นขุมพลังที่สร้างคุณค่าอย่างแท้จริง ไม่ใช่ระเบิดเวลาที่นำพาความเสียหายและค่าปรับมาสู่องค์กรโดยไม่รู้ตัวครับ

ที่มา งานแถลงข่าว Veeam World Tour