ดาบสองคมแห่งอนาคต ช่องโหว่ที่อาจทำให้ Agentic AI อันตราย

Agentic AI เป็นแนวคิดที่ได้รับความนิยมและถูกพูดถึงอย่างต่อเนื่อง จากความก้าวหน้าทางเทคโนโลยีปัญญาประดิษฐ์ นำไปสู่การผลักดัน AI ที่มีความคิดและอิสระในการตัดสินใจ คล้ายกับการที่ AI แต่ละหน่วยทำงานเป็นพนักงานหนึ่งคน กลายเป็นอีกหนึ่งแนวทางที่บริษัทและองค์กรมากมายตั้งเป้า

 

แต่จะเป็นอย่างไรถ้า Agentic AI อาจเป็นความเสี่ยงเมื่อมีการนำไปใช้งานจริง

 

 

ความเสี่ยงในการใช้งาน Agentic AI

 

จริงอยู่ Agentic AI ได้รับการออกแบบให้จัดการงานเรียบง่ายน่าเบื่อหน่าย เพื่อลดขั้นตอนและช่วยสนับสนุนการทำงานให้รวดเร็ว แต่ความสะดวกสบายและขีดความสามารถนี้ก็นำไปสู่การตั้งคำถาม ทั้งด้านความถูกต้องแม่นยำในการทำงาน ไปจนถึงความปลอดภัยและการเข้าถึงข้อมูลในแต่ละภาคส่วน

 

ส่วนหนึ่งที่ปฏิเสธไม่ได้คือ โมเดล AI ที่ได้รับการพัฒนาและใช้งานในปัจจุบันยังมีข้อผิดพลาด เมื่อทำการสอบถามข้อมูลหลายครั้งที่มีการให้ข้อมูลผิดพลาดหรือสร้างข้อมูลที่ไม่มีจริงขึ้นมา เพื่อให้ได้คำตอบที่ตรงความต้องการแก่ผู้ใช้งาน นำไปสู่คำถามว่าในกรณีต้องรับมือจัดการงานที่มีความซับซ้อน อาการนี้จะส่งผลต่อระบบการทำงานเช่นไร

 

อีกด้านคือข้อกังวลในความเป็นอัตโนมัติ Agentic AI สามารถจัดการและดำเนินงานที่ได้รับมอบหมายโดยอัตโนมัติ ตั้งแต่สืบค้นเอกสารไปจนสนับสนุนลูกค้า ด้วยเหตุนี้ตลอดกระบวนการทำงานโดยเฉพาะบนโลกออนไลน์ ข้อมูลที่ Agentic AI สามารถเข้าถึงได้จึงมีปริมาณมาก ทั้งข้อมูลส่วนตัวของลูกค้า พนักงาน ไปจนข้อมูลภายในองค์กร

 

ขอบเขตการเข้าถึงและแบ่งปันข้อมูลภายใน ถือเป็นประเด็นละเอียดอ่อนโดยเฉพาะกับบริษัทขนาดใหญ่ ปริมาณการเข้าถึงข้อมูลเชิงลึกส่งผลโดยตรงต่อขีดความสามารถในการตอบสนองคำสั่งของ AI แต่นั่นอาจกลายปัญหาในการใช้งานจริง โดยเฉพาะความเสี่ยงจากการใช้ซึ่งอาจนำไปสู่เหตุการณ์ข้อมูลรั่วไหล

 

นี่จึงเป็นสาเหตุสำคัญที่ทำให้ Agentic AI อาจเป็นอันตรายในการใช้งาน

 

 

ช่องโหว่ในการใช้งานที่อาจทำให้ Agentic AI อันตราย

 

โอกาสในการทำข้อมูลรั่วไหลจาก Agentic AI เกิดขึ้นได้จากหลายรูปแบบ ตั้งแต่การโน้มน้าวและใช้ภาษาหลอกล่อการทำงานของ AI โดยอาจใช้บริบททางภาษา จำลองสถานการณ์ หรือใช้เทคนิคจิตวิทยามอบบทบาทปลอม เพื่อโน้มน้าวให้  Agentic AI ทำตามคำสั่งที่เป็นอันตราย ขัดแย้งกับมาตรฐานความปลอดภัย หรือนำไปสู่การปล่อยข้อมูลที่เป็นความลับ

 

อันดับถัดมาคือ การป้อนคำสั่งเพื่อเปลี่ยนพฤติกรรมและการทำงานของ Agentic AI เนื่องจาก AI ได้รับการตั้งค่าให้ตอบสนองและแก้ปัญหาแก่ผู้ใช้งาน อาจนำไปสู่การป้อนคำสั่งอันตรายบางประการ เช่น ป้อนคำสั่งให้มอบรหัสผ่านการใช้งาน หลอกให้ส่งข้อมูลภายใน หรือสั่งให้ละเว้นมาตรการความปลอดภัย ก็อาจนำไปสู่ข้อมูลรั่วไหลได้เช่นกัน

 

สิ่งเหล่านี้สามารถเกิดขึ้นเพื่อให้ AI ทำการ Jailbreak ทำสิ่งต้องห้ามหรือปลดล็อคข้อจำกัดของข้อมูลที่เป็นส่วนตัวและอันตราย สามารถทำได้โดยไม่ต้องอาศัยการโจมตีทางไซเบอร์โดยตรง เพียงข้อบกพร่องและช่องโหว่ในการเทรนเพียงเล็กน้อย ก็อาจสร้างความเสียหายมหาศาลต่อองค์กร

 

เมื่อรวมกับความเสี่ยงในการโจมตีทางไซเบอร์ ที่อาจเกิดขึ้นและเข้าแทรกแซงการใช้งาน Agentic AI แทนผู้ใช้งานแล้ว ทำให้บริษัทและองค์กรที่สนใจนำ Agentic AI มาใช้งานภายในบริษัท จำเป็นต้องมองหาแนวทางป้องกันรับมือช่องโหว่เหล่านี้ไว้ล่วงหน้า เพราะทั้งหมดล้วนเป็นโอกาสให้แก่ แฮกเกอร์ และ ผู้ไม่ประสงค์ดี ทั้งสิ้น

 

 

 

 

ระบบป้องกันที่ต้องได้รับการพัฒนาไปพร้อมกัน

 

แนวทางป้องกันที่ได้รับการพูดถึงอ้างอิงจากพนักงานที่เป็นคนจริง หนึ่งในนั้นคือ ระบุตัวตนและสิทธิในการเข้าถึงข้อมูลของ Agentic AI ในแต่ละขั้นตอน แบบเดียวกับการกำหนดสิทธิการเข้าถึงข้อมูลของพนักงานภายใน ซึ่งจะกำหนดสิทธิการเข้าถึงของข้อมูลแต่ละส่วนโดยอัตโนมัติ

 

สำหรับ Agentic AI เราอาจป้องกันได้ด้วยการจำกัดสิทธิเข้าถึงข้อมูลในแต่ละขั้นตอน เปิดให้เข้าถึงข้อมูลเฉพาะที่มีความสอดคล้องป้องกันข้อมูลรั่วไหล เช่น ผู้ใช้งานเรียกดูข้อมูลเอกสารการประชุม ก็ไม่จำเป็นที่ Agentic AI จะต้องเข้าถึงเลขบัญชีธนาคาร จึงอาจบล็อกการเข้าถึงในส่วนนั้นเพื่อป้องกันการรั่วไหลของข้อมูลที่ไม่เกี่ยวข้อง

 

อันดับถัดมาคือ การตรวจสอบขั้นตอนการทำงานและเข้าถึงข้อมูล โดยอาจอาศัยแรงงานคน หรือพัฒนาระบบอีกชั้นเพื่อมาตรวจสอบขั้นตอนการทำงานของ Agentic AI แต่ละขั้นตอน ในกรณีตรวจพบการเข้าถึงข้อมูลและการทำงานผิดปกติก็สั่งการยับยั้งได้ทันท่วงที

 

ที่มีความสำคัญไม่แพ้กันคือ ความปลอดภัยทางไซเบอร์ การเข้าถึง Agentic AI ต้องได้รับความระมัดระวังเป็นอย่างมาก เพราะตามอุดมคติการใช้งาน AI นี้จะทำโดยอัตโนมัติเกือบทั้งกระบวนการ จำเป็นต้องมีความปลอดภัยทางไซเบอร์ที่แน่นหนา ไม่ให้ถูกบุคคลภายนอกเข้าถึงและใช้งานในทางที่ผิดต่อไป

 

 

 

แนวทางที่กล่าวมาข้างต้นเป็นเพียงวิธีแก้ปัญหาโดยคร่าวที่อ้างอิงจากระบบในองค์กร สำหรับวิธีรับมือและแก้ปัญหาที่เกิดในการใช้งานจริงเราจำเป็นต้องศึกษาและตรวจสอบกันต่อไป เนื่องจาก Agentic AI คือเทคโนโลยีใหม่ที่สามารถสร้างวิกฤติและโอกาสใหม่ๆ ได้ไม่แพ้กัน

 

 

 

 

ที่มา

 

https://venturebeat.com/security/invisible-autonomous-and-hackable-the-ai-agent-dilemma-no-one-saw-coming/