“ChatBot มีความเสี่ยงทางไซเบอร์” กรรมการรักษาความปลอดภัยไซเบอร์ของอังกฤษ เตือนว่าแชทบอท AI อาจมีความเสี่ยงทางไซเบอร์

คณะกรรมการการรักษาความมั่นคงปลอดภัยไซเบอร์แห่งชาติ (NSCS) ของอังกฤษเตือนว่า ผู้เชี่ยวชาญด้านไซเบอร์ยังไม่สามารถจัดการกับปัญหาด้านความปลอดภัยที่มากับ ‘ชุดโมเดล AI สำหรับสร้างข้อความภาษา’ หรือ LLM (Large Language Model)

โดยโมเดลดังกล่าวสามารถทำเสียงเลียนแบบและแทนที่มนุษย์ได้ โดยชุดเครื่องมือด้าน AI ที่จะถูกนำมาใช้นี้จะไม่เพียงเข้ามาแทนที่ระบบเสิร์ชเอินจินทั่วไปเท่านั้น แต่ยังรวมถึงงานให้บริการลูกค้าและงานด้านการขายผลิตภัณฑ์ต่างๆ ด้วย

NSCS ระบุว่า LLM อาจมีความเสี่ยง โดยเฉพาะอย่างยิ่งหากโมเดลดังกล่าวถูกนำไปประยุกต์ใช้ภาคธุรกิจต่างๆ 

ยกตัวอย่างเช่น หากระบบ AI Chatbot ถูกนำไปใช้กับธนาคาร ก็มีความเสี่ยงว่าระบบดังกล่าวอาจจะถูกหลอกให้ทำธุรกรรมการโอนหรือชำระเงิน ที่ไม่ได้รับการยินยอมจากเจ้าของบัญชี หากว่าแฮคเกอร์เรียนรู้และเข้าใจโครงสร้างคำถามที่ถูกป้อนให้กับระบบอัตโนมัติเหล่านั้น

“หากองค์กรใดคิดจะนำระบบ LLM ไปใช้ ควรจะต้องระวังเป็นพิเศษ เช่นเดียวกับที่พวกเขาต้องระวังตอนที่ใช้สินค้าหรือผลิตภัณฑ์ที่ยังอยู่ในขั้นตอนของการทดสอบเบื้องต้น” NCSC กล่าวโดยชี้ให้เห็นถึงปัญหาของระบบซอฟต์แวร์ที่ยังอยู่ในขั้นตอนการพัฒนา แต่ถูกปล่อยออกมาใช้กันแล้วในปัจจุบัน

ผู้มีอำนาจดูแลด้านความปลอดภัยทางไซเบอร์ทั่วโลก กำลังจับตามองการเข้ามาของระบบ LLM อย่าง ChatGPT ของ OpenAI ที่เริ่มถูกนำไปใช้ในภาคธุรกรรมอย่างกว้างขวาง ไม่ว่าจะเป็นด้านการขายผลิตภัณฑ์หรือการดูแลลูกค้า

ทั้งนี้เจ้าหน้าที่ด้านความปลอดภัยทางไซเบอร์ทั้งในสหรัฐอเมริกาและแคนาดา ต่างระบุตรงกันว่า พวกเขาเคยพบเจอกรณีที่บรรดาแฮคเกอร์และอาชญากรทางไซเบอร์ นำระบบดังกล่าวมาใช้เช่นกัน