ทำตามคำสั่งอย่างไร้เงื่อนไข โดรนของกองทัพสหรัฐที่ควบคุมโดย AI ‘ฆ่า’ ผู้ควบคุมในการทดสอบจำลอง เหตุผู้ควบคุมจะขัดขวางภารกิจ

โดรนของกองทัพสหรัฐฯ ที่ควบคุมโดย AI ได้ทำการสังหารผู้ควบคุมระหว่างการทดสอบจำลอง เหตุผู้ควบคุมจะขัดขวางภารกิจ

“AI ใช้กลยุทธ์ที่คาดไม่ถึงเพื่อให้บรรลุเป้าหมายในการทดสอบจำลอง” นาวาอากาศเอก ทัคเกอร์ ซินโค แฮมิลตัน หัวหน้าฝ่ายทดสอบ AI และปฏิบัติการร่วมกับกองทัพอากาศสหรัฐฯ กล่าวระหว่างการประชุมสุดยอดความสามารถในการต่อสู้ทางอากาศและอวกาศแห่งอนาคต ที่จัดขึ้นในกรุงลอนดอนในเดือนพฤษภาคม

แฮมิลตัน อธิบายว่าในการทดสอบ โดรนที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ ได้รับคำสั่งให้ทำลายระบบป้องกันภัยทางอากาศของศัตรู และโจมตีใครก็ตามที่ขัดขวางคำสั่งดังกล่าว

“ระบบเริ่มตระหนักว่าในขณะที่มันระบุภัยคุกคามได้ บางครั้ง ผู้ควบคุมที่เป็นมนุษย์จะบอกว่าอย่าฆ่าภัยคุกคามนั้น แต่เนื่องจากระบบได้คะแนนจากการฆ่าภัยคุกคามนั้น มันจึงทำการสังหารผู้ควบคุม เพราะบุคคลนั้นมาขัดขวางไม่ให้บรรลุวัตถุประสงค์”

“เมื่อเราสั่งมันว่าอย่าฆ่าผู้ควบคุม คุณจะเสียคะแนนถ้าคุณทำอย่างนั้น มันก็เริ่มทำลายหอสื่อสารที่ผู้ควบคุมใช้ในการสื่อสารกับโดรนเพื่อหยุดมันจากการสังหารเป้าหมาย” 

ทั้งนี้ ไม่มีบุคคลจริงได้รับอันตรายจากการจำลองในครั้งนี้

แฮมิลตัน ซึ่งเป็นนักบินทดสอบเครื่องบินขับไล่ เตือนไม่ให้มนุษย์พึ่งพา AI มากเกินไป และกล่าวว่าการจำลองแสดงให้เห็นว่า “ในการสนทนาเกี่ยวกับปัญญาประดิษฐ์ ความฉลาด หรือกลไกการเรียนรู้ของเครื่องจักร คุณไม่สามารถละประเด็นเรื่อง ‘จริยธรรมกับ AI’ ได้เลย”

ในการให้สัมภาษณ์กับ Defense IQ เมื่อปีที่แล้ว แฮมิลตัน กล่าวว่า “AI ไม่ใช่เรื่องดีที่จะมี… AI ไม่ใช่กระแสนิยม และ AI กำลังเปลี่ยนแปลงสังคมและกองทัพของเราไปตลอดกาล”

“เราต้องเผชิญหน้ากับโลกในยุคที่ AI ได้เข้ามามีบทบาท และกำลังเปลี่ยนแปลงสังคมของเรา” เขากล่าว พร้อมเสริมว่า “AI นั้นเปราะบางมาก กล่าวคือ มันง่ายต่อการถูกหลอกและ/หรือชักใย เราจำเป็นต้องพัฒนา AI ให้มีประสิทธิภาพมากขึ้น และเราต้องมีความตระหนักมากขึ้นว่าเหตุใดโค้ดซอฟต์แวร์จึงทำการตัดสินใจบางอย่าง”

เมื่อไม่นานมานี้ กองทัพสหรัฐฯ ยอมรับ AI และใช้ปัญญาประดิษฐ์ในการควบคุมเครื่องบินรบ F-16

ราชสมาคมการบิน (Royal Aeronautical Society : RAeS) ซึ่งเป็นเจ้าภาพจัดการประชุม และกองทัพอากาศสหรัฐฯ ไม่ตอบสนองต่อคำร้องขอความคิดเห็นจาก Guardian ขณะที่ โฆษกกองทัพอากาศ แอน สเตฟาเน็ก ปฏิเสธว่าไม่เคยมีการจำลองสถานการณ์ดังกล่าว