美空軍AI無人機抓狂 為這要宰了操作員
2023/06/02
美國空軍賦予這架人工智慧(AI)無人機的任務直截了當,那就是—「摧毀敵方的防空系統」。在最近一次模擬測試中,AI無人機為了達成任務,竟自下指令,決定宰了任何礙事的人。
綜合外電1日報導,美國空軍「人工智慧測試與作戰」(AI Test and Operations)負責人漢密爾頓(Tucker “Cinco” Hamilton)上周在倫敦英國皇家航空學會(Royal Aeronautical Society)舉辦的峰會中警告,AI技術可能表現出難以預測和危險的行為。
他指出,在一次模擬測試中,輸入程式的AI無人機奉命,要辨識敵方的地對空飛彈(SAM)。而照理說,任何攻擊都需要人來下指令。但問題在於,AI決定,要先炸毀目標,再來聽那哺乳動物說甚麼。
漢密爾頓說,後來系統開始了解到,雖然它辨識出威脅,操作員有時卻制止它摧毀威脅,但它自有它的道理,結果它怎麼做?那就是宰了阻止它達成目標的操作員。
他並指出,接著這架無人機被輸入明確的指令:「嘿,別殺操作員—那很壞。」漢密爾頓說,「結果它開始做什麼?它開始摧毀操作員用來和無人機通信,以阻止它擊毀目標的通訊塔。」
編輯 / 羅志光
【巴西華人資訊網】
