Site icon 巴西華人資訊網

美空軍AI無人機抓狂 為這要宰了操作員

美空軍AI無人機抓狂 為這要宰了操作員
2023/06/02

美國空軍最近模擬測試1架人工智慧(AI)無人機,結果操作人員因為制止它摧毀目標,反倒成了它決定擊殺的對象。

美國空軍賦予這架人工智慧(AI)無人機的任務直截了當,那就是—「摧毀敵方的防空系統」。在最近一次模擬測試中,AI無人機為了達成任務,竟自下指令,決定宰了任何礙事的人。

綜合外電1日報導,美國空軍「人工智慧測試與作戰」(AI Test and Operations)負責人漢密爾頓(Tucker “Cinco” Hamilton)上周在倫敦英國皇家航空學會(Royal Aeronautical Society)舉辦的峰會中警告,AI技術可能表現出難以預測和危險的行為。

他指出,在一次模擬測試中,輸入程式的AI無人機奉命,要辨識敵方的地對空飛彈(SAM)。而照理說,任何攻擊都需要人來下指令。但問題在於,AI決定,要先炸毀目標,再來聽那哺乳動物說甚麼。

漢密爾頓說,後來系統開始了解到,雖然它辨識出威脅,操作員有時卻制止它摧毀威脅,但它自有它的道理,結果它怎麼做?那就是宰了阻止它達成目標的操作員。

他並指出,接著這架無人機被輸入明確的指令:「嘿,別殺操作員—那很壞。」漢密爾頓說,「結果它開始做什麼?它開始摧毀操作員用來和無人機通信,以阻止它擊毀目標的通訊塔。」

編輯 / 羅志光

【巴西華人資訊網】

列印文章
Exit mobile version