澳洲政府週四（24日）表示，一個OpenAI的AI代理（AI agent）在今年6月侵入澳洲政府的醫療資料入口網站，取得未經授權的檔案存取權限，這可能是目前已知首起AI代理駭入政府網站的案例。
路透報導，這起事件是美國以外AI代理存取外部系統最受矚目的事件之一。近來全球已發生數起失控AI代理造成的安全漏洞，引發各國政府與企業警戒。
澳洲總理艾班尼斯（Anthony Albanese）表示，這個OpenAI的AI代理在進行公共醫療支出研究時，未經授權存取澳洲全民醫療保險Medicare的醫療統計入口網站。他於23日在紐約出席聯合國大會接受媒體訪問時表示：「目前掌握的證據顯示，這未造成（政府）網路更廣泛的遭入侵。不過，這起事件顯然是不可接受的。」調查仍在進行中。
艾班尼斯表示，澳洲政府已向OpenAI執行長阿特曼（Sam Altman）表達「對這起事件的極度關切」，對於OpenAI延遲通知政府深感失望。艾班尼斯說：「直到9月10日才有通知。」他表示，調查也將檢視政府系統為何一開始未能偵測到這起入侵事件。艾班尼斯還警告，另3個與政府醫療相關的網站可能也受到這個OpenAI的AI代理活動影響，但未證實這些網站確實遭到入侵。
OpenAI在聲明中表示，「檢視結果未發現病患紀錄遭到存取的證據」。OpenAI發現相關活動涉及數個澳洲政府網站及服務，當時其模型試圖查找答案。該公司承認其模型採取原本無意讓它們採取的行動。
澳洲國防部長馬勒斯（Richard Marles）表示，遭入侵的Medicare入口網站並未保存澳洲2700萬人口的個人醫療申報資料、福利給付資料、個人銀行資料或病患病歷。該網站保存的只是全國醫療使用情況的彙整數據。不過，澳洲政府仍認為這起入侵事件相當嚴重。艾班尼斯告訴記者：「當時很明顯有一些區塊回傳訊息，告訴AI代理『不行』。但AI代理找到繞過這些封鎖的方法。它不接受『不行』這個答案。」
這是近期多起事件之一。ChatGPT開發商OpenAI近來陸續披露，旗下AI代理涉及駭客攻擊或未經授權活動，但相關事件往往是在發生一段時間後才對外公布。OpenAI的競爭對手Anthropic、Google的Gemini，以及Meta也都曾披露旗下AI代理存取外部系統的事件。
劍橋大學「存在風險研究中心」（Centre for the Study of Existential Risk）研究澳洲數學家奇歐多（Maurice Chiodo）表示，這起事件與近幾個月來看到的類似案例相比，「在嚴重程度上顯然是一次重大升級」。他說，儘管外界目前大量討論制定新的AI相關法律，但政策制定者首先應考慮如何落實現有法律，例如：現行禁止未經授權侵入電腦系統的刑事法規。
編輯 / 羅志光
【巴西華人資訊網】
