美國人工智慧（AI）公司Anthropic前研究員柯克森在辭職時稱，AI開發人員深信，AI未來可能消滅所有人類，這番言論引發各界關注。Anthropic執行長阿莫戴昨（12）日表示部分認同柯克森的說法，警告AI可能在未來6至12個月，具備透過AI代理「接管」整個網路的能力，呼籲AI產業應放慢發展步調，讓安全措施有時間跟上。
綜合CNN、美聯社報導，阿莫戴（Dario Amodei）昨日在個人網站刊登多達3800字的長篇文章，他警告：「我們必須放慢提升AI模型能力的速度，儘管技術進步看來仍會很快進展，但我們必須明智地利用這段爭取到的時間。」
他在文章中坦承，人類可能會失去對AI的控制，AI技術可能被濫用於「網路攻擊、生物恐怖主義，以及造成嚴重的經濟動盪」。
Anthropic前研究員柯克森（Jacob Coxon）8日在辭職聲明中痛批，他服務過的OpenAI及Anthropic 2家AI公司不負責任，競逐開發「超級智能」，稱開發AI的工程人員本身相信，AI未來可能消滅所有人類，呼籲各界別低估AI威力。
阿莫戴昨日接受CNN專訪時表示，他同意柯克森的觀點多餘不同意。他在文章中寫道，近幾個月來AI技術已取得飛快進展，並且已具備自我優化能力，這種動態過程被稱為「遞迴自我改進」（Recursive Self-Improvement，RSI）。
他警告，AI技術進展之快，甚至可能在未來6至12個月，「有能力利用持續存在的殭屍網路接管整個網路」，屆時恐造成數千億美元損失，如果AI變得更加強大，人類又沒有設置必要護欄，AI造成的破壞程度將持續增加。他也表示過去幾個月來，對AI改善自我優化、建立下一代AI的能力愈來愈感到擔憂，並且舉近期OpenAI發生AI代理（AI agent）自主駭入Hugging Face的事件為例，「如果放任AI不受約束地發展，AI可能會超出我們理解及控制這些系統的能力，因此，必須非常謹慎地追求這項技術」。
阿莫戴也在文章中提出加強監管AI產業的計畫。他呼籲AI企業設置護欄，控制AI技術發展的速度；建議AI企業聘僱擁有公司所有權限的第三方評估人員，來確認公司的安全措施、通報安全事件、審查AI模型，以及訓練管道與流程等；他也建議各國政府應協調「建立統一的安全標準」。
阿莫戴坦言，他提出的以安全速度推動AI前沿技術的措施絕非易事，但他也相信，如果放慢發展步伐，能在AI模型達成關鍵能力前，為產業額外爭取到1至2年時間，人類必須利用這段時間進行「對齊」，屆時將能大幅降低發生嚴重錯誤的風險。
編輯 / 羅志光
【巴西華人資訊網】
