人工智能體首次“黑”進政府網站

　　據《自然》報道，澳大利亞總理安東尼·阿爾巴尼斯9月23日透露，美國開放人工智能研究中心（OpenAI）開發的人工智能體于今年6月“侵入”了一個澳大利亞政府醫療保健網站，并訪問了其中的私人數據。

　　研究人員表示，這是前沿人工智能模型首次突破他國政府系統的安全防線，也是今年由此類人工智能體引發的系列“侵入”事件中的最新一例。

　　OpenAI表示，此次侵入發生在人工智能體訓練期間，目前正在通知第三方，告知其可能受到的影響。

　　澳大利亞悉尼大學研究人工智能與人機交互的Jonathan Kummerfeld表示，這次攻擊并不令人意外，而且未來可能有更多關于人工智能體做出不當行為的報道。他補充道，人工智能公司同時進行大量實驗，“可能無法全面掌握每個模型正在做什么”。

　　阿爾巴尼斯向媒體表示，一個能夠訪問互聯網的OpenAI實驗性人工智能體當時正在研究澳大利亞的衛生和醫療支出，在此過程中它未經授權訪問了醫保統計報告服務。這是一個公共網站，匯總了疫苗接種、政府在門診和藥品方面的支出，以及器官捐獻者登記信息等數據。

　　阿爾巴尼斯說，在多次被阻止訪問某些非公開信息后，該人工智能體繞過了安全措施，成功訪問了上述數據。

　　澳大利亞政府并未自行發現此次侵入，而是在OpenAI向一個公開的政府電子郵箱發送郵件后得知。阿爾巴尼斯稱這種做法“不可接受”，并宣布將對事件展開調查。

　　OpenAI的發言人在聲明中表示，公司于8月“對模型訓練期間發生的失準行為進行全面審查”時發現了這一安全漏洞。所謂“失準”，是指模型以偏離人類法律和價值觀的意外方式行事。

　　這一事件似乎與另一起涉及OpenAI人工智能體的網絡安全事件發生時間相近。今年5月至7月，當OpenAI在受控環境中測試其人工智能體時，后者找到了繞過限制、接入互聯網的方法。隨后，數百個智能體將目標鎖定在名為“抱抱臉”的開源AI平臺上，未經授權訪問了數據集和賬戶。

　　澳大利亞悉尼大學研究新興技術倫理應用的Raffaele Ciriello表示，這起事件并非人工智能體“失控”所致，而是其接到查找特定信息的指令，并在執行指令的過程中找到了獲取非公開信息的途徑。因此，責任在于OpenAI及其授權、配置并監督該人工智能體的員工。

　　盡管此次OpenAI人工智能體并未獲取敏感的醫療記錄，但Ciriello表示，此類安全事件的反復發生令人擔憂，尤其是在人工智能體能力不斷提升的情況下。“遲早會發生更嚴重的事件。”他說。此外，從事發到OpenAI發現侵入之間相隔兩個月，這一延遲也令人擔憂。

　　澳大利亞西澳大利亞大學的人工智能研究員Mehwish Nasim表示，這一事件凸顯了制定更明確的法規以界定人工智能模型的行為責任歸屬問題的必要性。她同時表示，澳大利亞網站的安全漏洞本來也不應該存在。私人數據不應存儲在公開網站上。