原文地址：http://news.sciencenet.cn/htmlnews/2023/4/498843.shtm
近日，OpenAI 聯合創始人兼 CEO 薩姆?奧特曼（Sam Altman）在美國麻省理工學院“想象力行動”活動上接受了采訪。受訪中，奧特曼回應了此前引起廣泛關注的、“生命未來研究所”日前發布的呼吁業界“暫停開發更強大 AI 六個月”的公開信。他表示，他不認為公開信提出的建議是解決安全問題的最終方法。
?
OpenAI 的聯合創始人兼 CEO 薩姆?奧特曼 資料圖
“我同意，隨著能力變得越來越強，安全標準必須提高。但我認為這封信缺少了關于我們需要暫停的大部分技術細節——這封信的早期版本聲稱我們正在訓練 GPT-5。我們沒有，而且在一段時間內也不會，所以從這個意義上說，這有點愚蠢。但我們在 GPT-4 的基礎上還在做其他事情，我認為這些事情有各種安全問題需要解決，但信中完全沒有提到。”奧特曼說：“因此，我認為謹慎行事，并對安全問題越來越嚴格，這一點非常重要。我不認為（信中的）建議是解決這個問題的最終方法。”
在回應中他表示，OpenAI 在發布 GPT-4 之前，已經花了六個月以上的時間來研究安全問題，并邀請外部審計和“紅隊”來測試模型的安全性。
奧特曼說，OpenAI 已經在這個領域工作了七年，付出了很多努力——而這是大多數人都不愿意做的事。他說，他愿意公開討論AI安全問題和模型的局限性，因為這是正確的事情。他同時承認，有時候他和其他公司代表會說一些“蠢話”，甚至這些話后來發現是錯誤的，但他愿意冒這個風險，因為“這項技術需要對話”。
在訪談中，奧特曼還談到了大語言模型（LLM）的發展趨勢。他表示，目前LLM 的規模已近極限，且規模越大并不意味著模型越好。
“我們正在接近 LLM 規模的極限，規模越大并不一定意味著模型越好，而可能只是為了追求一個數字而已。”奧特曼認為，LLM 的規模將不再是衡量模型質量的重要指標，未來將有更多的方式來提升模型的能力和效用。
大模型的規模曾一度被比擬為人工智能新賽道上的“軍備競賽”，奧特曼對此回應道，人們往往更關注芯片能否完成任務，而不是關心它們到底有多快。他還表示，OpenAI 的目標是為世界提供有能力、有用、安全的模型，而不是“為了提升參數量而自我陶醉”。