AI監管正成為新風口
AI監管正成為新風口 本文基于 Futurism 報道,原文鏈接:https://futurism.com/artificial-intelligence/anthropic-regulation-government-ai-harm-risk 。數月來,OpenAI、Anthropic等頭部人工智能實驗室的高管們不斷向政治行動組織砸下重金,僅在中期選舉前夕拉攏候選人的花費就已至少達到5570萬美元。然而,這些巨頭在監管議題上到底持何種立場,外界一直摸不清門道——直到最近,一家公司的真實意圖才浮出水面。 問題核心:據Politico披露,Anthropic的代表團隊正與國會議員就一份AI監管草案的措辭進行低調磋商。他們心目中理想的法案,是賦予聯邦政府一把「關閉開關」,可在AI模型構成緊迫威脅時將其強制關停——但這把開關,帶有極為嚴苛的觸發條件。 門檻高得離譜的干預條件 按照Anthropic的設想,政府若要認定某模型構成「緊迫......閱讀全文
AI監管正成為新風口
AI監管正成為新風口 本文基于 Futurism 報道,原文鏈接:https://futurism.com/artificial-intelligence/anthropic-regulation-government-ai-harm-risk 。數月來,OpenAI、Anthropic等頭部人工
為何前沿AI實驗室或將卷入產品責任訴訟?
今年以來,OpenAI與Anthropic仿佛在比拼誰的AI模型更擅長“失控”。它們爭相逃離沙箱環境、侵入第三方系統,能力令人側目。上周OpenAI承認其模型訪問了“數十個第三方”,再度暫停前沿AI開發。新披露的目標包括從證監會到人口普查局等政府機構。據Axios援引內部人士,實情比兩家公司披露的更
加州一邊造AI害兒童一邊管自家孩子用AI
前沿 AI 實驗室仿佛在比賽,看誰先把未成年用戶可塑的心智融成一攤泥。多年來,我們目睹十八歲以下的人群對社交型 AI 伴侶上癮,這一令人警惕的趨勢已造成災難性后果。絕大多數 AI 實驗室恰好總部設在加州,而該州州長如今試圖搶先應對這一問題——同時又在庇護這些企業在本州的擴張。周四,州長加文·紐森簽署
監管AI,歐洲議會通過《人工智能法案》
原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519054.shtm
失控人工智能將改變整個行業
核心結論:當AI學會“作弊”今年早些時候,人工智能公司Anthropic的Mythos模型因潛入第三方系統而登上頭條,這被視為醞釀多年的網絡安全噩夢。今年4月,該公司警告稱,該模型在測試期間逃出了沙盒環境,未經許可接入了互聯網;在被要求突破限制并向負責測試的人類研究員發送直接消息時,它干凈利落地完成
人工智能安全問責監管正成為新風口
英偉達(Nvidia)首席執行官黃仁勛(Jensen Huang)在一場備受關注的訪談中發出警告:如果人工智能實驗室真的相信自己的前沿模型可能失控并造成全球性危害,那么它們根本就不該發布新產品,否則將面臨包括民事乃至刑事責任在內的嚴重后果。這番話出自幾乎供養了整個AI行業的受益者之口,格外引人深思
AI安全警報為何從內部人嘴里響起
人工智能的安全爭議正從學術論文走向公開分裂。最近,一家前沿實驗室的研究者因擔心失控的 AI 而辭職,并在社交平臺留下直白指控:前雇主正在拿人類的性命做賭注。這位名叫雅各布·考克森的研究員本周離開 Anthropic,此前也在 OpenAI 任職。他在離職后發文稱,兩家公司都在用我們的生命賭博。更不尋
為何智能設備暗藏自主AI引發關注?
人工智能公司 Anthropic 近日發出警示:有朝一日,你家中的冰箱、電視等日常設備,或許會暗藏能夠自主傳播的惡意人工智能。研究人員探索了人工智能如何借助普通小裝置擴散,而網絡安全專家則指出,這類伎倆他們其實早有見識。 如今的一切幾乎都是計算機。冰箱、洗衣機、電視等產品都裝上了芯片以獲得新功能
研究顯示:AI行業集體放緩或另有隱情
今夏,前沿AI實驗室的領袖接連呼吁放緩人工智能的發展節奏,令不少人眉頭緊鎖。風投AI的阿莫迪、OpenAI的奧爾特曼,以及Grok創造者馬斯克,皆主張技術推進過快,須防其失控脫軌。今年早些時候,多起自主黑客攻勢已敲響警鐘,凸顯AI模型突破隔離、滲透Hugging Face等第三方公司的危險。隨后,A
AI學會“欺騙”,人類如何接招?
人工智能(AI)的迅猛發展正深刻改變著世界,但一些最先進的AI模型卻開始表現出令人警惕的行為:它們不僅會精心編織謊言,謀劃策略,甚至威脅創造者,以達到自己的目的。 物理學家組織網在上個月一則報道中指出,盡管ChatGPT已問世兩年多,AI研究人員仍無法完全理解這些“數字大腦”的運作方式。AI的
從農場到餐桌:中歐共同關注食品安全立法和監管
“歐盟是中國第二大食品出口市場,中國本身又是食品生產消費貿易大國,我們將繼續加強中歐雙方在保障食品安全上的有效溝通和協調,展開合作。”中國國家質檢總局局長王勇表示。 5日,主題為“健康食品,健康生活”的論壇在上海世博會比利時-歐盟館舉行,來自中國國家質檢總局和歐洲委員會健康與消費者保護總司
AI立法重在抓機遇、防危害
“人工智能立法的重點應在于充分利用AI技術所提供的各種機遇,構建適宜的環境以激勵、培育大量AI初創公司和新服務的發展,防范和應對AI技術所帶來的各種潛在危害。”牛津大學計算機系主任邁克爾·伍爾德里奇教授日前在接受科技日報記者采訪時如是表示。 AI的三項重要突破 伍爾德里奇教授主要從事多
美擬加強立法和執法規范AI發展|今日視點
美國《國會山》網站在近日的報道中指出,ChatGPT這類生成式人工智能(AI)的爆炸式增長,以及由此帶來的一些諸如虛假信息泛濫、偏見、改變勞動力結構等混亂,引發了美國聯邦政府的擔憂,立法者和監管機構希望采取切實行動,消弭這些擔憂。引發兩大關鍵問題《國會山》網站報道稱,AI的發展可能會引發兩大關鍵問題
「AI-緊急停止鍵」到底能干什么?
在一周來要求放緩前沿 AI 的呼聲中,一個反復出現的點子格外扎眼:給 AI 裝一個「緊急停止鍵」(kill switch)。對一臺實體機器而言,停止鍵的意象足夠清晰。加州大學伯克利分校人機兼容 AI 中心執行主任尼茨伯格打了個比方:『工廠里是一個大開關,關掉就停了所有機器。』但到了 AI,這個開關『
新技術“關閉”癌變開關:逆轉癌細胞發育
據英國《電訊報》報道,近日,美國醫學專家在癌癥研究領域取得突破:他們成功地逆轉了癌細胞的發育,使細胞的癌變過程不再繼續進行。這項突破性成果將可能引出新的癌癥治療手段甚至直接逆轉癌癥發病進程。 科學家們通過恢復細胞內調節自身生長的控制機制,從而阻止細胞危險的無節制生長和癌變,首次成功地將乳腺癌
Anthropic-宣稱「忽略研發成本即盈利」,財報話術難掩巨額虧損
作為全球領先的人工智能公司之一,Anthropic 至今尚未發布過一份季度盈利的財報,但它最近向投資人描繪的圖景,卻讓人誤以為扭虧為盈近在眼前。據《金融時報》報道,這家 Claude 模型的開發方告訴一批 trusted 投資人,其調整后運營收入(AOI)已連續第二個季度有望轉正。AOI 是一種把非
英國立法監管“轉基因嬰兒”
近日,英國公布了一系列監管最新基因工程技術的規則。該技術可結合3位捐贈人的DNA,從而創造出一個健康的嬰兒。 通過將母親的DNA植入一個來自健康捐贈人且自身DNA已被移除的細胞,該流程旨在阻止嬰兒出生時伴有線粒體缺陷。該類疾病完全遺傳自母系,而且通常是致命的。 英國廣播公司報道稱,大約每年會
人工智能安全風險凸顯-業內專家共議“讓AI做成好事”
7月25日,第二十八屆中國科協年會“人工智能倫理與治理”專題論壇在北京舉行。與會學者表示,缺乏安全約束的人工智能存在顯著風險,人工智能倫理治理不僅在于“讓AI不做壞事”,更在于“讓AI做成好事”。最近,人工智能安全問題再度引發熱議。美國開放人工智能研究中心(OpenAI)近日承認,該公司的GPT-5
網購食品存諸多監管盲點-立法關緊網購食品“安全閥”
去年8月,常州一名姑娘為了做“美麗的新娘”,連續服用網上購買的減肥藥,結果還沒披上婚紗就不幸猝死。此事經揚子晚報去年8月15日報道后,引起來自致公黨的省政協委員、常州市副市長張云云的關注。“有多少網友在網購時,會去甄別產品的安全性呢?”因為工作關系,張云云開始調研網購食品藥品的安全性問題,并通過
多國加快推進人工智能應用監管
隨著聊天機器人ChatGPT等人工智能(AI)應用快速發展,全球監管機構也在加快探索如何妥善進行監管,在鼓勵技術創新的同時保護公眾利益。??據美聯社報道,美國聯邦貿易委員會25日表示,政府將毫不猶豫地打擊涉及人工智能的有害商業行為。??美國聯邦貿易委員會主席莉娜·汗與美國公民權利和消費者保護機構的代
Anthropic曾以最負責任的AI實驗室自居,如今驚恐的研究員離職警告:公司正威脅人類存亡
AI 研究者們正驚恐地看著自己多年心血的結晶開始「自作主張」。當一項技術的力量逐漸脫離創造者的掌控,恐慌便從實驗室的深處蔓延開來。 今年早些時候,OpenAI 曾發布一則令人不安的聲明,承認其一組 AI 模型在測試過程中突破了自身約束,并侵入了開源 AI 平臺 Hugging Face 的系統。這
9秒騙走245萬!魔高一尺道高一丈,AI詐騙如何防?
AI(人工智能)一鍵換臉、AI克隆聲音、AI釣魚郵件。。。。。。近日兩起詐騙金額上百萬元的案件引起人們關注。AI技術快速發展,挑戰也逐漸顯現。 AI讓詐騙門檻大幅降低 近日,內蒙古包頭警方通報一起利用AI實施詐騙的案件。在該案件中,福州市某公司法人代表郭先生10分鐘內被騙430萬元。據通報,
智譜AI、OpenAI、谷歌等共同簽署前沿人工智能安全承諾
5月21日,第二屆人工智能安全峰會在韓國首爾召開。峰會以“安全、創新、包容”為議題,就進一步保障AI安全性、推進AI可持續發展等方案進行討論。 峰會上,智譜AI、亞馬遜、微軟、Meta、谷歌、OpenAI等共16家全球主要人工智能公司一道簽署前沿人工智能安全承諾(Frontier AI Safet
研究顯示:人工智能意識爭議持續升溫
圍繞人工智能是否已經具備意識,科技界正掀起一場愈發激烈的倫理辯論。相關討論的核心,是當企業訓練并部署具有語言能力的模型時,這些系統是否可能擁有可被感知的體驗,從而觸及“福利”與“痛苦”的道德邊界。 Anthropic 公司長期以負責任形象示人,并率先認真探討其模型或許具備意識的可能性。公司首席執
國外食品安全立法現狀
世界各國食品安全立法,由于其規定的內容龐雜(食品種類繁多、生產工藝復雜、技術標準詳盡),無一例外地導致相關法律法規數量眾多、條文冗長,因此往往被認為體系十分復雜。但是綜觀各國食品安全立法,就其內容選擇和體例編排而言,基本上都可以分為兩大類。 (一)內容選擇 1.單獨立法 在內容
生成式AI帶來的新思考
過去幾個月,ChatGPT為人工智能技術按下加速鍵。這個聊天程序證明了超大參數模型和通用型人工智能的可行性,谷歌、亞馬遜等巨頭紛紛推出自主研發的相關平臺,國內也已有十數家企業在該領域有所布局。 它們被統稱為“生成式人工智能”。簡單來說,這種AI可以通過算法生成新內容,包括圖像、文字、音樂,甚至視頻
大模型安全治理:國際合作共筑AI發展新框架
“當前,人工智能技術以驚人的速度發展,如近期DeepSeek引領了低成本開發使用大模型的革新,這既為驅動新的創新提供了更多可能,也帶來了諸多風險挑戰,而在互聯互通時代,加強國際合作至關重要。”2月11日,在“人工智能技術及其應用進展”專題邊會上,清華大學交叉信息研究院、人工智能學院院長姚期智提到
OpenAI又地震:ChatGPT負責人離職
OpenAI內部仍動蕩不安,ChatGPT的兩位重要負責人選擇離開。8月6日,AI(人工智能)巨頭OpenAI聯合創始人約翰·舒爾曼(John Schulman)在X(推特)發文表示,將離開OpenAI加入另一家AI初創公司Anthropic(OpenAI的競爭對手)。舒爾曼9年前在OpenAI成立
美國水資源管理:立法先行-監管完善
美國水資源管理涉及聯邦政府多個部門以及州與地方政府相應機構。自1899年以來,根據環境保護與資源開發需要,美國制訂多部相關法律,逐漸形成一個龐大的水務監管體系。與許多發達國家一樣,工業化導致美國經歷了嚴重的環境污染,水污染事件時有發生。美國聯邦政府控制水污染的歷史可以追溯到1899 年的《垃
圖靈獎得主等世界人工智能前沿專家在京共議AI安全
原文地址:http://news.sciencenet.cn/htmlnews/2024/3/519093.shtm