為何AI兒童故事引發關注?
AI生成的兒童讀物正顯現出一種詭異的模式:對雌性動物角色明顯的偏見。這種偏見在人類創作的書中也存在,但AI把它推向了更極端的程度,因而引發家長與研究者的警覺。去年發表的一項研究中,華盛頓大學信息學助理教授梅蘭妮·沃爾什與同事分析了300本兒童讀物,發現指代動物角色時,he/him代詞的使用頻率是she/her的兩倍。盡管某些動物更常被認定某一性別(如熊多被當作雄性、貓多被當作雌性),但一項針對1300名成年人的調查仍顯示,受訪者在補全描述會說話動物的句子時,普遍偏向男性代詞——這一偏見在熊、鳥、貓、豬、鴨、鼠、狗七種動物上都成立。如今,AI生成的兒童讀物把這些性別偏見推向了極致。在本月發表、尚待同行評審的后續研究中,沃爾什團隊讓包括ChatGPT、Claude和Gemini在內的六個主流AI模型補全同類句子,以觀察機器如何處理動物性別。在2.4萬條回復中,AI使用中性語言或直接稱呼動物名字的比例為57%,聽起來似乎不算糟糕。但細......閱讀全文
為何AI兒童故事引發關注?
AI生成的兒童讀物正顯現出一種詭異的模式:對雌性動物角色明顯的偏見。這種偏見在人類創作的書中也存在,但AI把它推向了更極端的程度,因而引發家長與研究者的警覺。去年發表的一項研究中,華盛頓大學信息學助理教授梅蘭妮·沃爾什與同事分析了300本兒童讀物,發現指代動物角色時,he/him代詞的使用頻率是sh
國內首家近視兒童AI生成式病歷問世
暑期就診高峰期,病歷撰寫占用大量醫生資源,導致診療效率下降、患者體驗受損問題,如何應對?復旦大學附屬眼耳鼻喉科醫院率先推出了一個解決方案——人工智能(AI)生成式病歷系統。該系統深度整合了眼視光學知識體系與AI技術,建立了眼視光專業術語庫,通過訓練模型,對海量病歷數據、眼視光學學科文獻以及病種知識體
生成式AI帶來的新思考
過去幾個月,ChatGPT為人工智能技術按下加速鍵。這個聊天程序證明了超大參數模型和通用型人工智能的可行性,谷歌、亞馬遜等巨頭紛紛推出自主研發的相關平臺,國內也已有十數家企業在該領域有所布局。 它們被統稱為“生成式人工智能”。簡單來說,這種AI可以通過算法生成新內容,包括圖像、文字、音樂,甚至視頻
生成式AI進軍基因編輯領域
OpenCRISPR-1的物理結構,這是一種由Profluent的AI技術創建的基因編輯器。圖片來源:singularityhub.com制圖、寫歌、作詩、編程、生成視頻……生成式人工智能(AI)技術與各行業的結合不斷為人們帶來驚喜,在各領域掀起革新浪潮。現在,AI的應用場景再次拓展:美國AI蛋白質
生成式AI引發治理新思考
原文地址:http://news.sciencenet.cn/htmlnews/2023/4/499199.shtm
生成式AI投融資熱潮席卷全球
最近,由微軟投資的開放人工智能研究中心(OpenAI)開發的聊天機器人ChatGPT引發廣泛關注,它能夠利用大型語言模型技術,快速生成精雕細琢的文本,如散文或詩歌等。一石激起千層浪。包括谷歌、元宇宙、亞馬遜公司等在內的科技巨頭紛紛開始推出或開發自己的聊天機器人,并投資相關初創企業,針對生成式AI的投
警惕生成式AI推動虛假信息運動
生成式人工智能(AI)橫空出世,可能給人類帶來巨大的影響。美國高盛集團今年早些時候警告稱,超過3億個全職工作崗位可能會受到波及。美國國會研究服務局5月發布的一份報告指出,AI的最新創新也提出了新的版權問題,即如何界定AI創建或使用的內容屬于侵權還是合理使用等。美國《福布斯》網站在6月9日的報道中指出
生成式AI實現護膚品虛擬試用
位于愛沙尼亞塔林市的Haut.AI是一家專門為皮膚、頭發和健康進行人工智能(AI)分析的公司。據美國科學促進會Eurekalert網站19日消息,該公司剛剛發布的用于建模皮膚狀況的新生成式AI技術——SkinGPT,允許用戶上傳他們的照片,并應用AI來模擬其皮膚在使用護膚品時如何隨時間變化。Sk
中外青年熱議生成式AI的局限
近日,國家網信辦發布了《生成式人工智能(AI)服務管理辦法(征求意見稿)》,針對面向中國境內公眾提供服務的生成式人工智能產品,包括其研發及服務,向社會公開征求管理意見。 生成式AI正是當前以ChatGPT等智能聊天機器人為代表的技術。自去年11月ChatGPT發布以來,其展示的與人類高度相似的
中外青年熱議生成式AI的局限
近日,國家網信辦發布了《生成式人工智能(AI)服務管理辦法(征求意見稿)》,針對面向中國境內公眾提供服務的生成式人工智能產品,包括其研發及服務,向社會公開征求管理意見。生成式AI正是當前以ChatGPT等智能聊天機器人為代表的技術。自去年11月ChatGPT發布以來,其展示的與人類高度相似的對話能力
生成式AI破解醫學數據分析難題
在一項早期真實世界測試中,加州大學舊金山分校(UCSF)和韋恩州立大學的研究者發現,生成式人工智能處理龐雜醫學數據集的速度,遠超傳統的計算機科學團隊,在某些情況下甚至得出更強的分析結果。而人類專家此前已花費數月時間,仔細分析著同一批信息。為了直接比較性能,研究者把完全相同的任務分派給不同小組:一部分
新訓練可減少AI系統社會偏見
來自美國俄勒岡州立大學工程學院和Adobe公司的科學家攜手,開發出一種用于訓練人工智能(AI)的新技術FairDeDup。該技術不僅能降低訓練成本,而且有望減少AI系統的社會偏見。研究團隊已經在近期于美國西雅圖舉行的IEEE/CVF計算機視覺和模式識別會議大會上介紹了FairDeDup算法。該會議是
新訓練可減少AI系統社會偏見
來自美國俄勒岡州立大學工程學院和Adobe公司的科學家攜手,開發出一種用于訓練人工智能(AI)的新技術FairDeDup。該技術不僅能降低訓練成本,而且有望減少AI系統的社會偏見。研究團隊已經在近期于美國西雅圖舉行的IEEE/CVF計算機視覺和模式識別會議大會上介紹了FairDeDup算法。該會議是
用AI識別AI:西湖大學研究可檢測AI生成文本
虛假新聞、惡意產品評論、剽竊……ChatGPT、 GPT-4等AI大語言模型的應用帶來便利,但其誤用也帶來一系列問題。西湖大學工學院張岳教授的“文本智能實驗室”日前發布的一項研究提出一種高準確率、高速、低成本、通用的新文本檢測方法——Fast-DetectGPT,無需訓練即可識別各種AI大語言模型生
人工智能的“偏見”能否消除
圖為桑達爾·皮查伊5月14日在加州山景城舉行的谷歌I/O大會上發表講話。自從谷歌對其搜索頁面進行改造,經常將AI生成的摘要放在搜索結果頂部,社交媒體上就出現了一些令人不安的錯誤消息。圖片來源:物理學家組織網2024年4月,在盧旺達基加利GIZ數字化轉型中心舉辦的“非洲女孩也能編程”項目的編程訓練營中
ChatGPT爆火,生成式AI意味著什么?
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494048.shtm
生成式AI時代,大模型數據安全如何保障?
在生成式AI(人工智能)時代,數據安全的出路可能會是“用魔法打敗魔法”,知識產權保護也可能要提前到token(字符串)層面。4月26日,在2024中關村論壇上,人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場? 澎湃新聞記者 秦盛 攝“在生成式人工智能時代
生成式AI下一站:文本轉視頻
原文地址:http://news.sciencenet.cn/htmlnews/2023/4/498451.shtm 聊天機器人ChatGPT的爆紅,讓生成式人工智能(AI)成為科技領域的“當紅炸子雞”。除了如今“霸屏”的類似ChatGPT的語言模型之外,生成式AI領域還有大量其他技術:文本生成
“幫手”還是“幫兇”?生成式AI學術使用須關注
圖片來源:《自然》網站生成式人工智能(AI)工具快速普及,在學術寫作領域呈現爆炸式應用勢頭。使用基于大語言模型(LLM)的生成式AI工具能節省時間,減少語言障礙,讓論文更加明白通暢。但這些工具的應用也讓剽竊問題變得更復雜。英國《自然》網站在近日的報道中指出,對利用AI寫作是否構成剽竊,以及在什么情況
生成式AI賦能腦網絡構建新范式
近日,中國科學院深圳先進技術研究院數字所王書強課題組在《IEEE模式分析與機器智能匯刊》發表研究成果,實現了基于生成式AI優化模型的End-to-End腦網絡構建。生成式AI通過從數據中自動學習提取隱藏的模式和規律,在模擬復雜自然過程、分析和預測科學數據等方面表現出巨大潛力。相較于傳統方法,生成式A
生成式AI設計出非天然蛋白質
加拿大多倫多大學研究人員開發了一種人工智能系統,可以使用生成擴散來創建自然界中不存在的蛋白質。該系統有望使治療蛋白的設計和測試更加高效和靈活,從而加速人類藥物開發。研究發表在最新一期《自然·計算科學》雜志上。 蛋白質由氨基酸鏈組成,氨基酸鏈折疊成的三維形狀反過來又決定了蛋白質的功能。這些折疊的
“幫手”還是“幫兇”?生成式AI學術使用須關注
生成式人工智能(AI)工具快速普及,在學術寫作領域呈現爆炸式應用勢頭。使用基于大語言模型(LLM)的生成式AI工具能節省時間,減少語言障礙,讓論文更加明白通暢。但這些工具的應用也讓剽竊問題變得更復雜。英國《自然》網站在近日的報道中指出,對利用AI寫作是否構成剽竊,以及在什么情況下允許利用AI進行寫作
用AI生成數據訓練AI或導致模型崩潰
科技日報北京7月25日電?(記者張夢然)《自然》24日正式發表的一篇研究論文指出了一個人工智能(AI)嚴重問題:用AI生成的數據集訓練未來幾代機器學習模型,可能會嚴重“污染”它們的輸出,這被稱為“模型崩潰”。研究顯示,原始內容會在9次迭代以后,變成不相關的“胡言亂語”(演示中一個建筑文本最終變成了野
用AI生成數據訓練AI或導致模型崩潰
《自然》24日正式發表的一篇研究論文指出了一個人工智能(AI)嚴重問題:用AI生成的數據集訓練未來幾代機器學習模型,可能會嚴重“污染”它們的輸出,這被稱為“模型崩潰”。研究顯示,原始內容會在9次迭代以后,變成不相關的“胡言亂語”(演示中一個建筑文本最終變成了野兔的名字),這凸顯出使用可靠數據訓練
生成式AI可訓練機器人執行多種任務
鏟子,刀子,錘子,扳手3個不同的數據集:模擬(上)、機器人遠程操作(中)和人類演示(下)讓機器人能學習使用不同的工具。圖片來源:麻省理工學院科技日報北京6月23日電?(記者張夢然)據美國麻省理工學院官網近日報道,該機構研究人員為了訓練更先進的多用途機器人,開發出一種技術:使用一種稱為擴散模型的生成式
《自然》封面:以AI生成數據訓練AI,模型變傻?
大模型有許多“崩”的時候,但有一種崩潰叫做“自毀前程”—— 近日,《自然》發表在封面的一篇論文指出,用AI生成的數據集訓練未來幾代機器學習模型,可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示,原始內容會在數代內變成不相關的“胡
《自然》封面:以AI生成數據訓練AI,模型變傻?
大模型有許多“崩”的時候,但有一種崩潰叫做“自毀前程”——近日,《自然》發表在封面的一篇論文指出,用AI生成的數據集訓練未來幾代機器學習模型,可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示,原始內容會在數代內變成不相關的“胡言亂語”
高盛:生成式AI或將推動全球GDP增長7%
高盛研究部最近發布的一份研究報告指出,生成式人工智能技術的發展將給全球經濟帶來巨大變化。隨著以自然語言處理為核心技術的先進生產力工具被企業和社會采用,高盛預計未來10年,全球年均GDP有望增長7 (約合近7萬億美元)。據高盛研究部經濟學家Joseph Briggs和Devesh Kodnani在報告
AI視頻生成模型Sora來了
原文地址:http://news.sciencenet.cn/htmlnews/2024/2/517625.shtm
如何選擇詞匯減少性別偏見
在職場中,即使是語言選擇上的細微差異,也會影響性別觀念。這些選擇主要分為兩類:通過使用中性詞匯來最小化性別作用;或通過性別標記來強調個人的性別。 行為科學家Stav Atir在近日發表于《認知科學趨勢》的研究中認為,深思熟慮地使用這兩種方法,可以促進性別平等。 “如果有人建議說‘女政治