斯坦福用AI偽造黑人學生肖像,引發校園信任危機
斯坦福大學被抓包用AI替換照片中的真實學生,把一個根本不存在的黑人女性硬塞進了畫面之中。這張經過編輯的照片里,真假學生一起微笑著舉起餐盤,隨后被張貼遍校園,用來推廣學校的餐飲設施。被抹去的真實學生Billy Ramirez起初覺得這件事“好笑”,但很快便感到自己被噤聲、被從代表性中抹除。身為西班牙裔的Ramirez告訴率先報道此事的校報,這讓他本應在場的 representation 中,遭到了無聲的消失。種族替換并非這起事件中唯一不得體的AI改動,圖中另外兩名亞裔女性和白人男性,也被修得更瘦、更“好看”。據《舊金山紀事報》報道,這張AI修飾過的照片被用于“歡迎回家”橫幅,一度貼滿了整個校園。Ramirez說,這些曾經“貼滿校園”的海報,目前正陸續被校方撤下,試圖平息這場愈演愈烈的爭議。他告訴媒體,他深愛這所學校,卻并不喜歡校方做出此類事情,言辭之間透著一種被辜負的復雜情緒。他說塞入一個假黑人學生并不“反映現實”,學校所呈現的多......閱讀全文
斯坦福用AI偽造黑人學生肖像,引發校園信任危機
斯坦福大學被抓包用AI替換照片中的真實學生,把一個根本不存在的黑人女性硬塞進了畫面之中。這張經過編輯的照片里,真假學生一起微笑著舉起餐盤,隨后被張貼遍校園,用來推廣學校的餐飲設施。被抹去的真實學生Billy Ramirez起初覺得這件事“好笑”,但很快便感到自己被噤聲、被從代表性中抹除。身為西班牙裔
ChatGPT的拷問:何為AI倫理、AI治理
前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各界關注與擔憂。近年來,不少關于人工智能(AI),并和人類生產、生活關系緊密的議題被廣泛討論,諸如“如何應對AI可能對社會產生
ChatGPT的拷問:何為AI倫理、AI治理
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各
9秒騙走245萬!魔高一尺道高一丈,AI詐騙如何防?
AI(人工智能)一鍵換臉、AI克隆聲音、AI釣魚郵件。。。。。。近日兩起詐騙金額上百萬元的案件引起人們關注。AI技術快速發展,挑戰也逐漸顯現。 AI讓詐騙門檻大幅降低 近日,內蒙古包頭警方通報一起利用AI實施詐騙的案件。在該案件中,福州市某公司法人代表郭先生10分鐘內被騙430萬元。據通報,
院士帶貨竟是AI偽造!新技術如何才能用在正道上?
快速進化的AI生成技術,讓生成假照片、假圖像,甚至視頻換臉都更加容易,且真假難辨。尤其是AI合成的假視頻甚至冒充名醫、名人進行虛假宣傳,對公眾實施詐騙。中國工程院院士、天津中醫藥大學名譽校長張伯禮也是受害者之一。 院士帶貨 竟是AI偽造 不久前,網絡中出現了這樣一個視頻,視頻中張伯禮院士正在
研究在圖像拼接偽造檢測技術獲突破
近日,中國科學院沈陽自動化研究所在圖像拼接偽造檢測技術研究中取得進展,相關成果發表在IEEE Sensors Journal。 圖像視頻常常作為法律程序中的重要證物,因此真實性驗證具有至關重要的意義,圖像拼接偽造檢測就是圖像真實性驗證的一項重要內容。沈陽自動化所邊緣計算課題組研發了一項基于運動
認可委開展“人工智能偽造圖像鑒定”能力驗證計劃
為促進人工智能(AI)安全治理行業技術發展,加強各相關機構對 AI 偽造圖像檢驗鑒定的質量管理,建立不同圖像鑒定方法/系統的有效性和可比性,中國合格評定國家認可委員會(CNAS)秘書處決定開展“人工智能偽造圖像鑒定”能力驗證計劃(計劃編號為CNAS-AI001)。現將能力驗證計劃有關工作和具體要
深度偽造X光片以假亂真:資深放射科醫生也分不清的AI陷阱
連最專業的眼睛也難以分辨三月二十四日發表在北美放射學會旗艦期刊《放射學》上的一項研究揭示了一個令人不安的發現:人工智能生成的深度偽造X光圖像已經逼真到足以欺騙經驗最豐富的放射科醫生,即便他們明確知道測試中可能包含合成圖像。所謂深度偽造是指利用人工智能技術創建或篡改的視頻、照片、圖像或音頻文件,雖然看
AI偽造歌曲成新風口:山寨Eminem神曲YouTube瘋傳
在一個廉價AI內容泛濫的時代,模仿自己最愛的歌手從未如此容易。YouTube正被一波以真實藝人名義發布、卻未經授權的AI生成音樂淹沒,而大量用戶在渾然不知中反復播放這些“微波爐加熱”出來的偽劣品。近期最典型的案例,是一首名為《I'm Back》的“Eminem”(馬歇爾·馬瑟斯)說唱曲——不要與這位
科技部發文規范-AI-使用-強調科技倫理重中之重
科技部監督司上個月編制印發《負責任研究行為規范指引(2023)》,《指引》從研究選題與實施、數據管理、成果署名、同行評議、倫理審查、監督管理等 11 個方面,對科研人員和科研機構、高等學校、醫療衛生機構、企業等(以下統稱“科研單位”),提出了開展負責任研究應普遍遵循的科學道德準則和學術研究規范。
斯坦福2018年AI指數報告出爐:中國追趕速度驚人
報告指出,美國AI的研究力量仍是全球最強,但中國的追趕速度很快。 在過去幾年中,世界目睹了人工智能(AI)研究、開發和部署的空前加速。一時間,如雨后春筍般“冒出”很多人工智能創業公司,大多數傳統行業也在向人工智能轉型。世界各國政府正在為科技創造制定雄心勃勃的戰略計劃。 近日,繼2017年發布
關于組織開展人工智能偽造圖像鑒定能力驗證計劃的通知
關于組織開展人工智能偽造圖像鑒定能力驗證計劃的通知
迄今最高清火星“肖像”繪出
原文地址:http://news.sciencenet.cn/htmlnews/2023/4/498161.shtm
斯坦福校長再陷造假旋渦
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494889.shtm 自去年11月下旬以來,斯坦福大學校長、美國科學院院士Marc Tessier-Lavigne因涉嫌多篇論文造假而一直接受調查。 然而,一波未平一波又起。當地時間2月17日,《
為何AI安全風險引發關注?
為何AI安全風險引發關注? 案例細節:人工智能已經深入社會諸多領域,在提升效率方面成效顯著,無論是梳理海量數據,還是生成可靠的工作流、統計、預測與診斷都大有幫助。斯坦福大學的一項研究顯示,到二〇三〇年,美國AI產業的規模預計將增長約六倍,同時為美國GDP帶來百分之二十一的凈增長,表明AI有望成為社會
全國首例“AI聲音侵權案”一審宣判
當人工智能(AI)技術能夠模仿人聲和言語風格,制作出各種聲音效果,實現高度自然和逼真的音頻產出時,是否會產生侵權風險?4月23日,北京互聯網法院對全國首例“AI聲音侵權案”進行一審宣判,認定原告聲音權益及于案涉AI聲音,被告使用原告聲音、開發案涉AI文本轉語音產品未獲得合法授權,構成侵權。判決被告北
AI虛擬細胞開啟生物研究新范式
細胞是孕育生命的微小單元。細胞內部及其與外部之間物質、能量和信號的傳遞與交換,構建出人類生長、發育、衰老與疾病的生命圖譜。解讀細胞的奧秘,便是破譯生命的密碼。隨著人工智能(AI)技術的突飛猛進,一種全新的研究范式——AI虛擬細胞(AIVC)逐漸嶄露頭角。AIVC就是利用AI模擬細胞行為,探索生命機制
Science繪制HIV重要蛋白的肖像
斯克里普斯研究所(TSRI)和康奈爾大學Weill醫學院的科學家們展開合作,確定了HIV包膜蛋白三聚體的第一個原子水平結構。長期以來,人們將其視作是結構生物學中最難瞄準的靶點之一,且具有巨大的醫學價值。 新研究結果提供了這一AID致病病毒復雜包膜最詳細的圖像,其中包括未來的疫苗將試圖模擬以
Aivia軟件更新提供了改進的AI圖像分析功能
顯微鏡和科學儀器領域的領導者 Leica Microsystems 發布了 Aivia 10.5,這是其基于 AI 的圖像可視化、分析和解釋平臺的最新版本。由于引入了自主圖像分析參數預測系統的新模塊,該版本使神經科學家在分析和重建 3D 數據集中的神經元時可以節省多達 74% 的時間。 其他增
124頁報告詳盡披露-Nature兩度撤稿作者迪亞斯數據偽造、抄襲等不當行為確鑿
蘭加·迪亞斯,這個名字一度在物理學界引起軒然大波。他所宣稱的“室溫超導”發現,曾讓全球科學界為之一震,仿佛打開了新世界的大門。 然而,在科學界不斷的質疑聲中,這扇門逐漸顯露出裂痕。迪亞斯所發表的室溫超導研究論文兩次被《自然》撤稿,不僅如此,另外兩篇論文也遭到刊物的撤回。 近日,《自然》新聞團隊援
當AI“復活”成為產業,如何保障數字生命技術始終向善
南京硅基智能科技有限公司聯合創始人孫凱沒有想到,自己多年前在云端“復活”母親的想法,如今已壯大成一門蓬勃發展的新興產業。近來,用生成式人工智能技術“復活”已逝親人、名人的消息時見報端。不少人也躍躍欲試,嘗試著為自己塑造一個“數字分身”。科幻電影里關于數字生命、數字永生的想象,仿佛已經近在眼前。當“云
港嶺大校長畢業致辭:未來領袖需AI素養和倫理兼備
香港嶺南大學(下稱嶺大)28日舉行第55屆畢業典禮,校長秦泗釗致辭時表示,作為未來領袖,人工智能(AI)素養和倫理兼備至關重要。圖為畢業典禮現場。香港嶺南大學供圖秦泗釗表示,科技雖然是一種強大的工具,但真正重要的是擁有駕馭科技的素養。因為創意、價值觀和想法,將決定人類與這些創新科技工具的應用方向和未
谷歌CEO:AI虛假內容說明監管必要性
“我一直認為?AI?(人工智能)是人類正在研究的最深刻的技術,比火、電或我們過去所做的任何事情都要深刻。”當地時間4月16日,在哥倫比亞廣播公司(CBS)的采訪節目《60分鐘》里,谷歌及其母公司Alphabet的首席執行官桑達爾·皮查伊(Sundar Pichai)表達了他對人工智能的快速發展及其對
人工承包商審閱AI隱秘提示詞將改變整個行業
眾所周知,AI用戶最愛用聊天機器人干的事之一,就是批量產出情色內容。但這些提示詞,遠非私密。據404 Media的最新曝光,數百名為改進微軟Copilot AI而雇用的人工承包商,正在審閱用戶的圖像編輯提示詞以及他們上傳的照片;許多工作者表示,自己正被大量陰暗且含性暗示的請求所淹沒。然而,評判這些請
Science繪制HIV同謀者的肖像
經過6年的努力,一個中國科學家研究小組繪制出了HIV入侵人類宿主細胞的“內應”——CCR5的三維圖像。 這一“CCR5與HIV藥物馬拉韋羅(Maraviroc)結合”的清晰快照,提供了關于HIV感染如何起始以及有可能如何終止它們的一些重要信息。該研究的領導者、中科院上海藥物研究所的吳蓓麗(
生成式AI下一站:文本轉視頻
原文地址:http://news.sciencenet.cn/htmlnews/2023/4/498451.shtm 聊天機器人ChatGPT的爆紅,讓生成式人工智能(AI)成為科技領域的“當紅炸子雞”。除了如今“霸屏”的類似ChatGPT的語言模型之外,生成式AI領域還有大量其他技術:文本生成
中科睿鑒成果獲世界互聯網大會領先科技成果獎
11月9日,2022年世界互聯網領先科技成果發布活動在浙江烏鎮舉辦,現場評選出15項具有國際代表性的年度領先科技成果。中科睿鑒成果“睿鑒數字內容虛假偽造檢測系統和設備”從近300個參評項目中脫穎而出,獲世界互聯網領先科技成果獎。 荀子曰:“流言止于智者。”與虛假偽造信息的斗爭,自古至今從未停止。
給“深度偽造”這匹“野馬”拴上韁繩
利用生成式人工智能(AI)制造的虛假圖片、音頻和視頻信息等“深度偽造”內容正在快速傳播,被用來騷擾他人、詐騙金錢,甚至干擾選舉。 英國《新科學家》網站近日報道,美國OpenAI公司的文本—視頻模型Sora橫空出世,讓人們能更快捷、更廉價地制作出視頻,事實與虛構的分界線也愈加模糊,進一步加劇了人
《自然》發布2024年值得關注的七大技術
原文地址:http://news.sciencenet.cn/htmlnews/2024/1/516634.shtm從蛋白質設計到3D打印,從大片段DNA插入到檢測深度偽造內容……《自然》網站22日發布了2024年值得關注的七大技術領域,并指出人工智能(AI)的進步是這些最令人興奮的技術創新應用的核
大模型又整活,照片也能唱歌說話
文 | 《中國科學報》記者 趙廣立不得了,沉睡兩千多年的秦陵兵馬俑居然“唱”起秦腔來了!在類似的幾段視頻中,兵馬俑不僅能開口唱歌,就連面部表情也惟妙惟肖;仔細看,還能看到他的喉結在動、胸腔共鳴……不僅有兵馬俑,還有蒙娜麗莎、奧黛麗·赫本、孔子、魯迅……只要一張照片和一段音頻,他們就能開口說話、唱歌、