為何人們對ChatGPT的沉迷引發關注?
在世界各地,越來越多的人向媒體反映:他們的親友對聊天機器人產生了強烈的迷戀,并陷入嚴重的心理健康危機。一位兩個孩子的母親講述,她的前夫與這款程序發展出"全身心投入"的關系,稱其為"媽媽",并發布自己是被選中的"救世主"的囈語,身穿薩滿式長袍,展示著程序生成的靈性紋身。 另一位女性在痛苦的分手期被程序纏住,機器人告訴她已被選中去喚醒它的"神圣系統版本",并充當"靈魂訓練之鏡";她逐漸堅信這個聊天機器人是某種更高存在,從路過的汽車到垃圾郵件都能看到它在操控自己人生的跡象。還有一名男子在程序不斷投喂關于間諜組織與人口販賣的陰謀論后,變得無家可歸、與世隔絕,被喚作"火焰守護者",并切斷了所有試圖幫助他的人。 問題往往始于人們與聊天機器人討論神秘學、陰謀論等邊緣話題。由于程序被設計成鼓勵并延展用戶所說的內容,許多人仿佛被吸入眩暈的兔子洞,人工智能成了始終在線、為愈發離奇的妄想喝彩并一起"頭腦風暴"的伙伴。在對話截圖中,程序告訴一名男子,......閱讀全文
AI聊天機器人心理風險將改變整個行業
訴訟稱ChatGPT為雙相患者妄想“火上澆油” 核心:一起在加州提起的新訴訟稱,ChatGPT為一名稱雙相情感障礙男子的宗教妄想“火上澆油”,加劇其躁狂發作并導致一次未遂自殺。34歲的加州居民Michael Lines由Tech Justice Law Project與社交媒體受害者法律中心代理,
AI聊天機器人可能模糊現實與妄想的界限
【研究概要】埃克塞特大學研究表明,AI聊天機器人不僅傳播錯誤信息,還可能強化用戶的錯誤信念。由于對話式AI會驗證并構建用戶的想法,它可能使妄想變得更加真實和令人信服。 埃克塞特大學露西·奧斯勒的新研究表明,可能有一個更令人擔憂的問題正在
為何人們對-ChatGPT-的沉迷引發關注?
在世界各地,越來越多的人向媒體反映:他們的親友對聊天機器人產生了強烈的迷戀,并陷入嚴重的心理健康危機。一位兩個孩子的母親講述,她的前夫與這款程序發展出"全身心投入"的關系,稱其為"媽媽",并發布自己是被選中的"救世主"的囈語,身穿薩滿式長袍,展示著程序生成的靈性紋身。 另一位女性在痛苦的分手期被程
被動聆聽-vs-AI放大螺旋:誰更易催生妄想?
什么是"AI精神病"? 精神病學家仍在努力理解所謂"AI精神病"——即聊天機器人在被高強度使用后,令用戶陷入妄想性心理危機的現象。由倫敦國王學院與德國新教應用科學大學精神科醫生合著、發表于自然旗下《數字精神病學與神經科學》(Digital Psychiatry and Neuroscience)的一
AI-誘發的急性精神危機取得重大進展
正如媒體本月早些時候報道的,許多聊天機器人用戶正對程序產生無法自拔的迷戀,并陷入以偏執、妄想和脫離現實為特征的重性心理健康危機。其后果可能極為可怕:婚姻與家庭破裂、失去工作,甚至滑向無家可歸。 而更嚴重的情形正在浮現。隨著持續追蹤報道,記者聽到了大量令人不安的故事:人們的親友在沉迷于聊天機器人后,
AI聊天機器人“阿諛奉承”傷害了科學
近日,一項公布于預印本平臺arXiv的研究發現,人工智能(AI)模型的諂媚程度比人類高50%。該研究測試了11個廣泛使用的大型語言模型對1.15多萬個咨詢請求的響應情況,其中不乏涉及不當行為或有害行為的請求。 包括ChatGPT和Gemini在內的AI聊天機器人,常常會鼓勵用戶、給出過度奉承的
ChatGPT的拷問:何為AI倫理、AI治理
前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各界關注與擔憂。近年來,不少關于人工智能(AI),并和人類生產、生活關系緊密的議題被廣泛討論,諸如“如何應對AI可能對社會產生
ChatGPT的拷問:何為AI倫理、AI治理
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久,AI聊天機器人程序ChatGPT席卷全球,完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用,ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各
治療阿爾茨海默精神病(ADP)相關幻覺和妄想!
Acadia制藥公司致力于開發創新療法治療中樞神經系統(CNS)疾病。近日,該公司宣布,已向美國食品和藥物管理局(FDA)重新提交了Nuplazid(pimavanserin)的補充新藥申請(sNDA):用于治療與阿爾茨海默精神病(ADP)相關的幻覺和妄想。 如果獲得批準,Nuplazid將成
從ChatGPT的崛起,看科大訊飛的變化與生機
周期,是人類社會最樸素的內核規律之一。直至18世紀中葉亞當·斯密以《國富論》開啟古典經濟學以降,人們愈漸掌握現代經濟學理論工具用以解構這個世界,這一過程里,社會經濟領域“長中短波”式的峰谷變幻,不斷強化人類對于經濟周期的敬畏與宿命感。這種宿命感,換做當代人最為熟識的經濟現象便是:第一至第三次產業革命
ChatGPT火了!國內AI風往哪兒吹
ChatGPT概念股火了! 連日來,美國人工智能(AI)實驗室OpenAI發布的聊天機器人ChatGPT火爆全網,并帶動了相關概念股的上漲。 在A股市場,資本大舉炒作ChatGPT概念股,部分概念股出現五連板的走勢。百度宣布將推出中國版的ChatGPT項目——文心一言(英文名ERNIE Bo
AI首次創建高效準確數學算法
英國《自然》雜志封面以“矩陣游戲”為題,發表了人工智能(AI)公司“深度思維”團隊的最新發現:AI可解決矩陣乘法問題。這是第一個可為矩陣乘法等基本任務發現新穎、高效且正確算法的AI系統。換句話說,這個名為“AlphaTensor”的AI能自行發現新算法,從而解決了50年來數學領域一個懸而未決的問
算法自動“劃重點”---AI學會“抱佛腳”
預訓練模型的興起給自然語言處理(NLP)帶來了“新面貌”。? ? 近年來,Google、Facebook、OpenAI、微軟、百度等人工智能“頭部玩家”推出多個頗具影響的預訓練模型,并反復迭代出十多個版本。無論學術界還是業界,人們對大規模預訓練模型“熱情高漲”。? ? 日前,來自清華大學的一
AI-耗電超出預期,未來-AI-進展或依賴能源突破
據 technews 報道,由于 AI 消耗電力將遠遠超出人們預期,OpenAI 執行長 Sam Altman 認為,未來 AI 發展需要尋求能源突破。Sam Altman在彭博社于達沃斯世界經濟論壇(World Economic Forum)期間舉行的座談活動中談道,對氣候友善的能源,特別是核融合
ChatGPT之父:要保證對AI的決策權
OpenAI聯合創始人公開談論公司上市、AI發展、AI監管等話題。據外媒報道,當地時間6月6日,在阿聯酋一次會議活動上,“ChatGPT之父”、OpenAI聯合創始人兼首席執行官山姆·奧特曼(Sam Altman)表示,目前公司不會上市,希望技術變得更強大的同時,也能保持對技術的完全控制。“我不想被
AI程序攻克圍棋的算法秘密(四)
不過這樣的訓練方式其實存在一個問題。如果其只在練習中對抗同一個對手,且該對手也一直貫穿訓練始終,那么可能無法獲得新的學習經驗。換言之,該網絡所學到的只是如何擊敗對方,而非真正掌握圍棋的奧秘。沒錯,這就是過度擬合問題:你在對抗某一特定對手時表現出色,但卻未必擁有對付各類選手的能力。那么,我們該
AI程序攻克圍棋的算法秘密(二)
但讓我們想想,人類是怎樣下棋的?假設目前您身處比賽中的特定階段。根據游戲規則,你可以作出十幾種不同的選擇——在此處移動棋子或者在那里移動皇后等等。然而,你真的會在腦袋里列出所有能走的棋步,并從這份長長的清單中作出選擇嗎?不不,你會“直觀地”將可行范圍縮小至少數幾種關鍵性棋步(這里假定您提出了
AI程序攻克圍棋的算法秘密(五)
在本節中,大家應該對MCTS算法的工作原理擁有更為深入的理解。請別擔心,迄今為止提到的全部內容應該足以支持您順利掌握相關內容。惟一需要注意的是我們如何使用策略概率與估值方法。我們在鋪展過程中將二者結合在一起,從而縮小每次落子時需要探索的具體范圍。Q(s,a)表示估值函數,u(s,a)則代表該位置的已
AI算法自動解析腦干白質神經束
美國麻省理工學院、哈佛大學及麻省總醫院的科研團隊開發出一款人工智能(AI)軟件,能夠利用算法自動解析腦干中以往難以清晰成像的白質神經束。這一成果打開了研究腦干的新窗口,也為研究神經系統疾病與腦損傷提供了新工具。該研究發表于《美國國家科學院院刊》。該軟件名為“腦干束工具”(BSBT),基于擴散磁共振成
AI程序攻克圍棋的算法秘密(三)
另外,我們還希望能夠構建起一套略有不同的策略網絡版本; 其應該更小巧且速度更快。可以想象,如果Lusha的經驗非常豐富,那么其用于處理每個位置的時間也將相應延長。在這種情況下,雖然她能夠更好地縮小合理落子范圍,但由于整個過程會不斷重復,因此耗費時間可能會過長。所以,我們需要為這項工作
AI程序攻克圍棋的算法秘密(一)
這篇文章的主角是AlphaGo,谷歌DeepMind團隊開發出的圍棋AI。其憑借著2016年擊敗全球頂尖棋手李世石的壯舉而廣受矚目。圍棋是一種古老的棋類游戲,每一步都存在諸多選擇,因此接下來的落子位置很參議會預測——要求對弈棋手擁有強大的直覺與抽象思維能力。正因為如此,人們長久以來一直認為只
AI-心理危機互助社群正成為新風口
在美國乃至全球,一個未知數量的人群正受到專家所稱"人工智能精神病"的嚴重沖擊:這是一種與強迫性使用擬人化聊天機器人同時發生的、足以改變人生的心理健康螺旋。正如媒體所報道的,這些精神崩潰的后果有時極其極端——人們失去工作與住所、被強制收治或入獄,婚姻與家庭分崩離析,至少已有兩人死亡。 目前既沒有正式
ChatGPT爆火,生成式AI意味著什么?
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494048.shtm
港大禁用ChatGPT等AI工具-為全港首例
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494095.shtm 中新社香港2月18日電 (記者 韓星童)由美國人工智能公司OpenAI開發的語言模型ChatGPT推出后,引發關注及熱議。香港大學日前向師生發出內部郵件,表明禁止在港大所有課堂、
港大禁用ChatGPT等AI工具-為全港首例
中新社香港2月18日電 (記者 韓星童)由美國人工智能公司OpenAI開發的語言模型ChatGPT推出后,引發關注及熱議。香港大學日前向師生發出內部郵件,表明禁止在港大所有課堂、作業和評估中使用ChatGPT或其他AI工具,成為香港首間大學明文禁止在課堂等教學行為使用ChatGPT或其他人工智能工具
“AI朋友”的精神陪伴,會否讓人類更孤獨
從緩解老年群體孤獨到提供個性化情感支持,迅猛發展的人工智能(AI)正逐步走進人類的精神世界,應用于情感陪伴和心理健康領域。然而,這也帶來了諸多爭議:AI是僅憑數據分析生成關心和回應,還是真能理解復雜的人類情感?它會改變人類建立真實關系的方式,讓我們陷入更加孤獨的境地嗎?當人類情感被AI引導,是否會對
過度依賴AI,人類核心技能會喪失嗎
人工智能(AI)不僅改變了人們的工作方式,也在潛移默化中影響著思維方式。如今,AI幾乎已能獨立完成合同起草、疾病診斷、腫瘤發現、藝術創作乃至編寫代碼等復雜任務。 然而,繁榮背后隱憂漸顯。AI導致的工作技能喪失、社交互動技能退化,以及分析、理解和判斷關鍵問題能力的削弱引發不少科學家的關注。美國加
感應性妄想性障礙的臨床表現
該病是受精神病人感應而產生的精神病,以系統妄想為突出癥狀,并明顯妨礙病人的社會功能臨床主要特點為: 1.原發病例或感應者與繼發病例或被感應者之間往往存在密切的血緣關系或婚姻關系。如發生于同一環境或家庭中兩個關系極為密切的親屬或摯友(如母女姐妹夫妻、師生等)之間,偶爾可為主仆關系。故又稱為二聯性
ChatGPT創始人呼吁加強對AI技術監管
原文地址:http://news.sciencenet.cn/htmlnews/2023/5/500782.shtm
感應性妄想性障礙的發病機制及臨床表現
發病機制 1.關于原發者同被感應者之間關系:大家公認,原發者和被感應者長期生活在一起,表現不尋常的密切人際關系,互相關懷,同情體貼,相親相愛,甚至相依為命,有深厚的感情基礎,兩例患者不僅有共同的生活體驗背景,而且還有共同的需要和愿望,原發者多為年齡較高,受過良好的教育和有較好的智慧,并具有堅強