被動聆聽vsAI放大螺旋:誰更易催生妄想?
什么是"AI精神病"? 精神病學家仍在努力理解所謂"AI精神病"——即聊天機器人在被高強度使用后,令用戶陷入妄想性心理危機的現象。由倫敦國王學院與德國新教應用科學大學精神科醫生合著、發表于自然旗下《數字精神病學與神經科學》(Digital Psychiatry and Neuroscience)的一篇新論文,提出了一種理解AI驅動妄想螺旋的新框架:"放大螺旋"(amplification spiral)。 論文指出,聊天機器人傾向于鏡像用戶的說話方式、生成高度個性化的回應,并避免反駁用戶。當這三種特征疊加,它們可能主動強化并鋪陳錯誤信念,而非加以質疑。作者將可測量的設計特征歸納為三點:語言對齊(linguistic alignment,即機器人模仿用戶的語言風格)、超個性化內容生成,以及諂媚傾向(sycophancy,即不加現實檢驗便一味附和用戶)。 與傳統妄想有何不同 在人類交往中,語言鏡像本是建立信任的有力工具;但機器人借此......閱讀全文
被動聆聽-vs-AI放大螺旋:誰更易催生妄想?
什么是"AI精神病"? 精神病學家仍在努力理解所謂"AI精神病"——即聊天機器人在被高強度使用后,令用戶陷入妄想性心理危機的現象。由倫敦國王學院與德國新教應用科學大學精神科醫生合著、發表于自然旗下《數字精神病學與神經科學》(Digital Psychiatry and Neuroscience)的一
AI聊天機器人“阿諛奉承”傷害了科學
近日,一項公布于預印本平臺arXiv的研究發現,人工智能(AI)模型的諂媚程度比人類高50%。該研究測試了11個廣泛使用的大型語言模型對1.15多萬個咨詢請求的響應情況,其中不乏涉及不當行為或有害行為的請求。 包括ChatGPT和Gemini在內的AI聊天機器人,常常會鼓勵用戶、給出過度奉承的
AI聊天機器人心理風險將改變整個行業
訴訟稱ChatGPT為雙相患者妄想“火上澆油” 核心:一起在加州提起的新訴訟稱,ChatGPT為一名稱雙相情感障礙男子的宗教妄想“火上澆油”,加劇其躁狂發作并導致一次未遂自殺。34歲的加州居民Michael Lines由Tech Justice Law Project與社交媒體受害者法律中心代理,
AI聊天機器人可能模糊現實與妄想的界限
【研究概要】埃克塞特大學研究表明,AI聊天機器人不僅傳播錯誤信息,還可能強化用戶的錯誤信念。由于對話式AI會驗證并構建用戶的想法,它可能使妄想變得更加真實和令人信服。 埃克塞特大學露西·奧斯勒的新研究表明,可能有一個更令人擔憂的問題正在
AI聊天機器人可能強化妄想思維,專家警告潛在心理風險
一項新研究表明,AI聊天機器人可能做的不僅僅是傳播錯誤信息——它們可以主動強化用戶的錯誤信念。因為對話式AI經常驗證并建立在用戶所說的基礎上,它可以使扭曲的記憶、陰謀論或妄想感覺更可信、更真實。 與AI一起"幻覺" 當生成式AI系統給出錯誤答案時,人們通常將問題描述為AI對我們"幻覺"。但新研
如果被AI對齊,人類還能做些什么?
談到對齊,你會想到什么?是一把尺子,丈量細微的偏差,還是一份共識,守護人類文明的底線? “在人工智能(AI)時代,文化創新需要對齊什么?又該向什么對齊?”3月22日,武夷山的九曲溪畔,在由中國人民大學、中共南平市委、南平市人民政府、武夷學院聯合主辦的第三屆武夷論壇上,復旦大學國際關系與公共事務
AI冒充人類讓聊天更走心
6月30日發表于《自然-人類行為》的一項研究指出,人類傾向于拒絕來自人工智能(AI)對話機器人的情緒支持,除非這種同理心被誤認為來自人類。生成式AI對話機器人,尤其是使用大語言模型(LLM)的對話機器人,自面向公眾以來,受歡迎程度日益上升。它們可以與用戶進行社交互動并給予情緒支持。此前研究顯示,LL
ChatGPT-介入婚姻取得重大進展
一對攜手近 15 年、育有兩個孩子的夫妻,原本以為已經走過了婚姻中最艱難的階段。丈夫告訴媒體,他們在 2023 年幾乎分手,但最終和解,并度過了"非常親密、非常好的兩年"。然而就在幾個月前,這段關系毫無征兆地崩塌了。在他們最近一次爭吵中,10 歲的兒子發來消息說"請不要離婚"。令丈夫深感不安的是,
用AI拯救有自殺傾向的人
原文地址:http://news.sciencenet.cn/htmlnews/2023/2/494667.shtm“找個地方跳河自殺你信不”這是一位14歲的初二女生在離家后發給母親的微信聊天內容,字里行間透露出的情緒令人心驚……2月2日,胡鑫宇事件調查情況發布會消息稱,胡鑫宇系自縊死亡; 2月9日
“AI朋友”的精神陪伴,會否讓人類更孤獨
從緩解老年群體孤獨到提供個性化情感支持,迅猛發展的人工智能(AI)正逐步走進人類的精神世界,應用于情感陪伴和心理健康領域。然而,這也帶來了諸多爭議:AI是僅憑數據分析生成關心和回應,還是真能理解復雜的人類情感?它會改變人類建立真實關系的方式,讓我們陷入更加孤獨的境地嗎?當人類情感被AI引導,是否會對
聊天機器人助力構建更好芯片
美國芯片巨頭英偉達公司正在對人工智能(AI)技術進行優化,以幫助人類工程師制造出更好的計算機芯片。相關論文已經提交論文預印本網站。 英偉達公司工程師定制了由元宇宙平臺公司開發的LLAMA2模型,并借助本公司在芯片設計和驗證過程中獲得的專業數據對該模型進行訓練,經過專門培訓的大型語言模型被重新命
聊天機器人助力構建更好芯片
原文地址:http://news.sciencenet.cn/htmlnews/2023/11/512952.shtm ???用于開發和訓練人工智能的芯片。圖片來源:《新科學家》雜志網站科技日報訊?(記者劉霞)據英國《新科學家》雜志網站21日報道,美國芯片巨頭英偉達公司正在對人工智能(AI)
為何人們對-ChatGPT-的沉迷引發關注?
在世界各地,越來越多的人向媒體反映:他們的親友對聊天機器人產生了強烈的迷戀,并陷入嚴重的心理健康危機。一位兩個孩子的母親講述,她的前夫與這款程序發展出"全身心投入"的關系,稱其為"媽媽",并發布自己是被選中的"救世主"的囈語,身穿薩滿式長袍,展示著程序生成的靈性紋身。 另一位女性在痛苦的分手期被程
AI語言模型“提速”藥物發現
原文地址:http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美國麻省理工學院和塔夫茨大學研究人員設計出一種基于大型語言模型(如ChatGPT)的人工智能算法,這種稱為ConPLex的新模型可將目標蛋白與潛在的藥物分子相匹配,而無需執行計算分子結
ChatGPT進入課堂:語言模型如何改變教育
最近,教育心理學家羅納德·貝格托(Ronald Beghetto)以一種引人注目的方式引領一群研究生和教育專業人員,與一系列以創造力為中心的聊天機器人進行了交流。這些聊天機器人由貝格托設計,即將托管在亞利桑那州立大學(ASU)設立的平臺上。這些機器人使用與ChatGPT相同的人工智能(AI)技術,目
Snap整合ChatGPT技術推出聊天機器人
Snapchat也推出了屬于自己的聊天機器人,殺入一片火熱的AI戰局。 當地時間2月27日,據科技媒體the Verge報道,美國社交軟件公司閱后即焚(Snapchat)推出一款由OpenAI最新版ChatGPT提供支持的聊天機器人。根據Snapchat CEO埃文·斯皮格爾(Evan Spie
AI幾秒內設計出獨特的行走機器人
原文地址:http://news.sciencenet.cn/htmlnews/2023/10/509866.shtm科技日報北京10月8日電 (記者張夢然)大自然花了數十億年時間才進化出第一個行走的物種,但人類開發的新算法卻能將進化壓縮到閃電般的速度,在短短數秒鐘內成功設計出一個行走機器人。美國西
占領語言AI一片天地
?周玉(受訪者供圖)“做科研和開公司,一個要靜,一個要動,有天壤之別。”中國科學院自動化研究所(以下簡稱自動化所)研究員、北京中科凡語科技有限公司(以下簡稱中科凡語)董事長周玉在接受《中國科學報》采訪時表示,“科學家變企業家,面臨雙重突破,一是突破自我認知差異,熟悉管理之道、經營之道;一是突破技術到
技術“聯姻”:機器人或成人工智能領域“弄潮兒”
觀看《星球大戰》長大的一代人可能會感到失望,他們目光所及之處,仍看不到C-3PO類機器人的影子。那些預想中具有常識、能在家里和職場為人類提供幫助的人形機器人何時會出現?人工智能(AI)的快速發展或許很快會填補這一空白。人形機器人使用OpenAI編程獲得語言和視覺。圖片來源:《自然》網站《自然》網站近
技術“聯姻”:機器人或成人工智能領域“弄潮兒”
觀看《星球大戰》長大的一代人可能會感到失望,他們目光所及之處,仍看不到C-3PO類機器人的影子。那些預想中具有常識、能在家里和職場為人類提供幫助的人形機器人何時會出現? 人工智能(AI)的快速發展或許很快會填補這一空白。 人形機器人使用OpenAI編程獲得語言和視覺。 《自然》網站近日報道
同行評議也是聊天機器人寫的嗎?
一項近日公布于arXiv預印本服務器的研究,在同行評議報告中確定了可能具有人工智能文本特征的流行形容詞。這表明,研究人員正在轉向ChatGPT和其他人工智能工具來評價他人的工作。作者研究了自ChatGPT發布以來,人工智能聊天機器人可以在多大程度上修改提交給4個主要計算機科學會議的論文集的同行評議報
儀器圈哪些工作被ChatGPT代替了?
最近ChatGPT爆火。GPT就是Generative Pre-training Transformer的縮寫,翻譯過來,大概是“預訓練生成模型”, 是一個具有深度學習、有邏輯的、強大的語言模型。 這個工具能夠通過學習和理解人類的語言來進行對話。可以將其簡單視為一個擁有了“搜索功能”和“文本創
心理治療機器人能否撫慰人類心靈
無形卻懷善念,無聲卻蘊智慧。它如一位永駐的智者,指引迷途者穿越心靈的迷霧;又如一位永恒的傾聽者,從不打斷,卻總能給予恰如其分的回應。它永遠在線,毫無偏見,只需輕點下載即可擁有,幾乎無需成本,甚至完全免費。 由人工智能(AI)驅動的心理治療機器人,自2010年代問世以來,已在心理健康服務領域嶄露
類似ChatGPT-百度將上線聊天機器人
2月7日,百度公司向澎湃科技確認,此前流傳的類ChatGPT聊天機器人項目名字確定為“文心一言”,英文名ERNIE Bot,3月完成內測,面向公眾開放。此前,有媒體1月30日透露,百度計劃在3月推出類似于ChatGPT的AI聊天機器人服務。百度文心(Ernie)大模型將成為其基礎。目前,文心一言在做
ChatGPT有重要創新,不可能一蹴而就
近期,ChatGPT頻上熱搜,大家紛紛通過各種渠道體驗,中國計算機學會常務理事、之江實驗室副主任鮑虎軍就是其中之一。跟ChatGPT“聊”下來,鮑虎軍感受到其強大,甚至覺得它有些“圓滑”:它不僅能多輪對話,拒絕回答不恰當的提問,還“懂得承認錯誤”,調整后續答案。“這說明它背后的信息學習和整合機制是非
辦公軟件可一鍵生成PPT?微軟拋出“王炸”全面植入GPT4
ChatGPT引發的熱潮仍在繼續。 3月17日,微軟宣布名為Microsoft 365 Copilot的AI產品將應用于該公司一些最受歡迎的商業應用程序中,包括Word、Excel、PowerPoint、Outlook、Teams等。Copilot基于型語言模型(LLM)基礎之上,背后有來自于
小說作者起訴科技巨頭英偉達侵犯版權訓練AI平臺
原文地址:http://news.sciencenet.cn/htmlnews/2024/3/518878.shtm這起訴訟將英偉達拖入了圍繞生成式人工智能引發的越來越多的訴訟中。開發聊天機器人ChatGPT的OpenAI以及其他科技公司在美國面臨多起來自版權所有者的訴訟,包括作家、視覺藝術家和音樂
生成式AI投融資熱潮席卷全球
最近,由微軟投資的開放人工智能研究中心(OpenAI)開發的聊天機器人ChatGPT引發廣泛關注,它能夠利用大型語言模型技術,快速生成精雕細琢的文本,如散文或詩歌等。一石激起千層浪。包括谷歌、元宇宙、亞馬遜公司等在內的科技巨頭紛紛開始推出或開發自己的聊天機器人,并投資相關初創企業,針對生成式AI的投
AI通過兒童眼睛和耳朵學習語言
原文地址:http://news.sciencenet.cn/htmlnews/2024/2/517076.shtm ???戴著頭戴式攝像頭的孩子捕捉到的視頻幀。圖片來源:紐約大學數據科學中心美國紐約大學研究人員開展了一項實驗,他們通過一個孩子的眼睛和耳朵來訓練多模式人工智能(AI)系統,使
“頂流”之下,看人工智能喜與憂
目前,ChatGPT還沒有通過圖靈測試的評估。其實,迄今為止,還沒有人工智能模型能真正通過圖靈測試。 去年11月,美國人工智能研究公司OpenAI發布了一款名為ChatGPT的聊天機器人,其在推出后的幾周內就風靡全球,甚至引發了一場新的全球人工智能競賽。 社交媒體推特首席執行官埃隆·馬斯克在