一項3月24日發表于《放射學》的研究表明，大多數放射科醫生難以辨識由人工智能（AI）生成的X光掃描圖像；在混雜于真實醫療數據中的合成圖像面前，僅有不到半數的醫生能夠將其識別出來。大型語言模型在區分真實與合成醫療圖像方面也同樣表現吃力。
AI生成的X光片若被納入訓練數據集可能會對分析醫療數據的AI工具產生偏差。
這項研究提供了一套培訓方案，旨在幫助放射科醫生提升識別AI生成X光圖像的技能。研究人員同時發出警告：合成數據所帶來的負面影響，恐將悄然滲透至科學文獻及醫療訴訟領域。
“這項研究的結果既令人不安，對我而言卻也并不意外。”美國微生物學家兼圖像誠信專家Elisabeth Bik表示，“這不僅引發了人們對科研誠信的擔憂，同時也對臨床工作流程、保險理賠以及涉及影像證據的法律情境構成了潛在隱患。”
在這項研究中，來自12家研究中心的17位放射科醫生接受了一項測試：他們被展示了一批X光掃描圖像——其中半數為真實的掃描圖像，另半數則是由AI生成的。在對研究目的毫不知情的前提下，參與者被要求對這些AI圖像的技術質量進行評估，并指出是否察覺到任何異常之處。最終，有41%的參與者表達了疑慮，懷疑這批數據集中可能混入了AI生成的掃描圖像。
隨后，放射科醫生們被告知其中部分圖像系由AI生成，并被要求辨別哪些是真實的掃描圖像，哪些是由ChatGPT生成的圖像。平均而言，參與者正確識別出AI生成圖像與真實掃描圖像的準確率達到了75%。論文共同共同作者、美國西奈山伊坎醫學院的放射科醫生Mickael Tordjman指出，重要的是“放射科醫生的經驗水平并未對結果產生任何影響”。
研究團隊還進一步探究了ChatGPT和Gemini等人工智能模型是否比放射科醫生擁有更為敏銳的辨別力；然而，在區分真實圖像與ChatGPT生成圖像的任務中，這些人工智能模型的準確率僅在57%至85%之間。
AI生成的圖像如此難以辨別，可能會給科學界帶來嚴峻的挑戰。Tordjman指出，其中最常見的挑戰在于，虛假圖像可能會對訴訟案件和保險理賠造成干擾。他補充道，此外還存在一種風險，即合成的掃描圖像可能會滲透并混入科學文獻之中。盡管出版商已出臺政策明令禁止或限制使用此類內容，但同行審稿人和學術期刊仍被大量包含AI生成圖像及醫學數據的論文所淹沒。研究人員對此深感憂慮，因為那些包含不準確信息的AI生成內容，不僅會誤導科學家群體，同樣也會誤導廣大公眾。
另一個令人擔憂的問題是，用于解讀醫學影像數據的AI模型，可能會因其訓練數據集中混入了AI生成的數據而產生偏差。與此同時，研究人員也發現，合成數據有助于提升放射學AI模型的性能。美國斯坦福大學的放射科醫生Curtis Langlotz指出，如果這些更為逼真的AI放射影像能夠填補AI模型訓練數據中的空白，那么對于醫學界而言，這最終可能是一件好事。
該研究的作者們設計了一項互動測試，旨在教會研究人員如何辨別AI生成的X光掃描圖像與真實的圖像。這項測試涵蓋了AI生成放射影像的一些典型特征，例如骨骼表面過于光滑、脊柱呈現出不自然的筆直形態等。作者們指出，除了對放射科醫生進行相關培訓外，采用數字水印等技術，以及建立由政府機構主導的監管框架，都有助于人們更輕松地識別出真實的圖像。