學者談ChatGPT或帶來論文造假

最近，由美國人工智能研究室OpenAI開發的全新“聊天機器人”ChatGPT風靡全球。作為一款人工智能語言模型，它不僅能和人展開互動，還能撰寫郵件、論文、腳本，制定商業提案，創作詩歌、故事，甚至敲代碼、檢查程序錯誤等。上線僅兩個月，ChatGPT全球活躍用戶便破億。

隨著討論的加深，人們從最早的新奇，進而到了幾乎覆蓋全行業的討論。在教育界，人們開始擔心，學生會否用ChatGPT寫作業？學生老師會否靠人工智能生成研究論文?

華東師范大學中文系副主任、教授湯擁華坦言，比較敷衍的學生和比較馬虎的老師，在ChatGPT面前是缺乏抵抗力的，未來以論文為中心的教學評價體制需要作出重大調整。

華東師范大學經濟與管理學部教授、博士生導師，人文與社會科學研究院副院?許鑫更關心ChatGPT應用對于教育產生的影響以及可能的應對，“我們要做促進學生全面發展的‘大先生’，而非僅僅是知識傳遞的‘教書匠’，因為ChatGPT已經幾乎能回答所有學生的各類知識性問題。”

上海人工智能研究院總工程師王資凱對此并不擔心。他表示，與其擔心學生亂用工具，不如教師們先改變教學思路，引導學生利用好工具，同時要更注重培養學生的創造力以及批判性思維。

“ChatGPT會沖擊目前的評價體制”

關于ChatGPT或可能引發學術造假的擔憂已經照進了現實。

據《紐約時報》報道，近日，美國北密歇根大學(Northern Michigan University)哲學教授安東尼·奧曼(Antony Aumann)在為世界宗教課程批改論文時，讀到了他所謂的“全班最好的論文”。該論文用干凈的段落、恰當的例子和嚴謹的論點探討了罩袍禁令的道德性。

但隨后在奧曼的質問下，這位學生承認使用了ChatGPT。這一發現讓奧曼感到震驚，他決定在本學期的課程中改變論文寫作的課程安排，要求學生在教室里寫初稿，使用監控和限制電腦活動的瀏覽器。此外，學生必須解釋自己的每一次修改。

最近多家學術期刊也發表聲明，完全禁止或嚴格限制使用ChatGPT等人工智能機器人撰寫學術論文。僅在國內，2月10日，《暨南學報(哲學社會科學版)》便發布了關于使用人工智能寫作工具的說明。說明提到，暫不接受任何大型語言模型工具（例如:ChatGPT）單獨或聯合署名的文章。對于引用人工智能寫作工具的文章作為參考文獻的，需請作者提供詳細的引用論證。

“從教育工作者的?度看，這一次ChatGPT的出現的確帶來了困擾，因為它會直接沖擊目前的評價體制。”華東師范大學中文系副主任、教授湯擁華講道，目前日常教學評價的主要依據，其實就是ChatGPT所能炮制的論文，“換句話說，老師讀到人工智能生產的論文，雖然有可能會覺得某個地方不太對，但他平時讀一部分學生的論文時，可能也不會更對，甚至于他對學生最大的期待，可能就是讓學生能夠多讀點文獻，而這正是ChatGPT的強項。”

湯擁華坦言，比較敷衍的學生和比較馬虎的老師，在ChatGPT面前是缺乏抵抗力的。立足本專業，他認為中文的學術論文是一種表述上更為復雜的寫作，可能ChatGPT暫時還不能寫幾千字的長文，“但估計很快就能做到，到時候，以論文為中心的教學評價體制就必須作重大調整，不僅那種老師和學生溝通較少、見面不足的論文指導模式將難乎為繼，論文本身在教學評價中的權重也可能迅速降低。到時，希望能有代替性的方案出來。”

上海人工智能研究院總工程師王資凱則告訴澎湃新聞記者：不必擔心。“今天的大語言模型對于教學的作用如同20世紀80、90年代出現的計算器和21世紀前十年時的搜索引擎。從現在的視角看，我想大家都不會覺得計算器的出現影響學生的計算能力，也不能說搜索引擎讓學生養成了壞習慣。總之，不能因為一項技術打破了原有模式便一邊倒地否定。”

在王資凱看來，與其擔心學生亂用工具，不如教師們先改變教學思路，引導學生利用好工具，同時要更注重培養學生的創造力以及批判性思維。

給教師的新思考：促進學生全面發展，而非僅僅傳遞知識

ChatGPT的出現也給教育工作者帶來教學上的新思考。有學者認為，ChatGPT自身仍有待更進一步的發展，也會變得更有創造性，到時或將成為人類自身的訓練伴侶。

“ChatGPT作為大模型應用的代表，會在潛移默化中影響用戶的認識過程和認知結果，我們要看到其釋放生產力，輔助人們更好工作和學習的一面，也要看到其挑戰現有秩序及模式的另一面。”華東師范大學經濟與管理學部教授、博士生導師，人文與社會科學研究院副院?許鑫談道，“我更加關心類似ChatGPT應用對于教育產生的影響以及我們可能的應對。我們要做促進學生全面發展的‘大先生’，而非僅僅是知識傳遞的‘教書匠’，因為ChatGPT已經幾乎能回答所有學生的各類知識性問題。”

華東師范大學軟件工程學院黨委副書記、教授、博士生導師曹桂濤認為，ChatGPT的出現確實引發了教師、軟件工程師等的職業擔憂。不過在他看來，教師在教學過程中通過提煉、歸納、總結知識，成為納百家之長、成一家之說的“原唱者”，因地制宜、因人而異地傳授知識給學生，這是ChatGPT無法達到的。

對ChatGPT提供知識的辨別和改進也或將成為師生們的課題之一。“我們注意到，ChatGPT在訓練過程中高薪聘請了大量的‘提示工程師’，通過‘標注’、巨量語料來模擬合成真實世界；ChatGPT可能會出現創造不存在的知識，或者主觀猜測提問者的意圖等問題，因而模型的優化仍將是一個持續的過程，這也需要人的智能和軟件工程師的長期努力。”曹桂濤說。

曹桂濤同時認為，人工智能可以擴展人類在處理事物復雜性方面的認知，而人類在處理事件不確定性方面提供更全面和直觀的方法，是人工智能無法超越的，通過兩者的互補性可以將人類的直覺和整體思維與人工智能在收集和分析信息方面的超強性能結合起來，“而且，人工智能的應用不是一個單純的技術問題，而是一個與算法治理、算法安全息息相關的復雜問題，在未來會有怎樣的具體應用和相應監管手段，還依賴各方的協同參與。”

往更深層面看，ChatGPT僅僅是一個網絡內容的搬運工甚至剽竊者嗎？或者說它其實也能創作？這是復旦大學新聞學院教授鄧建國探討的問題。“我的觀點是，概率性語言實踐和拼湊式創新自古以來就是人類的文化生產方式，無論ChatGPT被視為‘極具重復性’還是‘極具創造性甚至顛覆性’，人類都不應對之過分消極或興奮。”鄧建國將人們現在看到的ChatGPT看作是人類的“鏡中自我”——差別僅僅在于它比人類更加“人類”而已。

鄧建國認為，ChatGPT會不斷學習，變得更具創造性，進而對人類施加更多的創新壓力，“在人類未來的發展中，我們將能以ChatGPT為自己的訓練伴侶，不斷掀起超越AIGC（AI Generated Content，指利用人工智能技術來生成內容）的新浪漫主義運動，最終變得越來越具有創造性。”