2023成都積分入學什么時候開始申請
2023-01-31
花20分鐘用AI寫論文拿了A，為啥反作弊系統(tǒng)查不出來？
更新時間：2022-10-26 12:34:22作者：智慧百科
近日，Reddit論壇上一名大學一年級學生的課程論文拿了A——這并不稀奇，但事實上這篇論文是人工智能（AI）花不到20分鐘完成的，還通過了機器審查。就在幾個月前，AI才作為第一作者發(fā)表了一篇學術論文。
為什么AI生成的論文不能被機器識別出來？南都·AI前哨站了解到，目前的抄襲檢測軟件一般是通過與數(shù)據(jù)庫中的文本對比，判斷兩者是否存在大量重復內容的方式檢查論文是否為原創(chuàng)，但AI并非直接復制，而是根據(jù)給定的初始文本自行生成語句，不會被判定抄襲。
學生用AI寫作業(yè)，AI還能自己寫論文
近日，一位網(wǎng)名叫innovate_rye的大學生物化學學科一年級學生發(fā)帖稱，他利用AI完成了他的課程論文，并拿到了A的評分。
他將“寫出生物技術的五件好事和壞事”的論文要求提交給AI，不到20分鐘，AI就完成了過去需要他花費兩個小時的任務?！拔蚁矚g學習更多的東西，有時候重復地完成以前曾經(jīng)做過的作業(yè)讓我變得拖延，甚至不交作業(yè)?！?innovate_rye說，“對我來說，能夠更快、更高效地完成這些事是一項技能。”
有類似經(jīng)歷的還有高中生AeUsako。他用AI生成了一篇關于當代全球局勢的文章。在他的老師眼中，這份作業(yè)不能拿到高分的唯一原因只是沒有標明引用來源。
這些例子并非偶然。非營利性人工智能組織OpenAI為其語言模型GPT-3公布最新的應用編程接口后，越來越多的學生開始使用OpenAI的Playground和類似程序來完成課程論文的寫作。美國俄亥俄州一位中學語言教師告訴媒體：“學生使用AI生成或改寫作業(yè)的問題極為突出?！?/p>
作為業(yè)界公認的當前最先進的語言模型，GPT-3的神經(jīng)網(wǎng)絡包含1,750億個神經(jīng)，為全世界參數(shù)最多的神經(jīng)網(wǎng)絡模型。它能夠通過深度學習生成類人文本，根據(jù)給定的短語或句子作為初始文本生成下文。目前全世界已有300余個應用程序在使用這一語言模型，每天生成的文本規(guī)模超過45億字。
事實上，GPT-3能做的遠不止于幫學生寫作業(yè)。今年7月，它甚至成功提交了一篇關于其自身性能的學術論文。
學術檔案館HAL的公開信息顯示，該論文第一作者為AI模型GPT-3，人類研究員Almira則以第二作者身份署名。
據(jù)Amira介紹，她要求GPT-3“用500詞寫一篇關于GPT-3的學術論文，在正文中規(guī)范地添加參考文獻和引用”。兩個小時后，GPT-3完成了這篇論文，包括摘要、簡介、研究方法、結果、討論、結論等必要部分，并在最后的引用環(huán)節(jié)提到了5篇論文。
“內容完全以學術語言寫出，對于其他學術論文正確引用，行文流暢到幾乎找不到邏輯漏洞?！盇mira在看到結果時表示“驚呆了”。
抄襲檢測軟件無法識別，教師有辦法
AI寫論文背后的技術實質是AI系統(tǒng)學習人類的口語、書面語等“自然語言”，而后進行包括修改、生成等形式在內的處理，因此也被稱為自然語言處理（NLP）技術。機器翻譯、識別垃圾郵件、智能客服等在當下已經(jīng)并不鮮見的功能，都是依托這一技術得以實現(xiàn)。
然而相比起NLP技術的進步，更加引人注意的是，學生們借助語言模型GPT-3生成的文章無法被抄襲檢測軟件識別。
據(jù)了解，目前的抄襲檢測軟件是通過對比的方式檢查學生上傳的論文是否為其原創(chuàng)。AI會對文本進行識別，根據(jù)不同語義將全文分解成眾多相關段落，然后利用搜索引擎與數(shù)據(jù)庫中的文本進一步比較，判斷兩者是否存在大量重復內容。但GPT-3生成的文本并非從互聯(lián)網(wǎng)上已經(jīng)發(fā)表的文章復制而來，而是其根據(jù)使用者給定的短語、句子等初始文本自行生成，因此不會被抄襲檢測軟件識別。
“在不知道所有其他抄襲檢查工具如何工作，以及它們未來可能的發(fā)展的情況下，我不認為AI文本可以以這種方式被識別出來?！奔幽么髣?chuàng)新學習與技術研究主席、皇家大學副教授George Veletsianos表示。
不僅如此，由于GPT-3通過學習互聯(lián)網(wǎng)上大量文本優(yōu)化了輸出結果，其生成的文本有著近乎完美的語法，對于詞語的選擇也十分精當，已經(jīng)能夠與真人完成的寫作相媲美。
然而，在AI驅動的抄襲檢測軟件束手無策時，GPT-3這一特點也為經(jīng)驗豐富的教師們提供了新思路。“我通?？梢园l(fā)現(xiàn)作弊行為，因為那些學生的作業(yè)中使用了復雜的句子結構和大量的形容詞”，美國一位語言老師對媒體說，“大多數(shù)七年級的學生根本沒有這個水平?！?/p>
編譯：實習生梁丙鑒 南都記者蔣琳