中文字幕亚洲欧美日韩在线不卡,亚洲欧美日产综合在线网性色,思思久久精品6一本打道,综合视频中文字幕

    <sub id="dxmnt"><ol id="dxmnt"></ol></sub>

      1. Nature探討ChatGPT:學(xué)術(shù)圈使用不可避免,是時(shí)候明確使用規(guī)范

        更新時(shí)間:2023-02-12 08:05:21作者:智慧百科

        Nature探討ChatGPT:學(xué)術(shù)圈使用不可避免,是時(shí)候明確使用規(guī)范

        明敏 發(fā)自 凹非寺
        量子位 | 公眾號(hào) QbitAI

        在科技巨頭為了ChatGPT大打出手的另一邊,學(xué)術(shù)圈對(duì)于ChatGPT的關(guān)注也在升高。

        一周時(shí)間內(nèi),Nature連發(fā)兩篇文章探討ChatGPT及生成式AI。



        畢竟ChatGPT最早還是在學(xué)術(shù)圈內(nèi)掀起風(fēng)浪,先后有學(xué)者拿它寫(xiě)論文摘要、改論文。

        Nature為此專(zhuān)門(mén)頒布禁令:ChatGPT不能當(dāng)論文作者。Science則直接禁止投稿使用ChatGPT生成文本。

        但趨勢(shì)已擺在眼前。

        現(xiàn)在更應(yīng)該做的,或許是明確ChatGPT對(duì)于科學(xué)界的意義以及應(yīng)當(dāng)處于怎樣的身位。

        正如Nature所言:

        生成式AI及背后的技術(shù)發(fā)展如此之快,每個(gè)月都有創(chuàng)新出現(xiàn)。研究人員如何使用它們,將決定著技術(shù)和學(xué)界的未來(lái)。
        ChatGPT改變學(xué)術(shù)圈規(guī)則

        在《ChatGPT:五大優(yōu)先研究問(wèn)題》一文中,研究人員提出:

        無(wú)法阻止ChatGPT殺入學(xué)術(shù)圈,當(dāng)務(wù)之急應(yīng)該是研究探討它會(huì)帶來(lái)哪些潛在影響。

        如果后續(xù)ChatGPT被拿來(lái)設(shè)計(jì)實(shí)驗(yàn)、進(jìn)行同行審議、輔助出版、幫編輯決定是否要接收文章……這些應(yīng)用應(yīng)該注意哪些問(wèn)題?現(xiàn)在人類(lèi)需要明確哪些邊界?

        研究人員認(rèn)為,有5個(gè)方面需要優(yōu)先考慮,并解釋了原因。

        堅(jiān)持人類(lèi)審查

        ChatGPT等對(duì)話式AI的一大特點(diǎn),就是回答內(nèi)容的準(zhǔn)確性無(wú)法保證。而且編出來(lái)的瞎話都還很自然,容易對(duì)人產(chǎn)生誤導(dǎo)。

        比如,研究人員讓ChatGPT對(duì)一篇關(guān)于認(rèn)知行為療法(CBT)治療焦慮等癥狀是否有效的論文,并進(jìn)行總結(jié)概述。

        ChatGPT給出的回答中,存在很多事實(shí)性錯(cuò)誤。如它說(shuō)這項(xiàng)評(píng)估是基于46項(xiàng)研究,但實(shí)際上是69項(xiàng),而且夸大了CBT的有效性。



        研究人員認(rèn)為如果有學(xué)者使用了ChatGPT幫忙做研究,很可能被錯(cuò)誤信息誤導(dǎo)。甚至?xí)?dǎo)致學(xué)者在不知情的情況下,剽竊他人成果。

        因此,研究人員認(rèn)為在評(píng)審論文過(guò)程中,人類(lèi)不能過(guò)度依賴(lài)于自動(dòng)化系統(tǒng),最終還是要由人類(lèi)自己為科學(xué)實(shí)踐負(fù)責(zé)。

        制定問(wèn)責(zé)規(guī)則

        為了應(yīng)對(duì)生成式AI的濫用,很多鑒別AI文本工具陸續(xù)誕生,它們能很好分辨出一段文字是不是人類(lèi)自己寫(xiě)的。

        不過(guò),研究人員認(rèn)為這種“軍備賽”大可不必,真正要做的是讓學(xué)術(shù)圈、出版商能更加公開(kāi)透明地使用AI工具。



        論文作者應(yīng)該明確標(biāo)注哪些工作是AI承擔(dān)的,期刊如果使用AI審稿,也應(yīng)該公開(kāi)說(shuō)明。

        尤其是目前生成式AI已經(jīng)引發(fā)了關(guān)于專(zhuān)利問(wèn)題的討論,AI生成的圖像版權(quán)究竟該怎么算?

        那么對(duì)于AI生成的問(wèn)題,著作權(quán)應(yīng)該屬于為AI提供訓(xùn)練數(shù)據(jù)的人?AI背后的制作公司?還是用AI寫(xiě)文章的學(xué)者?作者身份的問(wèn)題,也需要嚴(yán)謹(jǐn)定義。

        投資真正開(kāi)放的LLM

        目前,幾乎所有先進(jìn)的對(duì)話式AI,都是科技巨頭們帶來(lái)的。

        關(guān)于AI工具背后算法的工作原理,很多都還不得而知。

        這也引發(fā)了社會(huì)各界的擔(dān)憂(yōu),因?yàn)榫揞^們的壟斷行為,嚴(yán)重違背了科學(xué)界開(kāi)放的原則。

        這將會(huì)影響學(xué)術(shù)圈探尋對(duì)話式AI的缺點(diǎn)和底層原理,進(jìn)一步影響科技的進(jìn)步。

        為了克服這種不透明性,研究人員認(rèn)為當(dāng)下應(yīng)該優(yōu)先考慮開(kāi)源AI算法的開(kāi)發(fā)和應(yīng)用。比如開(kāi)源大模型BLOOM,就是由1000位科學(xué)家聯(lián)合發(fā)起的,性能方面可以匹敵GPT-3。



        擁抱AI的優(yōu)點(diǎn)

        雖然有很多方面需要設(shè)限,但不可否認(rèn),AI確實(shí)能提升學(xué)術(shù)圈的效率。

        比如一些審查工作,AI可以快速搞定,而學(xué)者們就能更加專(zhuān)注于實(shí)驗(yàn)本身了,成果也能更快發(fā)表,從而推動(dòng)整個(gè)學(xué)術(shù)圈的腳步走得更快。

        甚至在一些創(chuàng)造性工作上,研究人員認(rèn)為AI也能有用武之地。

        1991年的一篇開(kāi)創(chuàng)性論文提出,人和AI之間形成的“智能伙伴關(guān)系”,可以勝過(guò)單獨(dú)人類(lèi)的智力和能力。
        這種關(guān)系能夠?qū)?chuàng)新加速到無(wú)法想象的水平。但問(wèn)題是,這種自動(dòng)化能走多遠(yuǎn)?應(yīng)該走多遠(yuǎn)?

        因此,研究人員也呼吁,包括倫理學(xué)家在內(nèi)的學(xué)者,必須就當(dāng)今AI在知識(shí)內(nèi)容生成方面的界限展開(kāi)討論,人類(lèi)的創(chuàng)造力和原創(chuàng)性可能仍舊是進(jìn)行創(chuàng)新研究必不可缺的因素。



        展開(kāi)大辯論

        鑒于當(dāng)下LLM帶來(lái)的影響,研究人員認(rèn)為學(xué)界應(yīng)該緊急組織一次大辯論。

        他們呼吁,每個(gè)研究小組都應(yīng)該立即開(kāi)組會(huì),討論并親自試試ChatGPT。大學(xué)老師應(yīng)該主動(dòng)和學(xué)生討論ChatGPT的使用和倫理問(wèn)題。

        在早期規(guī)則還沒(méi)有明確的階段,對(duì)于研究小組負(fù)責(zé)人來(lái)說(shuō),重要的是如何號(hào)召大家更公開(kāi)透明地使用ChatGPT,并開(kāi)始形成一些規(guī)則。以及應(yīng)該提醒所有研究人員,要對(duì)自己的工作負(fù)責(zé),無(wú)論它是否由ChatGPT生成。

        更進(jìn)一步,研究人員認(rèn)為要立即舉辦一個(gè)國(guó)際論壇,討論LLM的研究和使用問(wèn)題。

        成員應(yīng)該包括各個(gè)領(lǐng)域的科學(xué)家、科技公司、研究機(jī)構(gòu)投資方、科學(xué)院、出版商、非政府組織以及法律和隱私方面的專(zhuān)家。



        Nature:ChatGPT和AIGC對(duì)科學(xué)意味著什么

        興奮又擔(dān)憂(yōu),大概是許多研究人員對(duì)于ChatGPT的感受。

        發(fā)展到現(xiàn)在,ChatGPT已經(jīng)成為了許多學(xué)者的數(shù)字助手。

        計(jì)算生物學(xué)家Casey Greene等人,用ChatGPT來(lái)修改論文。5分鐘,AI就能審查完一份手稿,甚至連參考文獻(xiàn)部分的問(wèn)題也能發(fā)現(xiàn)。

        來(lái)自冰島的學(xué)者Hafsteinn Einarsson,幾乎每天都在用ChatGPT來(lái)幫他做PPT、檢查學(xué)生作業(yè)。

        還有神經(jīng)生物學(xué)家 Almira Osmanovic Thunstr?m覺(jué)得,語(yǔ)言大模型可以被用來(lái)幫學(xué)者們寫(xiě)經(jīng)費(fèi)申請(qǐng),科學(xué)家們能節(jié)省更多時(shí)間出來(lái)。



        不過(guò),Nature對(duì)ChatGPT輸出內(nèi)容做出了精辟總結(jié):

        流暢但不準(zhǔn)確。

        要知道,ChatGPT的一大缺點(diǎn),就是它生成的內(nèi)容不一定是真實(shí)準(zhǔn)確的,這會(huì)影響它在學(xué)術(shù)圈的使用效果。

        能解決嗎?

        從現(xiàn)在來(lái)看,答案有點(diǎn)撲朔迷離。

        OpenAI的競(jìng)爭(zhēng)對(duì)手Anthroic號(hào)稱(chēng)解決了ChatGPT的一些問(wèn)題,不過(guò)他們沒(méi)有接受Nature的采訪。

        Meta發(fā)布過(guò)一個(gè)名為Galactica的語(yǔ)言大模型,它由4800萬(wàn)篇學(xué)術(shù)論文、著作煉成,號(hào)稱(chēng)擅長(zhǎng)生成學(xué)術(shù)方面內(nèi)容,更懂研究問(wèn)題。不過(guò)現(xiàn)在它的demo已經(jīng)不開(kāi)放了(代碼還能用),因?yàn)橛脩?hù)在使用過(guò)程中發(fā)現(xiàn)它帶有種族歧視。

        即便是已經(jīng)被調(diào)教“乖巧”的ChatGPT,也可能會(huì)在刻意引導(dǎo)下輸出危險(xiǎn)言論。

        OpenAI讓ChatGPT變乖的方法也很簡(jiǎn)單粗暴,就是去找非常多的人工給語(yǔ)料標(biāo)注,有聲音認(rèn)為這種雇人看有毒語(yǔ)料的行為,也是一種剝削。



        但無(wú)論如何,ChatGPT及生成式AI,開(kāi)啟了人類(lèi)新的一扇想象之門(mén)。

        醫(yī)學(xué)學(xué)者埃里克·托普(Eric Topol)表示,他希望未來(lái)能有包含LLM的人工智能,可以交叉檢查學(xué)術(shù)文獻(xiàn)中的文本和圖像,從而幫助人類(lèi)診斷癌癥、理解疾病。當(dāng)然這一切要有專(zhuān)家做監(jiān)督。

        他說(shuō),真沒(méi)想到我們?cè)?023年年初,就看到了這樣的趨勢(shì)。

        而這才只是開(kāi)始。

        參考鏈接:
        [1]https://www.nature.com/articles/d41586-023-00340-6
        [2]https://www.nature.com/articles/d41586-023-00288-7


        為您推薦

        財(cái)聯(lián)社2月13日電,據(jù)“清廉浙江”通報(bào),物產(chǎn)中大公用環(huán)境投資有限公司原董事長(zhǎng)楊東偉涉嫌嚴(yán)重違法,目前正在接受杭州市上城區(qū)監(jiān)委監(jiān)察調(diào)查。

        財(cái)聯(lián)社2月13日電,據(jù)“清廉浙江”通報(bào),物產(chǎn)中大公用環(huán)境投資有限公司原董事長(zhǎng)楊東偉涉嫌嚴(yán)重違法,目前正在接受杭州市上城區(qū)監(jiān)委監(jiān)察調(diào)查。,杭州市,上城區(qū),楊東偉,浙江省,大運(yùn)河,物產(chǎn)中大,監(jiān)察調(diào)查,中國(guó)文物,中國(guó)世界遺產(chǎn)

        2023-02-13 17:12

        南昌高新區(qū):給予人才購(gòu)房補(bǔ)貼 最高800元/平米

        南昌高新區(qū):給予人才購(gòu)房補(bǔ)貼 最高800元/平米,

        2023-02-13 17:12

        科技企業(yè)高管談ChatGPT爆火:元宇宙概念很模糊,但已經(jīng)在用AI了

        科技企業(yè)高管談ChatGPT爆火:元宇宙概念很模糊,但已經(jīng)在用AI了,元宇宙,ai,chatgpt

        2023-02-13 17:12

        外交部介紹王毅訪俄目的和考慮:同俄方一道推動(dòng)雙邊關(guān)系

        外交部介紹王毅訪俄目的和考慮:同俄方一道推動(dòng)雙邊關(guān)系 ,王毅,中俄關(guān)系,汪文斌,外交部,中俄

        2023-02-13 17:10

        路博邁基金周平:保持敬畏之心,追求安全、穩(wěn)健且可復(fù)制的長(zhǎng)線收益

        路博邁基金周平:保持敬畏之心,追求安全、穩(wěn)健且可復(fù)制的長(zhǎng)線收益,外資,公募,長(zhǎng)線收益,路博邁基金,機(jī)構(gòu)調(diào)研記錄,周平(1968年)

        2023-02-13 17:08

        規(guī)模誠(chéng)可貴,業(yè)績(jī)價(jià)更高!限購(gòu)、增聘…這些熱門(mén)基金打出控規(guī)模組合拳!

        規(guī)模誠(chéng)可貴,業(yè)績(jī)價(jià)更高!限購(gòu)、增聘…這些熱門(mén)基金打出控規(guī)模組合拳!,廣發(fā),限購(gòu),增聘,和基金,基金產(chǎn)品,公募基金

        2023-02-13 17:08