2023成都積分入學(xué)什么時候開始申請
2023-01-31
亞馬遜警告員工不要向ChatGPT分享機(jī)密，包括正在寫的代碼
更新時間：2023-01-25 16:05:16作者：智慧百科
1月25日消息，自從人工智能研究公司OpenAI于2022年11月發(fā)布AI聊天機(jī)器人ChatGPT以來，后者在科技領(lǐng)域受到熱捧，但科技巨頭亞馬遜卻對其充滿了警惕，甚至警告員工不要與ChatGPT分享機(jī)密信息。
亞馬遜內(nèi)部Slack頻道有許多員工關(guān)于如何使用ChatGPT的問題。有些員工詢問亞馬遜，是否制定了關(guān)于在工作設(shè)備上使用ChatGPT的官方指導(dǎo)。而其他人則想知道，他們是否被允許使用AI工具工作。一位員工敦促亞馬遜云計(jì)算部門AWS澄清其對使用“生成性AI（AIGC）工具”的立場。
很快，亞馬遜一名公司律師加入了討論。Slack頻道的內(nèi)部交流截圖顯示，這位律師警告員工不要向ChatGPT提供“任何亞馬遜機(jī)密信息”，包括正在編寫的亞馬遜代碼。他還建議員工遵循公司現(xiàn)有的保密政策，因?yàn)镃hatGPT的某些回復(fù)看起來與亞馬遜內(nèi)部情況十分相似。
這位律師寫道：“這一點(diǎn)至關(guān)重要，因?yàn)槟愕妮斎肟赡軙挥米鰿hatGPT的迭代訓(xùn)練數(shù)據(jù)，我們不希望它的輸出中包含或類似于我們的機(jī)密信息?！?/p>
這些交流表明，ChatGPT突然出現(xiàn)后引發(fā)了許多新的倫理問題。ChatGPT是一種對話式AI工具，可以用更清晰、更智能化的答案回應(yīng)查詢。ChatGPT的迅速擴(kuò)散有可能顛覆多個行業(yè)，包括媒體、學(xué)術(shù)和醫(yī)療保健行業(yè)等，促使人們努力尋找聊天機(jī)器人的新用例及其可能產(chǎn)生的影響。
員工如何與ChatGPT共享機(jī)密信息，以及其開發(fā)者OpenAI如何處理這些信息，可能會成為非常棘手的問題。這對亞馬遜來說尤其重要，因?yàn)槠渲饕偁帉κ治④浺呀?jīng)在OpenAI投入了大量資金，包括本周新一輪的融資，據(jù)報(bào)道總計(jì)達(dá)100億美元。
在華盛頓大學(xué)教授計(jì)算語言學(xué)的艾米麗·本德（Emily Bender）說：“OpenAI在如何使用數(shù)據(jù)方面還遠(yuǎn)遠(yuǎn)不夠透明，但如果這些數(shù)據(jù)被用于訓(xùn)練，我預(yù)計(jì)企業(yè)會這樣想：在廣泛使用ChatGPT幾個月后，是否可能通過精心設(shè)計(jì)的提示來獲取私人公司的機(jī)密信息？”
亞馬遜為員工使用ChatGPT設(shè)置了許多內(nèi)部防護(hù)措施。例如，交流的信息截圖顯示，當(dāng)員工使用工作設(shè)備訪問ChatGPT網(wǎng)站時，會彈出一條警告消息，稱他們即將訪問一項(xiàng)第三方服務(wù)，該服務(wù)“可能未被亞馬遜安全部門批準(zhǔn)使用”。
參與Slack頻道聊天的員工表示，他們只需點(diǎn)擊“Acknowledge”選項(xiàng)卡，就可以繞過這條消息。工作人員猜測，該警告彈出窗口是為了防止員工將機(jī)密信息粘貼到ChatGPT上，特別是因?yàn)樗麄冞€沒有看到公司關(guān)于內(nèi)部使用的政策。
盡管如此，有些亞馬遜員工已經(jīng)在將AI工具用作軟件“編碼助手”，以幫助改進(jìn)內(nèi)部代碼行。一位亞馬遜員工在Slack頻道上寫道：“我認(rèn)為，如果現(xiàn)在能直接使用這一功能，那就太棒了！因此，任何指導(dǎo)意見都將是非常棒的?！?/p>
既擔(dān)憂又興奮
另一名員工說，他在ChatGPT上分享了亞馬遜對一個公開編程職位的面試問題。根據(jù)這位員工在Slack上的帖子，該AI模型為其中幾個技術(shù)問題提供了正確的解決方案。他說：“看到這將對我們進(jìn)行編程面試的方式產(chǎn)生什么影響，我既感到擔(dān)憂又覺得興奮。”
總體而言，參與Slack頻道聊天的亞馬遜員工對ChatGPT的潛力感到興奮，并想知道亞馬遜是否正在開發(fā)與之競爭的產(chǎn)品。警告員工不要使用ChatGPT的公司律師表示，亞馬遜正在加速開發(fā)“類似的技術(shù)”，并引用了語音助手Alexa和代碼推薦服務(wù)CodeWhisperer為例。
一名AWS員工寫道，Enterprise Support團(tuán)隊(duì)最近在內(nèi)部成立了小型工作組，以“了解高級聊天AI對我們業(yè)務(wù)的影響”。研究顯示，ChatGPT在回答AWS支持問題方面“表現(xiàn)非常好”，包括解決Aurora數(shù)據(jù)庫問題等。與此同時，它在為AWS認(rèn)證的云架構(gòu)師考試創(chuàng)建培訓(xùn)材料方面、提出客戶的公司目標(biāo)方面也非常出色。
“遠(yuǎn)不夠透明”
華盛頓大學(xué)的本德表示，在工作中越來越多地使用ChatGPT引發(fā)了嚴(yán)重的問題，即OpenAI計(jì)劃如何使用與AI工具共享的材料。
OpenAI的服務(wù)條款要求用戶同意其可以使用用戶和ChatGPT所產(chǎn)生的所有輸入和輸出。它還表示，OpenAI從使用的數(shù)據(jù)中刪除了所有個人身份信息(PII)。
但本德稱，考慮到ChatGPT的規(guī)模迅速增長，在推出一周內(nèi)就突破了100萬用戶，很難看出OpenAI如何識別和刪除所有個人信息。更重要的是，公司的知識產(chǎn)權(quán)可能不屬于PII定義的一部分。
對于亞馬遜的員工來說，數(shù)據(jù)隱私似乎是他們最不關(guān)心的問題。他們說，在工作中使用聊天機(jī)器人已經(jīng)使工作效率提高了10倍，許多人都希望能加入開發(fā)類似服務(wù)的內(nèi)部團(tuán)隊(duì)。
其中一名員工在Slack上寫道：“如果現(xiàn)在有建立類似服務(wù)的計(jì)劃，我非常希望能加入其中，在有需要的時候略盡綿薄之略?！保ㄐ⌒。?/p>