中文字幕亚洲欧美日韩在线不卡,亚洲欧美日产综合在线网性色,思思久久精品6一本打道,综合视频中文字幕

    <sub id="dxmnt"><ol id="dxmnt"></ol></sub>

      1. Keras之父:人腦耗能低于燈泡,為何「吊打」所有AI?

        更新時(shí)間:2022-06-16 16:55:45作者:佚名

        Keras之父:人腦耗能低于燈泡,為何「吊打」所有AI?


        新智元報(bào)道

        編輯:David Joey 如願(yuàn)

        【新智元導(dǎo)讀】Keras之父發(fā)推:人腦運(yùn)行效率很低,900億神經(jīng)元,同時(shí)干活的還不到10億,不到2%。你怎么看?

        近日,谷歌著名研究員、Keras框架創(chuàng)始人Francois Chollet在推特上發(fā)表了關(guān)于人腦運(yùn)行效率不高的看法,引發(fā)網(wǎng)友和研究人員的熱烈討論。

        他表示,人腦的運(yùn)行功率大概只有15w,還比不上普通的燈泡。雖然有900億個(gè)神經(jīng)元,但同時(shí)激活的不超過10億個(gè),不到2%。

        因此從全局來看,人的大腦的運(yùn)作效率的很低的。

        Francois Chollet是Tensorflow的知名貢獻(xiàn)者,是Wysp(主要是為藝術(shù)家提供學(xué)習(xí)繪畫的工具)的創(chuàng)建者和維護(hù)者,谷歌高級(jí)軟件工程師,Keras深度學(xué)習(xí)框架創(chuàng)始人。


        他撰寫的兩本深度學(xué)習(xí)的教材:「Python深度學(xué)習(xí)」和「R深度學(xué)習(xí)」是深度學(xué)習(xí)入門的必讀書,聞名世界。


        這樣一位大家,渾身還極具藝術(shù)氣息。在他的主頁上發(fā)布了很多古典音樂的片段,小編聽完后的感受整體評(píng)價(jià):舒心,洗掉了心浮氣躁的不安。


        作為AI圈出名的「社交活躍分子」,他的Twitter主頁一天之內(nèi)有時(shí)候可以發(fā)布十余條動(dòng)態(tài)。

        比如這次的主題就是:人腦的效率和利用率。

        Chollet表示:

        如果以「規(guī)模」的角度來看,人的大腦運(yùn)行頻率大概只有8-35赫茲,功率只有15瓦。雖然大腦內(nèi)有超過900億個(gè)神經(jīng)元,但在任何特定時(shí)候,通常只有10億個(gè)神經(jīng)元處于活躍狀態(tài)。

        這樣看來,我們的大腦是運(yùn)行非常緩慢的,一直在用很少的資源,做很多的事。


        大腦的能耗類似于一個(gè)LED節(jié)能燈,功率只有白熾燈的1/5。

        解決一個(gè)平均難度的ARC任務(wù)所涉及的神經(jīng)元的數(shù)量可能是幾十億個(gè),在幾秒鐘的時(shí)間內(nèi)。你最多可以發(fā)生數(shù)千億次的放電事件,能耗不到一卡路里。

        大腦在處理信息時(shí),很多時(shí)候是將視覺信號(hào)轉(zhuǎn)化為符號(hào)表示,且實(shí)現(xiàn)需要處理的符號(hào)數(shù)量是最小的,目前沒有任何機(jī)器可以做到這一點(diǎn)。

        迄今為止最高效的ARC求解器,必須查看數(shù)以百萬計(jì)的不同程序以找到候選解決方案。大腦不會(huì)這樣做,因?yàn)闆]有足夠的資源來考慮這么多的可能性,更不用說模擬了。

        另外,大部分的大腦活動(dòng)都是無意識(shí)的,與外部世界的互動(dòng)有關(guān)。有意識(shí)的推理部分只是冰山一角。然而,后者卻具有令人難以置信的力量。

        Chollet上面提到的「ARC求解器」,實(shí)際上是他2019年提出的一套關(guān)于衡量智能水平的新基準(zhǔn)。


        目前,AI界仍然傾向于通過比較AI和人類在特定任務(wù)(如下棋和打游戲)中表現(xiàn)出的技能來確定智能的基準(zhǔn)。

        Chollet認(rèn)為,僅僅衡量在任何特定任務(wù)中的技能并不能衡量智能,因?yàn)檫@種方式在很大程度上受到先驗(yàn)知識(shí)和經(jīng)驗(yàn)的影響。

        他提出了一個(gè)基于算法信息理論的智能的正式定義,將智能描述為「獲取技能的效率」,并強(qiáng)調(diào)了范圍、泛化難度、先驗(yàn)和經(jīng)驗(yàn)等概念。

        這個(gè)基準(zhǔn)稱為抽象與推理語料庫(kù)(ARC),建立在一套明確的、旨在盡可能接近人類先天性的預(yù)設(shè)的基礎(chǔ)上??梢杂脕頊y(cè)量類似于人類形式的智能,并能夠在AI系統(tǒng)和人類之間進(jìn)行公平比較。


        另外,對(duì)于目前越來越大的模型,和越來越多的參數(shù),Chollet認(rèn)為,深度學(xué)習(xí)模型中的參數(shù)數(shù)量和大腦中的神經(jīng)元數(shù)量之間沒有直接關(guān)系。

        但他認(rèn)為,模型參數(shù)數(shù)量本身是一個(gè)好的量度,只是要和其他生物學(xué)上的指標(biāo)聯(lián)系起來。


        比如對(duì)于大腦,大概可以使用「神經(jīng)放電次數(shù)」近似等于「開關(guān)事件數(shù)」,看看任務(wù)運(yùn)行期間總共發(fā)生了多少次放電事件,這樣的聯(lián)系可能更靠譜一些。

        這個(gè)關(guān)于大腦運(yùn)行效率和利用率的話題,也引起了網(wǎng)友的熱議。

        人腦只用了10%?是我們了解太少

        提起大腦的利用效率問題,其實(shí)一直有個(gè)玄而又玄的說法,說我們的大腦,其實(shí)只利用了10%。

        這個(gè)說法由來已久,而且流傳甚廣。根據(jù)2013年的一項(xiàng)調(diào)查,有65%的美國(guó)人相信這個(gè)觀點(diǎn)。

        到底對(duì)不對(duì)呢?

        《科學(xué)美國(guó)人》撰文指出,關(guān)于這個(gè)問題的爭(zhēng)論,最早源自美國(guó)心理學(xué)家William James,他在The Energies of Men一書中提出,我們只利用了人體的精神和身體資源的很小一部分。


        約翰霍普金斯大學(xué)醫(yī)學(xué)院的神經(jīng)學(xué)家Barry Gordon認(rèn)為,這個(gè)觀點(diǎn)是很可笑的。

        戈登說,這種觀點(diǎn)源自人們對(duì)自己大腦的看法:他們將自己在某方面的缺點(diǎn),視為他們大腦中存在未開發(fā)的灰質(zhì)的證據(jù)。這是一個(gè)錯(cuò)誤的假設(shè)。

        正確的說法是,在任何人的生命中的某些時(shí)刻,比如只是在休息和思考時(shí),我們可能只使用了10% 的大腦。

        事實(shí)上,我們幾乎使用了大腦的每個(gè)部分,大部分大腦幾乎一直處于活躍狀態(tài)。


        雖然,在任何特定時(shí)刻,大腦的所有區(qū)域不會(huì)同時(shí)放電,但目前研究已經(jīng)證明,跟肌肉一樣,大腦的大多數(shù)區(qū)域在24小時(shí)內(nèi)都會(huì)或多或少地進(jìn)入持續(xù)活躍的狀態(tài)。

        梅奧診所的神經(jīng)學(xué)家約翰·亨利表示:「研究表明,僅在一天內(nèi)看,人的大腦的每個(gè)區(qū)域都會(huì)被激活?!?/p>

        舉個(gè)簡(jiǎn)單的例子,比如早上倒一杯咖啡,在走向咖啡壺,伸手去拿,然后將咖啡倒入馬克杯的過程中,枕葉和頂葉、運(yùn)動(dòng)感覺和感覺運(yùn)動(dòng)皮層、基底神經(jīng)節(jié)、小腦和額葉都會(huì)被激活。

        在短短幾秒鐘內(nèi),就發(fā)生了幾乎覆蓋整個(gè)大腦的神經(jīng)活動(dòng)。

        目前,人類尚不清楚大腦不同區(qū)域的神經(jīng)元簇如何協(xié)作形成意識(shí)。另一個(gè)謎團(tuán)是,在所有大腦細(xì)胞中,只有 10% 是神經(jīng)元;另外 90% 是神經(jīng)膠質(zhì)細(xì)胞,它們封裝并協(xié)助神經(jīng)元,但其功能在很大程度上仍然未知。

        所以結(jié)論是:并不是我們只使用了 10% 的大腦,而是我們只了解了它大約10%的功能。

        參考資料:

        https://www.scientificamerican.com/article/do-people-only-use-10-percent-of-their-brains/

        https://twitter.com/fchollet/status/1536486937288376320

        https://threadreaderapp.com/thread/1536486937288376320?refresh=1655275605

        https://fchollet.com/

        本文標(biāo)簽: keras  細(xì)胞  深度學(xué)習(xí)  神經(jīng)元  ai