深度學(xué)習(xí)時代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

近幾年,人工智能(AI)正成為繼互聯(lián)網(wǎng)之后又一走近百姓生活的技術(shù)。但實際上,AI并非是這幾年才有的新產(chǎn)物。AI之所以能在近年來走進(jìn)公眾的視野,如在安防中運用的人臉識別和語音識別展現(xiàn),或是能在醫(yī)療中提高醫(yī)生的傳統(tǒng)診斷效率,都要歸功于Deep Learning(深度學(xué)習(xí))算法。

2006年,深度學(xué)習(xí)由神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域領(lǐng)軍者Hinton提出,這一算法能使神經(jīng)網(wǎng)絡(luò)的能力大大提高。同年,Hinton和他的學(xué)生Salakhutdinov在頂尖學(xué)術(shù)刊物《Scince》上發(fā)表了一篇文章,開啟了深度學(xué)習(xí)在學(xué)術(shù)界和工業(yè)界的浪潮。

最近,在球最大的科學(xué)論文開源數(shù)據(jù)庫之一arXiv上,《麻省理工科技評論》收集了1993年到2018年11月18日這25年來的16625篇人工智能領(lǐng)域的論文。根據(jù)論文的摘要和關(guān)鍵詞,《麻省理工科技評論》分析了AI領(lǐng)域的發(fā)展趨勢,并指出:“深度學(xué)習(xí)的時代即將結(jié)束”。

深度學(xué)習(xí)時代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

arXiv網(wǎng)站1993年至2018年11月18日“人工智能”論文數(shù)量走勢圖

趨勢一:機器學(xué)習(xí)取代知識推理

通過這16625篇論文,研究者發(fā)現(xiàn)人工智能論文中,“邏輯”、“規(guī)則”等與知識系統(tǒng)相關(guān)的詞,數(shù)量開始下降,而“數(shù)據(jù)”、“網(wǎng)絡(luò)”、“性能”等與機器學(xué)習(xí)相關(guān)的詞匯出現(xiàn)的次數(shù)快速增長。這也意味著學(xué)者對這一領(lǐng)域的關(guān)注點從知識基礎(chǔ)推理轉(zhuǎn)向了機器學(xué)習(xí)。

深度學(xué)習(xí)時代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

深度學(xué)習(xí)時代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

從關(guān)鍵詞的出現(xiàn)頻率可以看出,以知識為基礎(chǔ)的推理相關(guān)詞語出現(xiàn)頻率降低,機器學(xué)習(xí)關(guān)鍵詞頻率增加。

報告分析了會出現(xiàn)這一現(xiàn)象的原因:80年代,很多知識系統(tǒng)需要人為編寫規(guī)則才能使得系統(tǒng)運行,這樣不僅效率低下,而且耗費了大量的人力成本。而機器學(xué)習(xí)可以從已知數(shù)據(jù)中去學(xué)習(xí)數(shù)據(jù)中蘊含的規(guī)律或自動提取規(guī)則,機器學(xué)習(xí)取代知識推理也就順其自然了。

趨勢二:神經(jīng)網(wǎng)絡(luò)掀起熱潮
報道還發(fā)現(xiàn),在新的機器學(xué)習(xí)范式下,深度學(xué)習(xí)并非立刻就取得了決定性的地位。神經(jīng)網(wǎng)絡(luò)、貝葉斯網(wǎng)絡(luò)、進(jìn)化算法、支持向量機等機器學(xué)習(xí)的各種方法在較長的一個時間段都有過競爭,直到2012年的一次突破。

2012年,在年度ImageNet大規(guī)模視覺識別挑戰(zhàn)賽(ILSVRC)期間,一位名叫Geoffrey Hinton的研究人員和他的同事們以超過10個百分點的驚人幅度實現(xiàn)了圖像識別的最佳準(zhǔn)確度。這項比賽的結(jié)果在人工智能學(xué)界引起了廣泛的震動,而他使用的技術(shù)——深度學(xué)習(xí),引發(fā)了一波新的研究。

深度學(xué)習(xí)時代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

2012年起,神經(jīng)網(wǎng)絡(luò)相關(guān)論文顯著增加

《麻省理工科技評論》的報告數(shù)據(jù)顯示,2012年神經(jīng)網(wǎng)絡(luò)相關(guān)論文在人工智能論文中所占的比例只有3%,而現(xiàn)如今已一路上升至2018年的27%。

趨勢三:強化學(xué)習(xí)的興起

這個領(lǐng)域另外一個令人關(guān)注的節(jié)點是2015年10月,當(dāng)時DeepMind的AlphaGo在圍棋游戲中以5:0的懸殊比分擊潰歐洲圍棋冠軍。

AlphaGo之所以能這么厲害得益于受到的強化學(xué)習(xí)訓(xùn)練,也是近年來人工智能的一個重要分支。強化學(xué)習(xí)會通過連續(xù)的反饋來調(diào)整自身的動作以獲得最優(yōu)結(jié)果,是一種不斷試錯的過程,這是動態(tài)學(xué)習(xí)。

深度學(xué)習(xí)時代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

最近幾年中,《麻省理工科技評論》發(fā)現(xiàn)有關(guān)化學(xué)習(xí)的論文數(shù)量比例2015年的4.7%上升為2018年的15.3%。

趨勢四:未來十年深度學(xué)習(xí)時代即將結(jié)束

根據(jù)《麻省理工科技評論》的報告,華盛頓大學(xué)計算機科學(xué)教授佩德羅·多明戈斯(Pedro Domingos)分析稱,在人工智能領(lǐng)域,基本上每十年都會看到不同技術(shù)的統(tǒng)治:80年代的知識型系統(tǒng)、90年代的貝葉斯網(wǎng)絡(luò)、00年代的矢量機器以及10年代的神經(jīng)網(wǎng)絡(luò)。

下一個十年應(yīng)該也不例外,深度學(xué)習(xí)時代可能很快就會結(jié)束。多明戈斯認(rèn)為,是舊技術(shù)重獲青睞還是會出現(xiàn)全新的技術(shù),他也不得而知。

資料參考:

We analyzed 16,625 papers to figure out where AI is headed next

來源:《麻省理工科技評論》