深度學(xué)習(xí)時(shí)代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

近幾年,人工智能(AI)正成為繼互聯(lián)網(wǎng)之后又一走近百姓生活的技術(shù)。但實(shí)際上,AI并非是這幾年才有的新產(chǎn)物。AI之所以能在近年來(lái)走進(jìn)公眾的視野,如在安防中運(yùn)用的人臉識(shí)別和語(yǔ)音識(shí)別展現(xiàn),或是能在醫(yī)療中提高醫(yī)生的傳統(tǒng)診斷效率,都要?dú)w功于Deep Learning(深度學(xué)習(xí))算法。

2006年,深度學(xué)習(xí)由神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域領(lǐng)軍者Hinton提出,這一算法能使神經(jīng)網(wǎng)絡(luò)的能力大大提高。同年,Hinton和他的學(xué)生Salakhutdinov在頂尖學(xué)術(shù)刊物《Scince》上發(fā)表了一篇文章,開(kāi)啟了深度學(xué)習(xí)在學(xué)術(shù)界和工業(yè)界的浪潮。

最近,在球最大的科學(xué)論文開(kāi)源數(shù)據(jù)庫(kù)之一arXiv上,《麻省理工科技評(píng)論》收集了1993年到2018年11月18日這25年來(lái)的16625篇人工智能領(lǐng)域的論文。根據(jù)論文的摘要和關(guān)鍵詞,《麻省理工科技評(píng)論》分析了AI領(lǐng)域的發(fā)展趨勢(shì),并指出:“深度學(xué)習(xí)的時(shí)代即將結(jié)束”。

深度學(xué)習(xí)時(shí)代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

arXiv網(wǎng)站1993年至2018年11月18日“人工智能”論文數(shù)量走勢(shì)圖

趨勢(shì)一:機(jī)器學(xué)習(xí)取代知識(shí)推理

通過(guò)這16625篇論文,研究者發(fā)現(xiàn)人工智能論文中,“邏輯”、“規(guī)則”等與知識(shí)系統(tǒng)相關(guān)的詞,數(shù)量開(kāi)始下降,而“數(shù)據(jù)”、“網(wǎng)絡(luò)”、“性能”等與機(jī)器學(xué)習(xí)相關(guān)的詞匯出現(xiàn)的次數(shù)快速增長(zhǎng)。這也意味著學(xué)者對(duì)這一領(lǐng)域的關(guān)注點(diǎn)從知識(shí)基礎(chǔ)推理轉(zhuǎn)向了機(jī)器學(xué)習(xí)。

深度學(xué)習(xí)時(shí)代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

深度學(xué)習(xí)時(shí)代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

從關(guān)鍵詞的出現(xiàn)頻率可以看出,以知識(shí)為基礎(chǔ)的推理相關(guān)詞語(yǔ)出現(xiàn)頻率降低,機(jī)器學(xué)習(xí)關(guān)鍵詞頻率增加。

報(bào)告分析了會(huì)出現(xiàn)這一現(xiàn)象的原因:80年代,很多知識(shí)系統(tǒng)需要人為編寫(xiě)規(guī)則才能使得系統(tǒng)運(yùn)行,這樣不僅效率低下,而且耗費(fèi)了大量的人力成本。而機(jī)器學(xué)習(xí)可以從已知數(shù)據(jù)中去學(xué)習(xí)數(shù)據(jù)中蘊(yùn)含的規(guī)律或自動(dòng)提取規(guī)則,機(jī)器學(xué)習(xí)取代知識(shí)推理也就順其自然了。

趨勢(shì)二:神經(jīng)網(wǎng)絡(luò)掀起熱潮
報(bào)道還發(fā)現(xiàn),在新的機(jī)器學(xué)習(xí)范式下,深度學(xué)習(xí)并非立刻就取得了決定性的地位。神經(jīng)網(wǎng)絡(luò)、貝葉斯網(wǎng)絡(luò)、進(jìn)化算法、支持向量機(jī)等機(jī)器學(xué)習(xí)的各種方法在較長(zhǎng)的一個(gè)時(shí)間段都有過(guò)競(jìng)爭(zhēng),直到2012年的一次突破。

2012年,在年度ImageNet大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)賽(ILSVRC)期間,一位名叫Geoffrey Hinton的研究人員和他的同事們以超過(guò)10個(gè)百分點(diǎn)的驚人幅度實(shí)現(xiàn)了圖像識(shí)別的最佳準(zhǔn)確度。這項(xiàng)比賽的結(jié)果在人工智能學(xué)界引起了廣泛的震動(dòng),而他使用的技術(shù)——深度學(xué)習(xí),引發(fā)了一波新的研究。

深度學(xué)習(xí)時(shí)代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

2012年起,神經(jīng)網(wǎng)絡(luò)相關(guān)論文顯著增加

《麻省理工科技評(píng)論》的報(bào)告數(shù)據(jù)顯示,2012年神經(jīng)網(wǎng)絡(luò)相關(guān)論文在人工智能論文中所占的比例只有3%,而現(xiàn)如今已一路上升至2018年的27%。

趨勢(shì)三:強(qiáng)化學(xué)習(xí)的興起

這個(gè)領(lǐng)域另外一個(gè)令人關(guān)注的節(jié)點(diǎn)是2015年10月,當(dāng)時(shí)DeepMind的AlphaGo在圍棋游戲中以5:0的懸殊比分擊潰歐洲圍棋冠軍。

AlphaGo之所以能這么厲害得益于受到的強(qiáng)化學(xué)習(xí)訓(xùn)練,也是近年來(lái)人工智能的一個(gè)重要分支。強(qiáng)化學(xué)習(xí)會(huì)通過(guò)連續(xù)的反饋來(lái)調(diào)整自身的動(dòng)作以獲得最優(yōu)結(jié)果,是一種不斷試錯(cuò)的過(guò)程,這是動(dòng)態(tài)學(xué)習(xí)。

深度學(xué)習(xí)時(shí)代即將結(jié)束? 16625篇論文梳理AI發(fā)展史-肽度TIMEDOO

最近幾年中,《麻省理工科技評(píng)論》發(fā)現(xiàn)有關(guān)化學(xué)習(xí)的論文數(shù)量比例2015年的4.7%上升為2018年的15.3%。

趨勢(shì)四:未來(lái)十年深度學(xué)習(xí)時(shí)代即將結(jié)束

根據(jù)《麻省理工科技評(píng)論》的報(bào)告,華盛頓大學(xué)計(jì)算機(jī)科學(xué)教授佩德羅·多明戈斯(Pedro Domingos)分析稱(chēng),在人工智能領(lǐng)域,基本上每十年都會(huì)看到不同技術(shù)的統(tǒng)治:80年代的知識(shí)型系統(tǒng)、90年代的貝葉斯網(wǎng)絡(luò)、00年代的矢量機(jī)器以及10年代的神經(jīng)網(wǎng)絡(luò)。

下一個(gè)十年應(yīng)該也不例外,深度學(xué)習(xí)時(shí)代可能很快就會(huì)結(jié)束。多明戈斯認(rèn)為,是舊技術(shù)重獲青睞還是會(huì)出現(xiàn)全新的技術(shù),他也不得而知。

資料參考:

We analyzed 16,625 papers to figure out where AI is headed next

來(lái)源:《麻省理工科技評(píng)論》