在論壇開場之初，戴文淵引出主題：機(jī)器學(xué)習(xí)的明天是一個很難的問題，公眾關(guān)心更多的可能是機(jī)器學(xué)習(xí)或深度學(xué)習(xí)，以及隨阿法狗出現(xiàn)火起來的強(qiáng)化深度學(xué)習(xí)。機(jī)器學(xué)習(xí)的明天很可能是今天大家看來是一個冷板凳的領(lǐng)域，正如20年前的深度學(xué)習(xí)。因此今天要談的明天的機(jī)器學(xué)習(xí)，戴文淵認(rèn)為一定不是深度學(xué)習(xí)。因此，本次論壇要探討的很可能是一個在大家看來會覺得離應(yīng)用很遠(yuǎn)、很不現(xiàn)實(shí)的事物，但是很可能會成為十年后重要機(jī)器學(xué)習(xí)方向之一。
? ? ? ?今日頭條科學(xué)家李磊帶來的演講是《會思考的通用智能機(jī)器還有多遠(yuǎn)？》。在演講中，李磊主要對人工智能是什么？人工智能發(fā)展到什么程度以及面臨的挑戰(zhàn)三個方面進(jìn)行了闡述，李磊首先闡述了對人工智能的兩種定義：類人智能和理性智能。類人智能的目標(biāo)是讓機(jī)器像人那樣思考、決策、解決問題，具備學(xué)習(xí)能力和行動能力。理性智能是研究如何通過計(jì)算方法達(dá)到合理的感知、決策、解決問題、學(xué)習(xí)和行為能力。不是和人去比較，而是把計(jì)算看成自然現(xiàn)象。

　　人工智能要研究的內(nèi)容十分廣泛，包括知識表示、形式化推理、規(guī)劃與決策、機(jī)器學(xué)習(xí)、理解文字、自然語言（人類語言）、語音識別與合成、理解圖像、視覺感知以及機(jī)器人控制。目前人工智能在某些具體任務(wù)上達(dá)到或超過人類能力，但通用型智能還有漫漫長路。

　　李磊介紹到頭條最近發(fā)布了一款奧運(yùn)機(jī)器人，可以在奧運(yùn)期間自動發(fā)布了450條新聞。他談到經(jīng)過過去多次的實(shí)踐證明：深度學(xué)習(xí)加大數(shù)據(jù)可以較好地解決監(jiān)督學(xué)習(xí)的問題。

　　深度學(xué)習(xí)從人腦解決問題的的思路出發(fā)，創(chuàng)造了人工神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)單元的概念，隨著層數(shù)的加深，神經(jīng)網(wǎng)絡(luò)能夠完成一些合理對話之類的任務(wù)。但是仍需注意人工智能和機(jī)器學(xué)習(xí)不僅僅是監(jiān)督學(xué)習(xí)和深度學(xué)習(xí)，要解決的問題其實(shí)更多，目前的深度學(xué)習(xí)還有很大的局限性，例如依賴大量標(biāo)注數(shù)據(jù)，并且這些數(shù)據(jù)的獲取代價(jià)非常高；此外，目前的深度學(xué)習(xí)的通用性還不夠強(qiáng)。

　　最后，李磊總結(jié)了明天機(jī)器學(xué)習(xí)需要突破的三個方面：

　　需要有可解釋性的機(jī)器學(xué)習(xí)，當(dāng)機(jī)器學(xué)習(xí)模型成功和失敗的時候，需要知道它成功或者失敗的原因；機(jī)器學(xué)習(xí)能夠做更多的推理，而不僅僅是簡單的判斷；過去做深度學(xué)習(xí)時需要很多的計(jì)算集群，需要耗費(fèi)大量的能力，未來的是否可以實(shí)現(xiàn)在不影響性能的情況下實(shí)現(xiàn)單位能耗呢？

　　林宙辰：機(jī)器學(xué)習(xí)一階優(yōu)化算
? ? ? ?北京大學(xué)信息科學(xué)技術(shù)學(xué)院機(jī)器感知與智能教育部重點(diǎn)實(shí)驗(yàn)室教授林宙辰帶來的分享是 《機(jī)器學(xué)習(xí)一階優(yōu)化算法》。他主要分享了機(jī)器學(xué)習(xí)在過去、現(xiàn)在、未來的優(yōu)化方面的問題。從上個世紀(jì)90年代，優(yōu)化技術(shù)就已經(jīng)發(fā)展的比較完備了。在此之前，可以劃分為兩個階段，第一階段到上世界60年代，此前的優(yōu)化方法較為緩慢；在60年代到90年代，隨著計(jì)算機(jī)的發(fā)明，有著很大進(jìn)展。

　　按照當(dāng)時所用信息類別可以劃分為三類：

　　第一類是只用目標(biāo)函數(shù)的方法；第二類是一階的方法，也就是目標(biāo)函數(shù)和梯度方法；第三類是二階方法，如Newton’s Methods、Sequential Quadratic Programming、Interior Point Methods。

　　接著，林宙辰談到了選擇一階方法的兩個原因，并認(rèn)為一階的方法是機(jī)器學(xué)習(xí)里面一個主流的學(xué)習(xí)方法。

　　因?yàn)橐浑A方法對數(shù)字精度的要求不太高；一階方法的存儲和和計(jì)算的成本較低。

　　從90年代到現(xiàn)在，主要是對一些現(xiàn)有的方法進(jìn)行復(fù)興和更好的改進(jìn)。接著，他總結(jié)了一階方法從過去到現(xiàn)在的研究進(jìn)展，主要包括六個方面：

　　Smooth -》 Nonsmooth：光滑可以對每一個點(diǎn)選一個梯度，選非光滑就不能選梯度，那么次梯度就比較慢，現(xiàn)在就是使用Proximal； Convex -》 Nonconvex：首先一般只能證明非真的，如果好一點(diǎn)就每個據(jù)點(diǎn)都會收到臨界點(diǎn)上面，2012年開始有一個非常好的理論突破，就是把這個幾何理論引入到優(yōu)化里面，常用的函數(shù)基本都屬于這種函數(shù)類型；Deterministic -》 Stochastic：在大數(shù)據(jù)情況下，很難能夠有計(jì)算量支持確定性，所以只能隨機(jī)抽取一些樣本來算，2013年張老師提出來方差下降，可以進(jìn)行加速； One/Two Blocks -》 Multiple Blocks：如果是一個或者兩個Block可以作為一個交界；Synchronous -》 Asynchronous：同步會導(dǎo)致很多機(jī)器要等著其他的機(jī)器算完之后才能進(jìn)行分析，所以需要異步； Convergence & Convergence Rate：Convergence Rate分析方面有更好的技術(shù)，尤其是加速差值技巧。

　　演講結(jié)尾，林宙辰表示，未來的機(jī)器研究方面會集中在兩個方向：

　　計(jì)算的規(guī)模會進(jìn)一步增加，需要采用完全隨機(jī)的方式進(jìn)行，否則大數(shù)據(jù)之下是無法完成這些計(jì)算的；利用量子計(jì)算的方法來參與規(guī)劃，可以在兩個層面進(jìn)行：

　　將傳統(tǒng)的算法每個步驟進(jìn)行量子化；在整體上設(shè)計(jì)量子的算法。

相關(guān)電子資料下載

• 如何創(chuàng)建FPGA控制的機(jī)器人手臂 49
• 機(jī)器學(xué)習(xí)需要掌握的九種工具盤點(diǎn) 16
• Hugging Face被限制訪問 404
• 《人工智能在指揮和控制系統(tǒng)中的決策支持》 133
• 生成式人工智能和機(jī)器學(xué)習(xí)正在這9個學(xué)科中打造未來 216
• 智慧礦山AI算法帶你解決皮帶運(yùn)行難題！ 51
• 人工智能領(lǐng)域存在第一性原理嗎？ 53
• 英特爾啟動首個AI PC加速計(jì)劃，目標(biāo)2025年前為超100萬臺PC提供AI特性 223
• PLC就是邏輯控制嗎？PLC的網(wǎng)絡(luò)通信怎么樣？ 51
• 機(jī)器學(xué)習(xí)常用的5種采樣方法盤點(diǎn) 45