鷺島論壇
數(shù)據(jù)智能系列講座第4期
「預(yù)訓(xùn)練的基礎(chǔ)模型下的持續(xù)學(xué)習(xí)」
10月30日(周三) 20:00
精彩開(kāi)播
期待與您云相聚,共襄學(xué)術(shù)盛宴!
| 直播信息
報(bào)告題目
預(yù)訓(xùn)練的基礎(chǔ)模型下的持續(xù)學(xué)習(xí)
報(bào)告簡(jiǎn)介
雖然近年來(lái)神經(jīng)網(wǎng)絡(luò),特別是預(yù)訓(xùn)練的基礎(chǔ)模型研究得到了廣泛的應(yīng)用,但其仍然主要依賴(lài)于在大量樣本上的批量式訓(xùn)練。
本報(bào)告將探討實(shí)現(xiàn)模型的增量式訓(xùn)練,針對(duì)深度神經(jīng)網(wǎng)絡(luò)在增量式學(xué)習(xí)新任務(wù)時(shí)所面臨的"災(zāi)難性遺忘"問(wèn)題,介紹如何在預(yù)訓(xùn)練的基礎(chǔ)模型上進(jìn)行連續(xù)學(xué)習(xí),包括基于重放的遺忘抑制機(jī)制、基于模型高效微調(diào)的連續(xù)學(xué)習(xí)框架,以及連續(xù)學(xué)習(xí)在計(jì)算機(jī)視覺(jué)上任務(wù)上的應(yīng)用和部署等。
報(bào)告嘉賓
洪曉鵬
哈爾濱工業(yè)大學(xué)教授
特邀主持
黃禮泊
中國(guó)科學(xué)院計(jì)算技術(shù)研究所
特別研究助理
講座時(shí)間
2024年10月30日(周三)2010
講座環(huán)節(jié)及流程
?講座環(huán)節(jié):
① 5 分鐘主持人進(jìn)行主題與嘉賓介紹
②55分鐘報(bào)告嘉賓講座環(huán)節(jié)
③ 10分鐘互動(dòng)問(wèn)答環(huán)節(jié)
?講座流程:
① 19:45 開(kāi)芯會(huì)視頻號(hào)上線,歡迎觀眾朋友提前進(jìn)入直播間候場(chǎng)
② 20:00 主持人開(kāi)場(chǎng)
③ 20:05 主講嘉賓開(kāi)始講座,持續(xù)55min
注:【在講座過(guò)程中歡迎觀眾朋友通過(guò)各直播平臺(tái)進(jìn)行提問(wèn)工作人員將收集和整理問(wèn)題】
③ 21:00主持人根據(jù)工作團(tuán)隊(duì)整理的問(wèn)題與嘉賓進(jìn)行問(wèn)答互動(dòng),持續(xù)10min
講座形式
視頻號(hào)、B站、電子發(fā)燒友、蔻享學(xué)術(shù)等多平臺(tái)同步直播
點(diǎn)擊預(yù)約精彩不容錯(cuò)過(guò)!
直播海報(bào)
報(bào)告嘉賓
洪曉鵬
哈爾濱工業(yè)大學(xué)教授, IEEE資深會(huì)員。歷任芬蘭Oulu大學(xué)博士后、科研型副教授(Docent)和西安交通大學(xué)特聘研究員。斯坦福大學(xué)全球前2%頂尖科學(xué)家年度榜單入選者。已在頂級(jí)國(guó)際和國(guó)內(nèi)刊物和國(guó)際會(huì)議上發(fā)表文章80余篇,相關(guān)工作見(jiàn)諸美國(guó)《麻省理工技術(shù)評(píng)論》等技術(shù)媒體專(zhuān)文報(bào)道。2次獲得領(lǐng)域內(nèi)國(guó)際權(quán)威期刊和會(huì)議的優(yōu)秀論文獎(jiǎng),5次帶隊(duì)獲得國(guó)際評(píng)測(cè)冠軍。作為負(fù)責(zé)人主持了國(guó)家重點(diǎn)研發(fā)計(jì)劃課題、國(guó)家自然科學(xué)基金、芬蘭信息學(xué)會(huì)博士后基金等10余個(gè)項(xiàng)目。多次受邀擔(dān)任ACM MM 、 AAAI/IJCAI的領(lǐng)域主席或資深程序委員以及CVIU和IVC等國(guó)際主流期刊的編委。中國(guó)圖像與圖形學(xué)學(xué)會(huì)情感計(jì)算與理解專(zhuān)業(yè)委員會(huì)副秘書(shū)長(zhǎng),黑龍江省計(jì)算機(jī)學(xué)會(huì)學(xué)術(shù)工作委員會(huì)副主任、獎(jiǎng)勵(lì)工作委員會(huì)秘書(shū)長(zhǎng)。目前的研究領(lǐng)域包括:多模態(tài)目標(biāo)感知、深度連續(xù)學(xué)習(xí)、智能決策與任務(wù)分配等。
主持嘉賓
黃禮泊
博士,中國(guó)科學(xué)院計(jì)算技術(shù)研究所特別研究助理。主要研究領(lǐng)域?yàn)?a href="http://m.xsypw.cn/v/tag/557/" target="_blank">機(jī)器學(xué)習(xí)理論和深度學(xué)習(xí)應(yīng)用,尤其是無(wú)監(jiān)督學(xué)習(xí)、持續(xù)學(xué)習(xí)、最優(yōu)化理論等方面的研究。在包括IEEE Transactions系列、AAAI、ICLR、CVPR、NeurIPS等國(guó)內(nèi)外期刊和會(huì)議上發(fā)表論文20余篇。作為負(fù)責(zé)人承擔(dān)國(guó)家領(lǐng)域預(yù)研課題、國(guó)家公派留學(xué)基金、北京市自然科學(xué)基金青年基金等多個(gè)項(xiàng)目。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4779瀏覽量
101171 -
數(shù)據(jù)
+關(guān)注
關(guān)注
8文章
7139瀏覽量
89578 -
模型
+關(guān)注
關(guān)注
1文章
3305瀏覽量
49221
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論