為什么要使用預訓練模型？8種優(yōu)秀預訓練模型大盤點

正如我們在本文中所述，ULMFiT使用新穎的NLP技術(shù)取得了令人矚目的成果。該方法對預訓練語言模型進行微調(diào)，將其在WikiText-103數(shù)據(jù)集（維基百...

2019-04-04 標簽：數(shù)據(jù)集自然語言處理nlp 2.4萬 0

NLP中CNN模型常見的Pooling操作方法及其典型網(wǎng)絡(luò)結(jié)構(gòu)

CNN是目前自然語言處理中和RNN并駕齊驅(qū)的兩種最常見的深度學習模型。圖1展示了在NLP任務(wù)中使用CNN模型的典型網(wǎng)絡(luò)結(jié)構(gòu)。一般而言，輸入的字或者詞用W...

2017-11-15 標簽：cnnnlp 1.5萬 0

實體關(guān)系聯(lián)合抽取取得SOTA的三種方法

2020實體關(guān)系聯(lián)合抽取一片紅海，各種SOTA方法你方唱罷我方登場，在一些數(shù)據(jù)集上也是不斷刷出新高度，為信息抽取領(lǐng)域帶來了新思路，推動了信息抽取領(lǐng)域的發(fā)...

2021-02-10 標簽：深度學習自然語言nlp 1.3萬 0

谷歌開源了一個強大的NLP深度學習框架Lingvo

Lingvo 是一個 Tensorflow 框架，為協(xié)作式深度學習研究提供了一個完整的解決方案，特別側(cè)重于 sequence-to-sequence 模...

2019-02-27 標簽：谷歌深度學習nlp 1.2萬 0

當云計算飛向深空 全面的太空及衛(wèi)星互聯(lián)還需等風來

我們多次說起過，當下的“上云”浪潮，源自無數(shù)來自于扎實產(chǎn)業(yè)土地的真實需求：工廠需要AI，機器人需要算力，城市需要智慧，流媒體需要高清低時延的體驗…… 照...

2021-04-03 標簽：云計算AI智慧城市 1.1萬 0

深度學習：四種利用少量標注數(shù)據(jù)進行命名實體識別的方法

導讀 近年來，深度學習方法在特征抽取深度和模型精度上表現(xiàn)優(yōu)異，已經(jīng)超過了傳統(tǒng)方法，但無論是傳統(tǒng)機器學習還是深度學習方法都依賴大量標注數(shù)據(jù)來訓練模型，而現(xiàn)...

2021-01-03 標簽：數(shù)據(jù)深度學習nlp 1.1萬 0

模型NLP事件抽取方法總結(jié)

本系列文章主要分享近年來事件抽取方法總結(jié)，包括中文事件抽取、開放域事件抽取、事件數(shù)據(jù)生成、跨語言事件抽取、小樣本事件抽取、零樣本事件抽取等。主要包括以下...

2020-12-31 標簽：模型nlp 1.0萬 0

OpenAI新NLP模型，刷新了7大數(shù)據(jù)集的SOTA

至于具體的計算力，論文中沒有提及，根據(jù)上文Twitter上的數(shù)據(jù)，他們的模型使用了256個谷歌云TPU v3，盡管沒有公布訓練時間。TPU v3在Goo...

2019-02-16 標簽：機器翻譯數(shù)據(jù)集nlp 9549 0

如何優(yōu)雅地使用bert處理長文本

這是今年清華大學及阿里巴巴發(fā)表在NIPS 2020上的一篇論文《CogLTX: Applying BERT to Long Texts》，介紹了如何優(yōu)雅...

2020-12-26 標簽：文本nlp 9100 0

推薦10篇經(jīng)典人工智能學術(shù)論文

預訓練模型的好處是訓練代價較小，配合下游任務(wù)可以實現(xiàn)更快的收斂速度，并且能夠有效地提高模型性能，尤其是對一些訓練數(shù)據(jù)比較稀缺的任務(wù)。

2020-08-28 標簽：人工智能數(shù)據(jù)集nlp 7682 0

2021OPPO開發(fā)者大會 OPPO數(shù)智工程事業(yè)部總裁劉海峰分析AI服務(wù)新生態(tài)

2021OPPO開發(fā)者大會 OPPO數(shù)智工程事業(yè)部總裁劉海峰分析AI服務(wù)新生態(tài) 在小布助手開場之后，OPPO數(shù)智工程事業(yè)部總裁劉海峰發(fā)表了AI服務(wù)新生態(tài)...

2021-10-27 標簽：OPPOAI開發(fā)者 7593 0