多語言任務(wù)在內(nèi)的多種NLP任務(wù)實現(xiàn)

WeLM是一個百億級別的中文模型，能夠在零樣本以及少樣本的情境下完成包括對話-采訪、閱讀理解、翻譯、改寫、續(xù)寫、多語言閱讀理解在內(nèi)的多種NLP任務(wù)，并具...

2022-10-13 標(biāo)簽：API接口自然語言nlp 713 0

文本分類中處理樣本不均衡和提升模型魯棒性的trick

文本分類看似簡單，但實則里面有好多門道。作者水平有限，只能將平時用到的方法和trick在此做個記錄和分享，并且盡可能提供給出簡潔、清晰的代碼實現(xiàn)。希望各...

2022-10-11 標(biāo)簽：模型代碼nlp 1218 0

如何計算模型對預(yù)測結(jié)果的信心

在很多問題中，獲取標(biāo)注準(zhǔn)確的大量數(shù)據(jù)需要很高的成本，這也往往限制了深度學(xué)習(xí)的應(yīng)用。主動學(xué)習(xí)通過對未標(biāo)注的數(shù)據(jù)進行篩選，可以利用少量的標(biāo)注數(shù)據(jù)取得較高的學(xué)...

2022-09-28 標(biāo)簽：數(shù)據(jù)模型代碼 1504 0

NLP的經(jīng)典任務(wù)——句法（Syntactic）分析

詞性標(biāo)注：Part-of-speech(POS)，將詞在句子中扮演的角色進行標(biāo)注，如動詞、名詞等。因為一詞多義的存在，這個過程也存在歧義性。具體的tag...

2022-10-06 標(biāo)簽：nlp 774 0

如何通過多模態(tài)對比學(xué)習(xí)增強句子特征學(xué)習(xí)

視覺作為人類感知體驗的核心部分，已被證明在建立語言模型和提高各種NLP任務(wù)的性能方面是有效的。作者認(rèn)為視覺作為輔助語義信息可以進一步促進句子表征學(xué)習(xí)。

2022-09-21 標(biāo)簽：nlp 1602 0

預(yù)訓(xùn)練模型在搜索中使用的思路和方案

當(dāng)然了，和往常的文章一樣，我不會復(fù)述這一篇文章，而是聊聊里面的一些關(guān)鍵點和一些有意思的內(nèi)容，拿出來和大家討論一下。

2022-09-19 標(biāo)簽：編碼nlp訓(xùn)練模型 1227 0

自然語言處理（NLP）領(lǐng)域的高效方法

訓(xùn)練越來越大的深度學(xué)習(xí)模型已經(jīng)成為過去十年的一個新興趨勢。如下圖所示，模型參數(shù)量的不斷增加讓神經(jīng)網(wǎng)絡(luò)的性能越來越好，也產(chǎn)生了一些新的研究方向，但模型的問...

2022-09-19 標(biāo)簽：網(wǎng)絡(luò)模型自然語言nlp 1522 0

幾種常用的NLP數(shù)據(jù)增強方法

因為直接對原是文本進行數(shù)據(jù)增強，很難保證維持原始的文本語義，因此可以通過在語義空間上進行隱式數(shù)據(jù)增強，簡單列出幾種方法：

2022-09-15 標(biāo)簽：數(shù)據(jù)語言模型nlp 1991 0

基于OpenAI的GPT-2的語言模型ProtGPT2可生成新的蛋白質(zhì)序列

人類語言與蛋白質(zhì)有很多共同點，至少在計算建模方面。這使得研究團隊將自然語言處理（NLP）的新方法應(yīng)用于蛋白質(zhì)設(shè)計。其中，德國Bayreuth大學(xué)Birt...

2022-09-08 標(biāo)簽：解碼器語言模型nlp 2236 0

基于圖文多模態(tài)領(lǐng)域典型任務(wù)

圖文多模態(tài)領(lǐng)域典型任務(wù)如img-text retrieval、VQA、captioning、grounding等，目前的學(xué)術(shù)設(shè)定難度尚可。但是， 一旦知...

2022-09-01 標(biāo)簽：語言模型數(shù)據(jù)集nlp 2592 0

文本相似是NLP工業(yè)化中的一個基本任務(wù)

TF-IDF算法是創(chuàng)建在這樣一個假設(shè)之上的：對區(qū)別文檔最有意義的詞語應(yīng)該是那些在文檔中出現(xiàn)頻率高，而在整個文檔集合的其他文檔中出現(xiàn)頻率少的詞語。如果特征...

2022-08-03 標(biāo)簽：二進制算法nlp 681 0

一個聯(lián)合的meta-reweighting的策略來自然的進行整合

數(shù)據(jù)自增強是一個小樣本任務(wù)可行的解法，對于 token-level 的 NER 任務(wù)，token 替換和表征混合是常用的方法。但自增強也有局限性，我們需...

2022-08-03 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)模型nlp 454 0

AI開發(fā)平臺Vitis AI 2.5讓AI加速體驗更上一層樓 Vitis AI新功能概述

Vitis AI 2.5 的模型庫增加了廣受歡迎的NLP及更多 CNN 模型，例如 Bert-base，Vision Transformer、端到端 O...

2022-07-14 標(biāo)簽：AIcnnnlp 3.7萬 0

Propt learnimng是如何發(fā)展形成的

Prompt learning作為近期NLP的新寵，熱度不斷攀升，在接下來的一段日子，大概率還是會處于一個風(fēng)口的位置。什么是Prompt learing...

2022-03-21 標(biāo)簽：網(wǎng)絡(luò)模型nlp 1967 0

NLP中基于聯(lián)合知識的任務(wù)導(dǎo)向型對話系統(tǒng)HyKnow

引言 對話系統(tǒng)（dialogue system）是 NLP 中的的重點研究方向之一。其可以分為任務(wù)型對話系統(tǒng)和開放域?qū)υ捪到y(tǒng)。兩者在現(xiàn)實生活中都有著廣泛...

2021-09-08 標(biāo)簽：解碼器nlp 4424 0

智能客服案例解析：以知識圖譜、NLP、機器學(xué)習(xí)構(gòu)建高精度對話機器人

樂言科技基于高精準(zhǔn)的語義理解技術(shù)所打造的客服機器人，能在海量數(shù)據(jù)中挖掘優(yōu)質(zhì)話術(shù)，模擬優(yōu)秀人工客服回復(fù)邏輯，對用戶多輪對話溝通內(nèi)容、訂單信息、店鋪優(yōu)惠活動...

2021-02-11 標(biāo)簽：機器人機器學(xué)習(xí)nlp 4156 0

自然語言處理是什么？有什么用？

“自然語言處理” （Natural Language Processing，簡稱NLP） 是近年來科技界最熱門的詞語之一，也是當(dāng)下人工智能研究最熱門的領(lǐng)...

2021-02-08 標(biāo)簽：人工智能自然語言處理NLP 6407 0

自然語言處理（NLP）的優(yōu)勢、現(xiàn)狀以及其適用范圍

自然語言處理（NLP）在語音和文本方面的改進將助力主流技術(shù)的發(fā)展。例如以人類自然發(fā)音朗讀電子郵件時，如果用戶對電子表格中的數(shù)據(jù)提出質(zhì)疑，Excel會自動...

2020-09-03 標(biāo)簽：機器學(xué)習(xí)自然語言處理NLP 8371 0