聚焦信息抽取技術(shù) 華為云研發(fā)團(tuán)隊(duì)論文入選國(guó)際頂會(huì)NAACL 2022
聚焦信息抽取技術(shù) 華為云研發(fā)團(tuán)隊(duì)論文入選國(guó)際頂會(huì)NAACL 2022
活動(dòng)對(duì)象:華為云電銷(xiāo)客戶(hù)及渠道伙伴客戶(hù)可參與消費(fèi)滿(mǎn)送活動(dòng),其他客戶(hù)參與前請(qǐng)咨詢(xún)客戶(hù)經(jīng)理
活動(dòng)時(shí)間: 2020年8月12日-2020年9月11日
活動(dòng)期間,華為云用戶(hù)通過(guò)活動(dòng)頁(yè)面購(gòu)買(mǎi)云服務(wù),或使用上云禮包優(yōu)惠券在華為云官網(wǎng)新購(gòu)云服務(wù),累計(jì)新購(gòu)實(shí)付付費(fèi)金額達(dá)到一定額度,可兌換相應(yīng)的實(shí)物禮品?;顒?dòng)優(yōu)惠券可在本活動(dòng)頁(yè)面中“上云禮包”等方式獲取,在華為云官網(wǎng)直接購(gòu)買(mǎi)(未使用年中云鉅惠活動(dòng)優(yōu)惠券)或參與其他活動(dòng)的訂單付費(fèi)金額不計(jì)入統(tǒng)計(jì)范圍內(nèi);
活動(dòng)對(duì)象:華為云電銷(xiāo)客戶(hù)及渠道伙伴客戶(hù)可參與消費(fèi)滿(mǎn)送活動(dòng),其他客戶(hù)參與前請(qǐng)咨詢(xún)客戶(hù)經(jīng)理
2022年4月7日,自然語(yǔ)言處理領(lǐng)域國(guó)際頂級(jí)學(xué)術(shù)會(huì)議NAACL 2022(The North American Chapter of the Association for Computational Linguistics)公布論文入選名單,由華為云語(yǔ)音語(yǔ)義創(chuàng)新Lab多名研究者撰寫(xiě)的信息抽取論文《Delving Deep into Regularity: A Simple but Effective Method for Chinese Named Entity Recognition》被NAACL 2022 Findings接收,這代表著中文命名實(shí)體識(shí)別的最優(yōu)結(jié)果 (SOTA) 被進(jìn)一步刷新,更準(zhǔn)確有效的實(shí)體識(shí)別將推動(dòng)下游自然語(yǔ)言處理任務(wù)的進(jìn)一步發(fā)展。
NAACL由國(guó)際計(jì)算語(yǔ)言學(xué)學(xué)會(huì)(ACL)主辦,與ACL、EMNLP并稱(chēng)NLP領(lǐng)域的三大頂會(huì),是人工智能的重要研究陣地。NAACL的錄用十分嚴(yán)格,根據(jù)往年評(píng)選結(jié)果,只有不到30%的論文被接收。
作為自然語(yǔ)言處理中最經(jīng)典、最基礎(chǔ)的任務(wù),命名實(shí)體識(shí)別一直受到廣泛的關(guān)注與研究。近年來(lái),中文命名實(shí)體識(shí)別任務(wù)上取得了明顯進(jìn)展,很多新的方法和框架被陸續(xù)提出,但往往忽略考慮了實(shí)體詞的內(nèi)部組成。
對(duì)于中文命名實(shí)體而言,很多類(lèi)別的實(shí)體都具有很強(qiáng)的命名規(guī)律性。比如說(shuō),以“公司”或者“銀行”結(jié)尾的實(shí)體詞,通常屬于組織機(jī)構(gòu)這一實(shí)體類(lèi)別。因此,在《Delving Deep into Regularity: A Simple but Effective Method for Chinese Named Entity Recognition》中,華為云語(yǔ)音語(yǔ)義創(chuàng)新lab的研究者提出用簡(jiǎn)單有效、規(guī)律性引導(dǎo)的識(shí)別網(wǎng)絡(luò)來(lái)探究中文實(shí)體詞中的規(guī)律性。
如圖所示,華為云研究者首先利用注意力機(jī)制顯著地提取每個(gè)文本段的規(guī)律性,進(jìn)而將這種表征文本內(nèi)部的規(guī)律性的特征和通過(guò)Biaffine Attention提取的文本段特征結(jié)合起來(lái),進(jìn)行后續(xù)的實(shí)體識(shí)別。為了避免由于過(guò)度關(guān)注實(shí)體內(nèi)部規(guī)律性導(dǎo)致的實(shí)體邊界識(shí)別偏差,研究者們另外設(shè)計(jì)了一個(gè)與規(guī)則無(wú)關(guān)的模塊來(lái)幫助模型更準(zhǔn)確地識(shí)別實(shí)體的邊界。
華為云研究者提出的規(guī)律性引導(dǎo)的識(shí)別網(wǎng)絡(luò),如圖2,在MSRA,Ontonotes4.0和Ontonotes5.0三個(gè)大規(guī)模中文實(shí)體識(shí)別數(shù)據(jù)集上都取得了SOTA的結(jié)果。同時(shí),本文提出的方法不依賴(lài)于外部詞典信息,并且F1值超過(guò)了目前所有使用詞典信息的方法的結(jié)果。這充分說(shuō)明通過(guò)研究實(shí)體詞的內(nèi)部規(guī)律性,研究者們提出了一個(gè)非常有效的網(wǎng)絡(luò)結(jié)構(gòu)。
不止在信息抽取方面,華為云語(yǔ)音語(yǔ)義創(chuàng)新Lab秉承開(kāi)放創(chuàng)新、勇于探索、持續(xù)突破關(guān)鍵技術(shù)的精神,面向行業(yè)客戶(hù)提供領(lǐng)先的語(yǔ)音語(yǔ)義AI能力,結(jié)合大量行業(yè)知識(shí),推出知識(shí)計(jì)算等行業(yè)解決方案,打造業(yè)界一流的知識(shí)計(jì)算競(jìng)爭(zhēng)力。截至目前,已在政務(wù)、金融、石油等多個(gè)行業(yè)進(jìn)行了落地和實(shí)踐,幫助客戶(hù)實(shí)現(xiàn)AI落地與智能升級(jí)。
相關(guān)論文請(qǐng)點(diǎn)擊鏈接:https://arxiv.org/pdf/2204.05544.pdf