檢測到您已登錄華為云國際站賬號(hào)，為了您更好的體驗(yàn)，建議您訪問國際站服務(wù)網(wǎng)站 http://www.cqfng.cn/intl/zh-cn
不再顯示此消息
檢測到您已登錄華為云國際站賬號(hào)，為了您更好的體驗(yàn)，建議您訪問國際站服務(wù)網(wǎng)站 http://www.cqfng.cn/intl/zh-cn
不再顯示此消息
內(nèi)容監(jiān)測與敏感詞檢查服務(wù)基于大規(guī)模敏感詞庫和智能算法，實(shí)時(shí)檢測文本中的敏感詞匯、違禁內(nèi)容，支持自定義詞庫，提供多級(jí)過濾策略，保障平臺(tái)內(nèi)容安全，滿足合規(guī)要求。 實(shí)時(shí)檢測：毫秒級(jí)響應(yīng)，實(shí)時(shí)檢測過濾，不影響用戶正常體驗(yàn)。,自定義配置：支持自定義敏感詞庫和過濾策略，滿足個(gè)性化需求。
內(nèi)容監(jiān)測與敏感詞檢查服務(wù)基于大規(guī)模敏感詞庫和智能算法，實(shí)時(shí)檢測文本中的敏感詞匯、違禁內(nèi)容，支持自定義詞庫，提供多級(jí)過濾策略，保障平臺(tái)內(nèi)容安全，滿足合規(guī)要求。 實(shí)時(shí)檢測：毫秒級(jí)響應(yīng)，實(shí)時(shí)檢測過濾，不影響用戶正常體驗(yàn)。,自定義配置：支持自定義敏感詞庫和過濾策略，滿足個(gè)性化需求。
敏感詞智能過濾提供本地化的敏感詞過濾功能，允許用戶自行維護(hù)敏感詞庫，確保問答內(nèi)容的安全性，同時(shí)滿足個(gè)性化需求。高頻問題推薦智能體能自動(dòng)生成高頻問題，并推薦給用戶，引導(dǎo)他們更容易上手系統(tǒng)，提升用戶使用體驗(yàn)。
敏感詞智能過濾提供本地化的敏感詞過濾功能，允許用戶自行維護(hù)敏感詞庫，確保問答內(nèi)容的安全性，同時(shí)滿足個(gè)性化需求。高頻問題推薦智能體能自動(dòng)生成高頻問題，并推薦給用戶，引導(dǎo)他們更容易上手系統(tǒng)，提升用戶使用體驗(yàn)。
在AI原生應(yīng)用引擎的左側(cè)導(dǎo)航欄選擇“運(yùn)營看板 > 敏感詞庫管理”。 在敏感詞庫管理頁面，單擊“創(chuàng)建敏感詞庫”。 配置敏感詞庫基本信息，參數(shù)說明如表1所示。 表1 創(chuàng)建敏感詞庫參數(shù)說明 參數(shù) 說明 敏感詞庫名稱 自定義敏感詞庫的名稱。
敏感詞管理 敏感詞設(shè)置 管理員可在管理后臺(tái)添加敏感詞詞庫，并對(duì)敏感詞詞庫進(jìn)行查看、編輯、停用、刪除操作，針對(duì)啟用中詞庫中的敏感詞將攔截發(fā)送。
詞庫管理 查詢自定義詞庫狀態(tài) - ShowIkThesaurus 加載自定義詞庫 - CreateLoadIkThesaurus 刪除自定義詞庫 - DeleteIkThesaurus 父主題： API V1
類似于對(duì)于輸入的文本內(nèi)容進(jìn)行敏感詞審核，想知道華為的敏感詞庫是怎么維護(hù)的？都有哪些敏感詞，是不是會(huì)自學(xué)習(xí)？ 另外是否可以對(duì)這個(gè)詞庫進(jìn)行擴(kuò)充？
主詞詞庫 主詞詞庫是用戶自定義的詞庫，初始狀態(tài)為空。默認(rèn)選擇“不更新”表示不配置該詞庫。 當(dāng)需要添加自定義的主詞詞庫時(shí)，單擊“更新”，選擇txt格式的詞庫文件。 當(dāng)無需添加自定義的主詞詞庫時(shí)，單擊“不使用此詞庫”，刪除詞庫。 停詞詞庫 停詞詞庫是用戶自定義的詞庫，初始狀態(tài)為空。
也支持基于同義詞詞庫，根據(jù)同義詞搜 索文本數(shù)據(jù)。CSS服務(wù)使用的分詞器包括IK分詞器和同義詞分詞器。IK分詞器配備主詞詞庫和停詞詞庫；同義詞分詞器配備同義詞詞庫。其中，IK分詞器包含ik_max_word和ik_smart分詞 策略。
count = 0; //初始化敏感詞長度 } } else { //不存在 now = sensitiveWordMap;//重新獲取敏感詞庫 if (count
敏感詞管理接口 (sensitiveWordManage) 刪除敏感詞 取得敏感詞列表 刪除敏感詞分類 更新敏感詞 獲取敏感詞分類列表 根據(jù)敏感詞分類的唯一標(biāo)識(shí)取得分類下敏感詞列表 創(chuàng)建敏感詞分類 搬移敏感詞到指定分類 新增敏感詞 更新敏感詞分類 根據(jù)敏感詞的唯一標(biāo)識(shí)獲取敏感詞詳細(xì)資訊
也支持基于同義詞詞庫，根據(jù)同義詞搜索文本數(shù)據(jù)。 該接口用于清空自定義詞庫（主詞詞庫、停詞詞庫、同義詞詞庫）。 調(diào)用方法 請(qǐng)參見如何調(diào)用API。 授權(quán)信息 賬號(hào)具備所有API的調(diào)用權(quán)限，如果使用賬號(hào)下的IAM用戶調(diào)用當(dāng)前API，該IAM用戶需具備調(diào)用API所需的權(quán)限。
7個(gè)詞庫參數(shù)至少修改一個(gè)詞庫。注：參數(shù)傳遞""空字符串為清空此詞庫，不傳或傳遞null為不修改。注：參數(shù)傳遞""空字符串為清空此詞庫，不傳或傳遞null為不修改。
根據(jù)敏感詞的唯一標(biāo)識(shí)獲取敏感詞詳細(xì)資訊 場景描述 根據(jù)敏感詞的唯一標(biāo)識(shí)獲取敏感詞詳細(xì)資訊的接口。
更新敏感詞 場景描述 更新敏感詞的接口。
評(píng)價(jià)敏感詞及敏感詞處理方式管理 租戶管理員可以對(duì)評(píng)價(jià)時(shí)涉及到的敏感詞進(jìn)行管理包括新增、修改、刪除敏感詞；租戶管理員也可以設(shè)置當(dāng)用戶提交的評(píng)價(jià)內(nèi)容中包括敏感詞時(shí)的處理策略。
降低業(yè)務(wù)違規(guī)風(fēng)險(xiǎn) 優(yōu)勢(shì) 海量詞庫 內(nèi)置海量詞庫，支持各種匹配規(guī)則 快速迭代 持續(xù)快速的迭代文本詞庫，及時(shí)識(shí)別新型不合規(guī)內(nèi)容 對(duì)象存儲(chǔ)服務(wù) OBS 產(chǎn)品優(yōu)勢(shì) 產(chǎn)品優(yōu)勢(shì) 識(shí)別準(zhǔn)確 基于深度學(xué)習(xí)技術(shù)和海量敏感詞庫，審核準(zhǔn)確率高，幫助企業(yè)客戶減少人工審核工作量，避免違規(guī)風(fēng)險(xiǎn) 智能語義分析
CSS服務(wù)給集群預(yù)置了靜態(tài)主詞詞庫、靜態(tài)停詞詞庫、Extra主詞詞庫和Extra停詞詞庫這四個(gè)詞庫。 當(dāng)這些預(yù)置詞庫已滿足集群業(yè)務(wù)的分詞需求時(shí)，則集群無需配置自定義詞庫即可直接實(shí)現(xiàn)關(guān)鍵詞搜索。
精準(zhǔn)防護(hù)體系 40+類型百萬敏感詞庫，語義匹配準(zhǔn)確率99%；防御全類型提示詞攻擊，檢出率＞95% 零改造接入 即開即用，無需架構(gòu)調(diào)整和開發(fā)對(duì)接 應(yīng)用體驗(yàn)無損 防護(hù)時(shí)延<20ms，策略靈活支持自定義 搭配使用 DDoS防護(hù) AAD 云防火墻 CFW 立即體驗(yàn)大模型防火墻 填寫留資表單
圖2 個(gè)性化門戶 快捷方便的問題提報(bào)：學(xué)生、教職工可通過網(wǎng)絡(luò)理校平臺(tái)我要留言在線反饋問題等，問題反饋采取實(shí)名制或匿名制且可快速選擇反饋領(lǐng)域和反饋類別，使問題可快速反饋到責(zé)任部門，避免中途傳遞造成的問題偏差 圖3 快捷方便的問題提報(bào) 敏感詞檢測：支持對(duì)敏感詞庫進(jìn)行動(dòng)態(tài)維護(hù)，對(duì)敏感詞內(nèi)容進(jìn)行增加
原因5：郵件沒有進(jìn)到收件箱有時(shí)郵件沒有被打開，很可能是由于郵件中包含敏感關(guān)鍵詞，被反垃圾系統(tǒng)標(biāo)示未垃圾郵件，sendsaas平臺(tái)內(nèi)置數(shù)10萬敏感詞庫，能自動(dòng)判斷郵件內(nèi)容是否包含敏感詞，并給出改進(jìn)意見，大大提高進(jìn)收件箱比例和打開率，原因6：沒有打開郵件的動(dòng)力最后是第五點(diǎn)失誤，也是最大的失誤
圖30 NLP敏感詞庫 敏感詞庫，用于維護(hù)敏感詞，關(guān)聯(lián)到全局評(píng)分表后，對(duì)練中如檢出敏感詞則進(jìn)行扣分； 白名單庫，即對(duì)練中被敏感詞模型誤召回的詞語，添加為白名單后，不再被識(shí)別為敏感詞； 圖31 敏感詞 意圖庫：支持分組管理意圖，支持意圖的增、刪、改、查，支持導(dǎo)入導(dǎo)出。
