場景描述

此示例演示了如何使用盤古預置NLP大模型進行對話問答，包含兩種方式：使用“體驗中心”功能和調(diào)用API接口。

您將學習如何使用“體驗中心”功能調(diào)試模型超參數(shù)、如何調(diào)用盤古NLP大模型API以實現(xiàn)智能化對話問答能力。

前提條件

請確保您有預置的NLP大模型，并已完成模型的部署操作，詳見《用戶指南》“開發(fā)盤古NLP大模型 > 部署NLP大模型 > 創(chuàng)建NLP大模型部署任務”。

使用“體驗中心”功能

“體驗中心”功能支持用戶直接調(diào)用已部署的預置服務，使用步驟如下：

1. 登錄 ModelArts Studio大模型開發(fā)平臺，進入所需空間。
2. 單擊左側(cè)“體驗中心”，進入“文本對話”頁簽，選擇服務，在輸入框輸入問題，模型將基于問題進行回答。
   圖1 使用預置服務進行文本對話

   

3. 可以嘗試修改參數(shù)并查看模型效果。以修改“核采樣”參數(shù)為例，核采樣控制生成文本的多樣性和質(zhì)量：
   1. 當“核采樣”參數(shù)設置為1時，保持其他參數(shù)不變，單擊“重新生成”，再單擊“重新生成”，觀察模型前后兩次回復內(nèi)容的多樣性。

      表1 “核采樣”參數(shù)為1的生成結(jié)果

      生成結(jié)果1

      生成結(jié)果2

      經(jīng)濟全球化是指世界各國經(jīng)濟活動超越國界，通過對外貿(mào)易、資本流動、技術(shù)轉(zhuǎn)移、提供服務、相互依存、相互聯(lián)系而形成的全球范圍的有機經(jīng)濟整體。它包括生產(chǎn)全球化、貿(mào)易全球化和資本全球化等方面。經(jīng)濟全球化是當代世界經(jīng)濟的重要特征之一，也是世界經(jīng)濟發(fā)展的重要趨勢。 經(jīng)濟全球化的主要表現(xiàn)有： 國際貿(mào)易的迅速增長：隨著關(guān)稅壁壘的降低和非關(guān)稅壁壘的減少，國際貿(mào)易量迅速增加，各國經(jīng)濟相互依賴程度加深。 國際資本流動的加?。嚎鐕竞蛧H金融市場的快速發(fā)展，使得資本在全球范圍內(nèi)自由流動，投資更加國際化。 生產(chǎn)全球化的趨勢：生產(chǎn)要素在全球范圍內(nèi)重新配置，跨國公司在全球范圍內(nèi)設立生產(chǎn)基地，形成全球生產(chǎn)網(wǎng)絡。 技術(shù)轉(zhuǎn)移和知識傳播的加快：信息技術(shù)的發(fā)展使得知識和技術(shù)能夠迅速在全球范圍內(nèi)傳播，促進了全球創(chuàng)新能力的提升。 經(jīng)濟全球化帶來了許多積極影響，如促進了資源的有效配置、提高了生產(chǎn)效率、增加了消費者選擇等。但同時也帶來了一些挑戰(zhàn)，如加劇了國際競爭、可能加劇貧富差距、對環(huán)境和資源造成壓力等。因此，如何平衡經(jīng)濟全球化帶來的利弊，是各國政府和國際社會需要共同面對和解決的問題。

      經(jīng)濟全球化是指世界各國經(jīng)濟活動超越國界，通過對外貿(mào)易、資本流動、技術(shù)轉(zhuǎn)移、提供服務、相互依存、相互聯(lián)系而形成的全球范圍的有機經(jīng)濟整體。簡單來說，就是世界各國經(jīng)濟的相互依賴和相互聯(lián)系日益加深。 經(jīng)濟全球化的主要特征包括： 貿(mào)易自由化：各國之間的商品和服務交易更加自由，關(guān)稅和貿(mào)易壁壘逐漸降低。 資本流動國際化：資本可以在全球范圍內(nèi)自由流動，投資者可以在全球范圍內(nèi)尋找投資機會。 生產(chǎn)全球化：企業(yè)可以在全球范圍內(nèi)配置資源，進行生產(chǎn)活動。 技術(shù)全球化：科技成果可以在全球范圍內(nèi)快速傳播和應用。 信息全球化：信息技術(shù)的發(fā)展使得信息可以在全球范圍內(nèi)快速傳播。 經(jīng)濟全球化的好處包括可以提高生產(chǎn)效率，促進技術(shù)進步，增加消費者選擇，提高生活水平等。但同時，也可能帶來一些問題，如貧富差距擴大，環(huán)境問題，文化沖突等。

      圖2 “核采樣”參數(shù)為1的生成結(jié)果1

      

      圖3 “核采樣”參數(shù)為1的生成結(jié)果2

      

   2. 將“核采樣”參數(shù)調(diào)小至0.1，保持其他參數(shù)不變，單擊“重新生成”，再單擊“重新生成”，可以觀察到模型前后兩次回復內(nèi)容的多樣性降低。

      表2 “核采樣”參數(shù)為0.1的生成結(jié)果

      生成結(jié)果1

      生成結(jié)果2

      經(jīng)濟全球化是指全球范圍內(nèi)的商品、服務、資本、技術(shù)和信息等生產(chǎn)要素跨國界流動和配置，各國經(jīng)濟相互依賴、相互聯(lián)系日益緊密的過程。它是世界經(jīng)濟發(fā)展到一定階段的必然結(jié)果，也是市場經(jīng)濟和科技進步的產(chǎn)物。 經(jīng)濟全球化的主要特征包括： 貿(mào)易自由化：各國之間的商品和服務交易更加自由，關(guān)稅和貿(mào)易壁壘逐漸降低。 資本流動國際化：資本可以在全球范圍內(nèi)自由流動，投資者可以在全球范圍內(nèi)尋找投資機會。 生產(chǎn)全球化：企業(yè)可以在全球范圍內(nèi)配置資源，進行生產(chǎn)活動。 技術(shù)全球化：科技成果可以在全球范圍內(nèi)快速傳播和應用。 信息全球化：信息技術(shù)的發(fā)展使得信息可以在全球范圍內(nèi)快速傳播。 經(jīng)濟全球化的好處包括可以提高生產(chǎn)效率，促進技術(shù)進步，增加消費者選擇，提高生活水平等。但同時，也可能帶來一些問題，如貧富差距擴大，環(huán)境問題，文化沖突等。

      經(jīng)濟全球化是指全球范圍內(nèi)的經(jīng)濟活動日益緊密地聯(lián)系在一起，各國經(jīng)濟相互依賴、相互影響的過程。這一過程主要體現(xiàn)在以下幾個方面： 貿(mào)易自由化：各國之間的商品和服務交易更加自由，關(guān)稅和貿(mào)易壁壘逐漸降低，國際貿(mào)易量大幅增加。 資本流動國際化：資本可以在全球范圍內(nèi)自由流動，投資者可以在全球范圍內(nèi)尋找投資機會，跨國公司的數(shù)量和規(guī)模不斷擴大。 生產(chǎn)全球化：企業(yè)可以在全球范圍內(nèi)配置資源，進行生產(chǎn)活動，形成了全球供應鏈。 技術(shù)全球化：科技成果可以在全球范圍內(nèi)快速傳播和應用，推動了全球范圍內(nèi)的技術(shù)進步。 信息全球化：信息技術(shù)的發(fā)展使得信息可以在全球范圍內(nèi)快速傳播，推動了全球范圍內(nèi)的信息交流。 經(jīng)濟全球化使得世界各國的經(jīng)濟聯(lián)系更加緊密，促進了全球經(jīng)濟的發(fā)展。但同時，也帶來了一些問題，如貧富差距擴大、環(huán)境問題、文化沖突等。因此，如何在全球化的過程中實現(xiàn)公平、可持續(xù)的發(fā)展，是各國需要共同面對的挑戰(zhàn)。

      圖4 “核采樣”參數(shù)為0.1的生成結(jié)果1

      

      圖5 “核采樣”參數(shù)為0.1的生成結(jié)果2

      

調(diào)用API接口

預置模型部署成功后，可以通過“文本對話”API調(diào)用NLP大模型，調(diào)用步驟如下：

1. 登錄ModelArts Studio大模型開發(fā)平臺，進入所需空間。
2. 獲取調(diào)用路徑。單擊左側(cè)“模型開發(fā) > 模型部署”，在“預置服務”頁簽，選擇所需調(diào)用的NLP大模型，單擊“調(diào)用路徑”，在“調(diào)用路徑”彈窗獲取調(diào)用路徑。
   圖6 獲取調(diào)用路徑

   

3. 獲取項目ID。在頁面右上角“我的憑證”，在“API憑證”頁面可獲取項目ID。
   圖7 獲取項目ID

   

4. 獲取Token。參考《API參考》文檔“如何調(diào)用REST API > 認證鑒權(quán)”章節(jié)獲取Token。
5. 在Postman中新建POST請求，并填入調(diào)用路徑（API請求地址）。
6. 參考圖8填寫2個請求Header參數(shù)。
   • 參數(shù)名為Content-Type，參數(shù)值為application/json。
   • 參數(shù)名為X-Auth-Token，參數(shù)值為獲取的Token值。
     圖8 填寫NLP大模型API
     
7. 在Postman中選擇“Body > raw”選項，參考以下代碼填寫請求Body。

   {    "messages": [      {          "content": "介紹下長江，以及長江中典型的魚類"       }      ],    "temperature": 0.9,    "max_tokens": 600}

8. 單擊Postman界面“Send”按鈕，發(fā)送請求。當接口返回狀態(tài)為200時，表示NLP大模型API調(diào)用成功。