從全民熱衷嘗鮮，到僅有少部分人仍在使用，上半年的ChatGPT喧囂進(jìn)入尾聲，而由另一維度觀測，新技術(shù)的生命力在市場，只有客戶拿真金白銀買單的大模型，才是技術(shù)-商業(yè)的正向循環(huán)，下半年，行業(yè)大模型爭相落地開啟新的競爭。
在華為開發(fā)者大會2023（Cloud）上，華為云正式發(fā)布盤古大模型3.0。盤古大模型3.0是一個(gè)完全面向行業(yè)提供服務(wù)，以行業(yè)需求為基礎(chǔ)設(shè)計(jì)的大模型體系，包括5+N+X三層架構(gòu)。
不疾不徐，華為盤古大模型揭開了新的一重面紗，也是ChatGPT熱潮之后，華為首次系統(tǒng)性地談?wù)摯竽Ｐ汀?/p>
鈦媒體App了解到，華為并不熱衷于“百模大戰(zhàn)”，盡管早在2021年4月，華為云就發(fā)布了盤古大模型，包括NLP大模型和CV大模型，此后華為相繼發(fā)布科學(xué)計(jì)算大模型、藥物分子大模型、盤古礦山大模型和氣象大模型。
“熟悉華為的人想想就知道，‘盤古chat’不符合華為的主航道，華為的策略是拿下B端市場，基礎(chǔ)模型早就發(fā)布過，國內(nèi)國外C端的大模型聲量雖然大，但是華為沒有想去摻一腳，還是堅(jiān)定地做自己擅長的事，到了整個(gè)市場都重視大模型落地、談?wù)撔袠I(yè)大模型的時(shí)候，華為就必須要站出來了”，一位接近華為人士表示。
華為是國內(nèi)最早發(fā)布大模型的廠商之一，資本市場概念的炒作一輪又一輪，當(dāng)產(chǎn)業(yè)潮水涌向行業(yè)大模型，華為還是按捺不住，將自己的大模型戰(zhàn)略和盤托出。
華為輪值董事長胡厚崑在WAIC上表示，華為人工智能的發(fā)展關(guān)鍵是“走深向?qū)崱?，著力點(diǎn)放在讓人工智能為千行百業(yè)的生產(chǎn)活動服務(wù)，為科研創(chuàng)新服務(wù)。
當(dāng)前階段，華為在人工智能發(fā)展上有兩個(gè)著力點(diǎn)：第一，打造強(qiáng)有力的算力底座，支撐中國人工智能產(chǎn)業(yè)的發(fā)展。第二，從通用大模型到行業(yè)大模型，讓人工智能服務(wù)好千行百業(yè)、服務(wù)好科研創(chuàng)新。
大模型“卷”落地
前車之鑒，后事之師。數(shù)十年間，人工智能技術(shù)發(fā)展的曲線潮起潮落，“落地難”始終是橫亙在產(chǎn)業(yè)現(xiàn)實(shí)的一道關(guān)卡。
在ChatGPT熱潮之前，人工智能面臨場景碎片化的問題，同時(shí)人工智能并沒有進(jìn)入到企業(yè)的核心場景，技術(shù)和業(yè)務(wù)不是緊耦合的關(guān)系，也就很難形成規(guī)模效應(yīng)。
根據(jù)第三方網(wǎng)站SimilarWeb的監(jiān)測數(shù)據(jù)，6月份，ChatGPT的網(wǎng)站與移動客戶端的全球流量（PV）環(huán)比下降了9.7%，美國地區(qū)的流量環(huán)比下降了10.3%。同時(shí)，ChatGPT的獨(dú)立訪客數(shù)量（UV）下降了5.7%，訪客在網(wǎng)站上花費(fèi)的時(shí)間也下降了8.5%。這是自2022年11月30日發(fā)布以來，ChatGPT首次出現(xiàn)流量負(fù)增長。
拐點(diǎn)的到來，在一些人的意料之外，卻在另一些人的情理之中。
華為常務(wù)董事、華為云CEO張平安表示，“目前大模型大多數(shù)應(yīng)用都集中在2C領(lǐng)域，在面向行業(yè)應(yīng)用時(shí)，由于行業(yè)數(shù)據(jù)獲取難，技術(shù)與行業(yè)know-how結(jié)合難，大模型在行業(yè)的落地進(jìn)展較慢?！?/p>
當(dāng)普羅大眾還在沉浸ChatGPT聊天的驚艷表現(xiàn)時(shí)，人工智能廠商已經(jīng)在設(shè)想大模型的商業(yè)化，國際上，微軟、亞馬遜等大廠向企業(yè)級服務(wù)尋求商業(yè)化路徑，進(jìn)行多個(gè)行業(yè)的探索；國內(nèi)，諸如華為、百度、阿里、騰訊等大小廠商，都在快馬加鞭加速行業(yè)大模型投入。
華為很早就看到了這一方向，據(jù)悉，2020年，華為判斷人工智能有兩個(gè)發(fā)展方向，一個(gè)是小模型到大模型的趨勢；第二個(gè)，人工智能和行業(yè)的結(jié)合，就是AI for Industries，華為認(rèn)為AI在千行百業(yè)有著極大的想象空間。
前者，隨著模型參數(shù)的不斷擴(kuò)大，小模型到大模型的趨勢已然兌現(xiàn)，張平安介紹，盤古3.0能夠?yàn)榭蛻籼峁?00億參數(shù)、380億參數(shù)、710億參數(shù)和1000億參數(shù)的系列化基礎(chǔ)大模型，匹配客戶不同場景、不同時(shí)延、不同響應(yīng)速度的行業(yè)多樣化需求。
后者，在GPT火熱之前，盤古大模型已經(jīng)深耕行業(yè)，打造礦山、氣象、藥物分子、鐵路等領(lǐng)域行業(yè)大模型和能力集，將行業(yè)知識know-how與大模型能力相結(jié)合，重塑千行百業(yè)，為每個(gè)企業(yè)、每個(gè)人提供專家助手，讓工作更輕松。
如果說，彼時(shí)華為的戰(zhàn)略預(yù)判還略顯突兀，沒有太多的參考，那么，如今大模型已經(jīng)足以證明，華為的技術(shù)和業(yè)務(wù)路線的雙重正確。
今年以來，華為遲遲不去“蹭”大模型的風(fēng)口，而是在水面之下做一些基礎(chǔ)的工作。盤古大模型發(fā)布以來，華為一直思考的都是客戶運(yùn)營、產(chǎn)品研發(fā)、軟件工程、生產(chǎn)供應(yīng)、市場營銷等行業(yè)客戶所關(guān)注的問題，堅(jiān)持自己的技術(shù)主張和研發(fā)節(jié)奏，不急于求成，始終追求技術(shù)突破和技術(shù)領(lǐng)先，確保產(chǎn)品質(zhì)量和交付質(zhì)量。
“華為早在2020年就堅(jiān)定地選擇了大模型路線，當(dāng)時(shí)市場上的熱度并沒有今天高，也存在很多質(zhì)疑的聲音，我們?nèi)匀粓?jiān)持了下來，未來不管炒作與否，熱度高低，我們都會盡量不受外界干擾，堅(jiān)持做正確的事?！比A為云人工智能領(lǐng)域?qū)＜覍︹伱襟wApp表示。
談及行業(yè)過熱的狀態(tài)，華為云人工智能領(lǐng)域?qū)＜冶硎荆搬槍Υ竽Ｐ瓦@樣最頂尖的技術(shù)，市場的熱度一方面反映了資本對大模型盈利能力的期待，另一方面也反映了公眾對大模型應(yīng)用能力的期待?！?/p>
市場是最大的驅(qū)動力，大模型最大的改變，是創(chuàng)造了一個(gè)規(guī)模化效應(yīng)的出口，上層應(yīng)用都可以基于大模型去發(fā)展，把碎片化的場景，歸攏統(tǒng)一，形成一套大模型解決方案，盤古大模型3.0的升級也遵循相似的邏輯。
盤古3.0大模型體系的5+N+X三層架構(gòu)中，5大L0層的基礎(chǔ)大模型，包括自然語言大模型、視覺大模型、多模態(tài)大模型、預(yù)測大模型、科學(xué)計(jì)算大模型，能夠提供各種通用技能，支撐企業(yè)的各類應(yīng)用。
N個(gè)L1層的行業(yè)大模型，例如政務(wù)大模型，金融大模型，礦山大模型等，能夠基于基礎(chǔ)大模型的多種能力組合，通過行業(yè)數(shù)據(jù)以及企業(yè)自有數(shù)據(jù)的二次訓(xùn)練，幫助企業(yè)打造自己的大模型。
X代表海量L2層的場景模型，與基礎(chǔ)大模型和行業(yè)大模型相比，場景模型更加專注于某個(gè)具體的應(yīng)用場景或特定業(yè)務(wù)，為客戶提供開箱即用的模型服務(wù)，例如，在醫(yī)療領(lǐng)域，針對小分子篩選，小分子優(yōu)化等。
從“無人相信”到登上《Nature》
華為開發(fā)者大會2023（Cloud）發(fā)布會前夕，華為云盤古大模型團(tuán)隊(duì)研發(fā)的高分辨率全球AI氣象預(yù)報(bào)系統(tǒng)研究成果，正式在《Nature》正刊上發(fā)表，基于三維神經(jīng)網(wǎng)絡(luò)的氣象預(yù)報(bào)系統(tǒng)精度，超過傳統(tǒng)數(shù)值預(yù)報(bào)方法，且速度提高了1萬倍以上。
少有人知道的是，就在去年12月份，國際氣象領(lǐng)域的專家教授們還普遍認(rèn)為，AI要達(dá)到傳統(tǒng)數(shù)值方法的精度，是一件非常遙遠(yuǎn)的事。
“There are a lot of comments I could make indicating that this is perhaps not yet quite the triumph of AI over physical modelling. despite the claims in the paper. Never the less it is a big step forward compared to other efforts. The paper has also been causing a degree of existential angst at ECMWF.（我可以發(fā)表很多評論，表明這可能還不是AI相對于物理建模的巨大勝利，盡管論文中提出了主張，與其他努力相比，這絕不是向前邁出的一大步。但是，該論文還是在ECMWF引起了一定程度的焦慮。）
歐洲中期天氣預(yù)報(bào)中心（ECMWF）是全球權(quán)威的國際性天氣預(yù)報(bào)研究和業(yè)務(wù)機(jī)構(gòu)，該中心于1979年6月首次做出了實(shí)時(shí)的中期天氣預(yù)報(bào)，現(xiàn)在，華為盤古氣象大模型，為世界展現(xiàn)了另一種可能。
盤古氣象大模型研發(fā)團(tuán)隊(duì)核心成員對鈦媒體App表示，之前大家不相信AI方法能夠?qū)崿F(xiàn)更高的精度和更好的效率，ECMWF也在探索用AI預(yù)測天氣，但是規(guī)劃的時(shí)間表以十年計(jì)算，他們認(rèn)為，AI方法存在很多現(xiàn)階段難以突破的問題。
例如分辨率不夠，省級和區(qū)級的天氣預(yù)報(bào)，數(shù)據(jù)量相差很大，如果要做到更高的分辨率，數(shù)據(jù)量要達(dá)到上千TB，這比其他AI應(yīng)用數(shù)據(jù)量要大得多，大數(shù)據(jù)意味著消耗大算力，這部分問題能夠通過堆硬件、工程化解決。
再如現(xiàn)有的 AI 預(yù)報(bào)方法精度大部分顯著低于數(shù)值預(yù)報(bào)方法，這也是很多人都不相信AI能夠超過數(shù)值預(yù)測方法的主要原因，現(xiàn)有的 AI 氣象預(yù)報(bào)模型都是基于 2D 神經(jīng)網(wǎng)絡(luò)，無法很好地處理不均勻的 3D 氣象數(shù)據(jù)，同時(shí)AI 方法缺少數(shù)學(xué)物理機(jī)理約束，因此在迭代過程中會不斷積累迭代誤差。
華為云提出了3D Earth-Specific Transformer方法，在每一個(gè)視覺transformer模塊中新引入和緯度、高度相關(guān)的絕對位置編碼，從而更好地處理復(fù)雜的3D氣象數(shù)據(jù)，并且拆分各個(gè)不同的時(shí)間段模型分散訓(xùn)練，減少單個(gè)模型迭代的次數(shù)，從而減少迭代誤差。
“我們不僅做出來一個(gè)精度超過歐洲氣象中心數(shù)據(jù)預(yù)報(bào)的模型，而且我們迅速讓這個(gè)模型落地，其中克服了很多問題，讓氣象專家實(shí)測驗(yàn)證模型結(jié)果，他們沒有理由否認(rèn)AI方法的先進(jìn)性。”如上人士表示。
氣象大模型的打造成為一個(gè)實(shí)證，華為云不僅能有意愿打造行業(yè)大模型，并且有將其付諸實(shí)踐的工具和能力。對應(yīng)華為盤古大模型，L0是科學(xué)計(jì)算基礎(chǔ)大模型，L1是氣象行業(yè)大模型，L2就是氣象預(yù)測等應(yīng)用。
大模型回答了“一個(gè)模型能否解決通用問題”以及“模型本身是否有價(jià)值”的關(guān)鍵問題，但是要想真正構(gòu)建完整的業(yè)務(wù)鏈條，還需要從商業(yè)化層面跟進(jìn)，為了加速和簡化行業(yè)大模型從開發(fā)到落地，華為云提供了盤古大模型工程化平臺，覆蓋了數(shù)據(jù)處理、模型訓(xùn)練和應(yīng)用開發(fā)三大環(huán)節(jié)。
在數(shù)據(jù)平臺方面，相比傳統(tǒng)標(biāo)注平臺（能提供的例如自動數(shù)據(jù)清洗等功能），華為云數(shù)據(jù)工程平臺專門為SFT訓(xùn)練提供了基于模板的Prompt在線輔助撰寫功能，為RLHF訓(xùn)練提供了多人Rank在線標(biāo)注和任務(wù)分撥功能；對比離線進(jìn)行這兩種任務(wù)，實(shí)測效率可提升3倍。
有了高質(zhì)量的數(shù)據(jù)如何產(chǎn)生高質(zhì)量的模型，還需要確保模型開發(fā)的過程準(zhǔn)確無誤，在模型訓(xùn)練方面，大模型開發(fā)套件提供了自監(jiān)督預(yù)訓(xùn)練，有監(jiān)督SFT訓(xùn)練，強(qiáng)化學(xué)習(xí)訓(xùn)練3種工作流，覆蓋了從數(shù)據(jù)集創(chuàng)建，超參配置到模型訓(xùn)練、評估、部署的全流程，凝結(jié)了大模型專家的實(shí)踐經(jīng)驗(yàn)，把復(fù)雜的大模型開發(fā)，流程化，標(biāo)準(zhǔn)化，簡單化，幫助行業(yè)用戶一鍵啟動，一站式開發(fā)。
之后，開發(fā)好的盤古大模型要想在行業(yè)發(fā)揮作用，離不開下游應(yīng)用，在模型開發(fā)方面，華為云提供盤古應(yīng)用開發(fā)套件，將傳統(tǒng)軟件工程與大模型相結(jié)合，提供多種API和工具可調(diào)用，支撐企業(yè)分鐘級構(gòu)建大模型原生應(yīng)用。
例如，基于盤古語言大模型和視覺大模型的基礎(chǔ)能力，以及盤古大模型工程化平臺，在學(xué)習(xí)了超過20萬條政務(wù)數(shù)據(jù)，包括政策文件、政務(wù)百科等公開政務(wù)知識，以及12345熱線場景等專有政務(wù)知識后，深圳市福田區(qū)政府打造了具備豐富法律法規(guī)、辦事流程等行業(yè)知識的福田政務(wù)大模型。
據(jù)了解，參照GPT-3完成一個(gè)千億行業(yè)模型端到端開發(fā)，基于盤古大模型工程化平臺，開發(fā)大模型從過去需要5個(gè)月縮短到現(xiàn)在1個(gè)月，整體速度提升5倍。
AI世界的另一極
人工智能已經(jīng)成為國家戰(zhàn)略競爭焦點(diǎn)，AGI（通用人工智能）可能改變甚至顛覆世界運(yùn)轉(zhuǎn)的原有邏輯，國家層面強(qiáng)調(diào)：“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動性很強(qiáng)的‘頭雁’效應(yīng)?！?/p>
人工智能與實(shí)體經(jīng)濟(jì)的結(jié)合，行業(yè)大模型扮演著重要作用，行業(yè)重塑、技術(shù)扎根、開放同飛，是華為云的差異化優(yōu)勢。
行業(yè)大模型以行業(yè)數(shù)據(jù)和know-how為重中之重，華為云AI的優(yōu)勢在于，在各行業(yè)已有超過數(shù)百個(gè)項(xiàng)目，基于對行業(yè)的深入理解，沉淀行業(yè)核心know-how，華為云盤古大模型能夠更好地落地在行業(yè)客戶的主業(yè)務(wù)場景。
盤古大模型已經(jīng)學(xué)習(xí)10多個(gè)行業(yè)公開數(shù)據(jù)，涵蓋金融、政務(wù)、氣象、醫(yī)療、健康、互聯(lián)網(wǎng)、教育、汽車、零售等。華為云和伙伴還聯(lián)合打造了工業(yè)、供熱、政務(wù)、煤礦、教育、電力、公路7大行業(yè)aPaaS，為盤古大模型了構(gòu)建最深厚的行業(yè)積累。
墻高基下，雖得必失，人工智能產(chǎn)業(yè)需要從最底層夯實(shí)基礎(chǔ)，張平安提到，其他人都可以依賴行業(yè)最成熟的AI算力和AI生態(tài)，但是華為只能依靠自己的AI根技術(shù)。
中國工程院院士鄭緯民此前表示，大模型是新型關(guān)鍵基礎(chǔ)設(shè)施的底座之一，大模型的競爭也是國家科技戰(zhàn)略的競爭，中國一定要布局全棧自主創(chuàng)新的大模型產(chǎn)品，同時(shí)要構(gòu)建國產(chǎn)化算力，也要解決算力能耗與國家“雙碳”戰(zhàn)略的平衡。
為此，華為構(gòu)建了最深的AI堆棧根技術(shù)，在最底層構(gòu)建了以鯤鵬和昇騰為基礎(chǔ)的AI算力云平臺，構(gòu)建了昇騰的計(jì)算引擎CANN、AI框架MindSpore，以及AI開發(fā)生產(chǎn)線ModelArts，為大模型開發(fā)和運(yùn)行提供分布式并行加速，算子和編譯優(yōu)化，集群級通信優(yōu)化等關(guān)鍵能力。
“現(xiàn)在基于華為的AI堆棧，我們的大模型訓(xùn)練效能不僅不落后，在大模型場景下我們的訓(xùn)練效能是業(yè)界主流GPU的1.1倍”，張平安說。
與此同時(shí)，華為云提供了易用可靠的大模型工具套件、匯聚海量多行業(yè)場景API的開天aPaaS，以及包含豐富優(yōu)質(zhì)課程和技術(shù)認(rèn)證的大模型專屬社區(qū)，幫助開發(fā)者一站式完成入門到專家。
華為也積累了高密度的大模型人才：盤古團(tuán)隊(duì)中大概50%以上是博士，還有很多名“天才少年”，上述氣象大模型的核心成員便是之一，大模型在訓(xùn)練過程中，會遭遇各種各樣的困難和挑戰(zhàn)，一個(gè)技術(shù)過硬、敢于創(chuàng)新的團(tuán)隊(duì)，才是大模型能夠練成的核心保障，也是華為對外輸出大模型能力的依托。
在安全方面，華為云提供公有云、混合云、大模型專區(qū)三種模式，保障安全部署；建立長效機(jī)制，確保大模型安全合規(guī)：包括數(shù)據(jù)集來源和使用合規(guī)、數(shù)據(jù)全生命周期安全、構(gòu)建完整的數(shù)據(jù)標(biāo)注以及審核機(jī)制、構(gòu)建模型合規(guī)使用政策、確保模型使用邊界。
AI大模型時(shí)代，面臨自下而上自主創(chuàng)新的宏大命題，華為正在打造世界AI另一極。
