芯片
云服務(wù)器AI加速型實(shí)例
AI加速型 AI加速型 云服務(wù)器 （AI Accelerated Cloud Server, AIACS）是專門(mén)為AI業(yè)務(wù)提供加速服務(wù)的云主機(jī)。搭載昇騰系列芯片及軟件棧。 AI推理加速型系列：搭載昇騰310芯片，為AI推理業(yè)務(wù)加速。 AI加速實(shí)例總覽 AI推理加速型： AI推理加速增強(qiáng)I型Ai1s AI推理加速I型Ai1 更多詳情請(qǐng)參見(jiàn)：AI加速實(shí)例總覽
GPU加速云服務(wù)器推薦配置
Ai1s（昇騰310） 深度學(xué)習(xí)推理，單芯片8G顯存 vCPU：2/4/8/16/32核 內(nèi)存：8/16/32/64/128GB 系統(tǒng)盤(pán)：40GB（默認(rèn)） 顯卡：1/2/4/8/16 Ascend 310 標(biāo)準(zhǔn)庫(kù)支持：Atlas DDKPi2（T4） 深度學(xué)習(xí)推理 vCPU：8/16/32核 內(nèi)存：32/64/128GB 系統(tǒng)盤(pán)：40GB（默認(rèn)） 顯卡：1/2/4 T4 標(biāo)準(zhǔn)庫(kù)支持：CUDA/OpenCLG5（V100） CPU核多，適合對(duì)于CPU和GPU資源要求都高的推理業(yè)務(wù) 深度學(xué)習(xí)訓(xùn)練，視頻AI推理，語(yǔ)音語(yǔ)義分析 vCPU：32核 內(nèi)存：128 GB 系統(tǒng)盤(pán)：40GB（默認(rèn)） 顯卡：1 V100 標(biāo)準(zhǔn)庫(kù)支持：CUDA/openGL
云服務(wù)器鯤鵬AI推理加速型實(shí)例
鯤鵬AI推理加速型 鯤鵬AI推理加速型實(shí)例kAi1s是以華為昇騰310（Ascend 310）芯片為加速核心的AI加速型彈性云服務(wù)器?；贏scend 310芯片低功耗、高算力特性，實(shí)現(xiàn)了能效比的大幅提升，助力AI推理業(yè)務(wù)的快速普及。通過(guò)AI推理加速型實(shí)例kAi1s將Ascend 310芯片的計(jì)算加速能力在公有云上開(kāi)放出來(lái)，方便用戶快速簡(jiǎn)捷地使用Ascend 310芯片強(qiáng)大的處理能力。 鯤鵬AI推理加速型實(shí)例kAi1s基于Altas300加速卡設(shè)計(jì)，更多詳細(xì)信息請(qǐng)參考：昇騰開(kāi)發(fā)者社區(qū) 鯤鵬AI推理加速型云服務(wù)器可用于機(jī)器視覺(jué)、 語(yǔ)音識(shí)別 、自然語(yǔ)言處理通用技術(shù)，支撐智能零售、智能園區(qū)、機(jī)器人云大腦、平安城市等場(chǎng)景。 實(shí)例規(guī)格請(qǐng)參見(jiàn)：kAi1s型彈性云服務(wù)器的規(guī)格
華為HiLensModelBox開(kāi)發(fā)框架
ModelBox ModelBox為端邊云統(tǒng)一AI應(yīng)用開(kāi)發(fā)框架，目的是讓模型以統(tǒng)一的格式和接口更高效地運(yùn)行。開(kāi)發(fā)者在華為云AI開(kāi)發(fā)生產(chǎn)線ModelArts上完成模型的訓(xùn)練和優(yōu)化之后，使用ModelBox框架完成應(yīng)用的開(kāi)發(fā)，支持部署到端、邊、云場(chǎng)景的不同設(shè)備中運(yùn)行，打通行業(yè)AI應(yīng)用落地最后一公里。 優(yōu)勢(shì) 高性能并發(fā)調(diào)度引擎 ModelBox中將所有的任務(wù)都以功能單元的形式封裝，由多個(gè)功能單元構(gòu)成一個(gè)完整的應(yīng)用。執(zhí)行時(shí)，功能單元的計(jì)算將統(tǒng)一由線程池并發(fā)調(diào)度，確保計(jì)算單元被分配到對(duì)應(yīng)的異構(gòu)硬件中執(zhí)行。同時(shí)，計(jì)算中，數(shù)據(jù)和執(zhí)行單元綁定，保證數(shù)據(jù)處理的合理分配和高吞吐量。 預(yù)制的應(yīng)用編排異構(gòu)計(jì)算組件 豐富的組件覆蓋了主流芯片、多數(shù)操作系統(tǒng)和主流的推理框架，做到了屏蔽芯片層、操作系統(tǒng)、推理架構(gòu)這三個(gè)層次的平臺(tái)差異 。 端邊云 AI 協(xié)同單元 框架中提供的端邊云AI協(xié)同單元讓開(kāi)發(fā)者快速寫(xiě)出格式一致的AI應(yīng)用，并結(jié)合場(chǎng)景需求一鍵部署到端邊云不同的設(shè)備上運(yùn)行。 建議搭配使用：ModelArts、 對(duì)象存儲(chǔ)服務(wù) OBS