華為云計(jì)算 云知識(shí) 數(shù)據(jù)接入服務(wù)功能描述
數(shù)據(jù)接入服務(wù)功能描述

數(shù)據(jù)采集

RestAPI、SDK、Agent對(duì)接多種數(shù)據(jù)源,線上線下數(shù)據(jù)實(shí)時(shí)采集

支持多種數(shù)據(jù)源:DIS支持從用戶應(yīng)用系統(tǒng)、kafka系統(tǒng)、Flume系統(tǒng)做實(shí)時(shí)數(shù)據(jù)采集

多種數(shù)據(jù)接入方式:提供RestAPI、SDK、Agent等多種數(shù)據(jù)接入方式,用戶只需簡(jiǎn)單配置即可實(shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)采集與傳輸

數(shù)據(jù)傳輸

實(shí)時(shí)數(shù)據(jù)高并發(fā)、低延時(shí)、高可靠傳輸

DIS提供百萬(wàn)連接并發(fā),單數(shù)據(jù)流最高支持每日TB級(jí)別的數(shù)據(jù)量寫(xiě)入,每個(gè)分區(qū)(partition)支持最高每日百GB級(jí)別的寫(xiě)入量

每個(gè)數(shù)據(jù)流的吞吐能力可以通過(guò)動(dòng)態(tài)增加partition進(jìn)行擴(kuò)展

數(shù)據(jù)流動(dòng)

提供多種connector,對(duì)接云上數(shù)據(jù)存儲(chǔ)、計(jì)算、分析等多種服務(wù),實(shí)現(xiàn)用戶數(shù)據(jù)自由流動(dòng)

DIS與華為云上的OBS( 對(duì)象存儲(chǔ)服務(wù) )、MRS( MapReduce服務(wù) )、DWS( 數(shù)據(jù)倉(cāng)庫(kù) 服務(wù))、CloudTable( 表格存儲(chǔ)服務(wù) )、DLI( 數(shù)據(jù)湖探索 )、CS( 實(shí)時(shí)流計(jì)算服務(wù) )、FunctionGraph( 函數(shù)工作流 )等服務(wù)集成,用戶通過(guò)簡(jiǎn)單配置即可完成數(shù)據(jù)轉(zhuǎn)儲(chǔ)、計(jì)算、分析等功能

數(shù)據(jù)處理

預(yù)置數(shù)據(jù)抽取、匯聚、格式轉(zhuǎn)換等Connector(處理算子),對(duì)用戶輸入數(shù)據(jù)做預(yù)處理

DIS預(yù)置Connector對(duì)接入數(shù)據(jù)做初步處理,提供CSV/Json到Parquet/CarbonData等格式的轉(zhuǎn)換,提升用戶數(shù)據(jù)質(zhì)量

數(shù)據(jù)緩存

實(shí)時(shí)數(shù)據(jù)緩存1-3天,保證實(shí)時(shí)數(shù)據(jù)消費(fèi)可靠性

數(shù)據(jù)接入服務(wù)功能描述