模型訓(xùn)練亮點特性
-
收起
了解更多
-
收起
了解更多分布式訓(xùn)練 收起
主要介紹基于Pytorch引擎的單機多卡數(shù)據(jù)并行訓(xùn)練、多機多卡數(shù)據(jù)并行訓(xùn)練。同時,也提供了分布式訓(xùn)練的適配教程和分布式調(diào)測的代碼示例,可在PyCharm/VSCode/JupyterLab等開發(fā)工具中調(diào)試分布式訓(xùn)練。
-
收起
了解更多模型訓(xùn)練加速 收起
針對AI訓(xùn)練場景中大模型Checkpoint保存和加載帶來的I/O挑戰(zhàn),華為云提供了基于對象存儲服務(wù)OBS+高性能文件服務(wù)SFS Turbo的AI云存儲解決方案。