華為NPU卡 Atlas 300T Pro 訓練卡-1*昇騰910 AI 16Core 2.2GHz(集成30個華為達芬奇AI Core + 16個TaiShan核),32GB,1228GB/s,300W,FP16-140TOPS,INT8-280TOPS,100Gb,1*100GE QSFP-DD接口,雙寬全高全長
無需外置網(wǎng)卡,訓練數(shù)據(jù)和梯度同步效率提升10%~70%。
三、經(jīng)典使用場景
Atlas 300T Pro 訓練卡 (型號 9000)典型應用場景為AI訓練,人機交互操作,如圖3-1所示。
圖3-1 典型單機用戶
系統(tǒng)管理員:操作界面是iBMC系統(tǒng),通過帶外的方式實現(xiàn)設備管理,包含OS安裝,固件升級,服務器系統(tǒng)信息查詢,故障處理。
生產(chǎn)裝備人員:通過裝備系統(tǒng)與iBMC系統(tǒng)(帶外)和OS系統(tǒng)(帶內)交互完成。
算法工程師:通過Tensorflow等AI框架開發(fā)網(wǎng)絡模型,調試訓練代碼,導入訓練數(shù)據(jù)集,啟動訓練,觀測訓練過程(包含多次迭代的loss趨勢),導出訓練好的模型。