圖片來源: 

微軟

微軟於本周二(8/22)在Hot Chips高效能晶片研討會上,揭露深度學習加速硬體平臺專案Brainwave,目的為即時人工智慧(AI)運算,讓系統能以超低延遲,在接收到要求指令的同時能夠快速處理。同時,Brainwave硬體平臺也提升了機器學習在雲端環境的運算效能。

Brainwave硬體平臺主要由3層架構所組成,包含了高效能的分散式系統架構、搭載深度神經網路(DNN)引擎的現場可程式邏輯閘陣列(FPGA)運算架構,以及用在訓練模型低摩擦部署(Low-Friction Deployment)的編譯器和Runtime。

而Brainwave採用了英特爾(Intel)具備FPGA加速運算能力的Stratix 10處理器,能夠維持39.5 Teraflops(每秒1兆次浮點運算)的運算速度,且不必批次處理。Brainwave更以龐大的GRU模型運作,微軟聲稱,比Resnet-50深度學習模型的執行效能高5倍

另外,微軟也在FPGA運算架構上整合了深度神經網路(DNN)引擎,這樣的架構能降低延遲,且FPGA架構處理要求的速度能達到網路串流接收請求的速度一樣快。

除此之外,微軟也在Brainwave內建了支援熱門深度學習框架的軟體堆疊,包含了微軟的認知工具包(Cognitive Toolkit)、Google的AI平臺Tensorflow等。

根據微軟官網,目前,微軟正在建置Brainwave硬體平臺至Azure,未來將提供Azure用戶雲端即時AI運算服務。

 


熱門新聞

Advertisement