臺灣人工智慧學校校務長蔡明順指出,企業採用AI時,通常花8成時間在建置基礎建設,因此需要自動化技術來加速。

圖片來源: 

蔡明順

臺灣人工智慧學校校務長蔡明順今(29日)在一場線上會議上指出,近年深度學習崛起,許多企業擁抱AI,但卻面臨AI開發和部署速度不夠快的問題。他提出5種能加速採用AI的自動化技術,像是MLOps、AutoML、AIOps等,但他特別推薦能協助跨部門合作的MLOps。他更透露,臺灣人工智慧學校3年多來,都採用MLOps服務來優化上百位學員的開發需求和資源調度工作。

深度學習崛起,帶動企業擁抱AI

「Software 2.0時代已經來臨!」臺灣人工智慧學校校務長蔡明順說道。自1970年代出現商用軟體以來,寫程式一直是人類的專利,是Software 1.0的象徵,而2000年代網際網路興起,更把商用軟體推向數十億使用者,成為Software 1.0時代高峰。但2012年一場ImageNet大賽,深度學習崛起,揭開Software 2.0序幕,寫程式不再是人類專利,而將由深度學習主導。蔡明順直言,這個趨勢,甚至會成為第四波工業革命的關鍵。

深度學習的崛起,也影響市場發展。他指出,過去20年來的網際網路經濟,推波助瀾扶植出今日的AI巨頭,「比如1996年誕生的Amazon、1999年的Google、2004年的臉書,以及在2000年前後成立的騰訊、阿里巴巴。」以網際網路起家的這些科技大廠,紛紛押寶AI,也帶動一般企業投資AI,國外更預估,未來20年深度學習產生的市值,將超過網際網路10兆美元。

企業發展AI有6大關鍵,但企業花最多時間建置基礎建設

AI儼然成為企業標配,但企業要如何運用科技,促成商業發展?蔡明順整理出企業發展AI的6大關鍵,這些重點涵蓋基礎建設階段,以及用資料變現的生態系統階段。在基礎建設中,企業必須定義問題、找出合適的使用場域,並建立專屬資料庫。在生態系統階段,則有演算法、應用商模和資安法規等3要素,來讓企業將資料變現。

蔡明順解釋,基礎建設是企業發展AI最關鍵的階段,企業必須制定好資料處理流程、清理可分析資料,並規範出各類資料的存放位置。但他也指出,企業在這個階段反而花了8成時間才能做好,因此得仰賴自動化技術來加速。

用自動化技術加速AI開發、部署和管理,MLOps不容忽視

他也在今年的臺灣企業AI趨勢報告中,盤點5項能加速AI模型開發和部署的自動化技術,包含AutoML、AIOps、MLOps、數據虛擬化,以及低程式碼或無程式碼工具。進一步來說,AutoML平臺能加速企業實驗和試錯,AIOps則能協助DevOps團隊和使用數據(DataOps)的團隊自動管理IT基礎建設,MLOps則可促進跨部門的團隊協作,而數據虛擬化平臺則能保持開發靈活性,方便管理、檢視數據。最後,低程式碼和無程式碼工具可簡化AI的建模和部署。

在這些自動化技術中,他特別推薦MLOps,因為它能促進跨部門協作、形成ML生產鏈。一般來說,企業執行一個AI專案時,會有多種角色參與,像是資料工程師、機器學習工程師、業務分析師、DevOps團隊、App開發者等,來進行資料前處理、模型開發、訓練和評估,以及後續的模型部署、使用、商業化和監控等。

而MLOps可優化ML工作流程,比如在準備開發的階段,能半自動化或自動化處理配置、數據收集和特徵提取,來分攤SI、資料工程師與資料科學家的工作量。又或是在模型訓練階段,能自動化撰寫ML程式碼、管理機器學習資源,緩解資料科學家和IT人員的負荷。(如下圖)

不過,他也強調,MLOps結合AIOps能協助AI落地。因為,AIOps用機器學習來改善IT基礎建設,協助DevOps團隊和DataOps團隊監測AI開發環境是否正常,而MLOps則將模型開發、部署等流程標準化管理,還能監控模型上線後的表現,因此蔡明順認為,兩者結合能加速AI落地。

AI學校也用MLOps來管理學員ML資源

他也透露,自2018年1月開始,臺灣人工智慧學校就找來專攻MLOps的臺灣新創InfuseAI,採用其服務來管理數據虛擬化、資源配置和工作負載等項目。這是因為,臺灣人工智慧學校的技術專班要求每位學員動手實作ML專案,每班多達100人至300人,需自動化技術協助學員訓練模型。在算力部分,AI學校在全臺配置了66臺GPU伺服器(共512張顯卡),每位學員都配到1張卡來實作。當學員進行分組專題時,幾位同學的顯卡得分配一起使用,「這需要重新進行資源配置,得靠MLOps優化,」蔡明順說。


熱門新聞

Advertisement