Google宣布在其機器學習平臺Vertex AI上提供私有端點(Private Endpoints),這是Vertex Predictions中的一項新功能,藉由VPC對等連接,用戶可以配置專用的連接與端點通訊,因此用戶的資料就不需要經過網際網路,不只提高安全性,也可以降低線上預測的延遲。

Vertex AI是Google在2021年開發者大會Google I/O,所發布的全託管機器學習平臺,該平臺由一系列機器學習工具組合而成,簡化企業部署和維護機器學習模型的工作。Vertex AI解決機器學習工具過於破碎,使得開發流程不順暢的問題,Vertex AI提供一致的UI和API,供用戶簡單地操作Google雲端服務,來簡化建構、訓練和部署大規模模型的任務。

Google提到,要即時提供機器學習模型預測是一大挑戰,能夠低延遲提供結果,對各產業的機器學習應用都非常重要。而這也就是Google推出Vertex AI私有端點的原因,應用VPC對等連接提供低延遲的網路連接。

VPC網路是一種全域資源,由資料中心的地區虛擬子網所構成,所有子網都透過全域網路連接,藉由VPC網路對等連接,用戶可以跨兩個VPC網路連接內部IP地址,無論IP地址是否屬於同一專案或是同一組織,最終使得所有流量都能留在Google網路中。

Vertex AI供用戶使用Vertex Predictions,以無伺服器的方式提供機器學習模型服務,用戶可以在雲中託管模型,並且透過REST API進行預測。當用戶要在線上進行模型預測,則需要將模型部署到端點,用戶能選擇端點機器類型和自動縮放等參數,提供低延遲的預測服務。

而現在用戶還可以選擇創建私有端點,限制資料永不穿過網際網路,所以私有端點除了能降低系統收到請求的時間,還具有安全性優勢,Google提到,部署模型至私有端點的額外開銷很小,而且實現的效能幾乎與在GKE或GCE自己提供服務相同。


熱門新聞

Advertisement