Microsoft用來(lái)擴(kuò)展基于云的人工智能邊界的不斷增長(zhǎng)的技術(shù)中

將Kubernetes添加到Microsoft用來(lái)擴(kuò)展基于云的人工智能邊界的不斷增長(zhǎng)的技術(shù)中。流行的開(kāi)源容器編排平臺(tái)Kubernetes 在2017年取得了突破性的發(fā)展?，F(xiàn)在，除了幫助企業(yè)在云或本地管理其應(yīng)用程序容器部署外，還招募了Kubernetes，以便為基于云的AI工作負(fù)載提供在需求回升時(shí)完成工作所需的空間。

微軟推出了一種新的自動(dòng)擴(kuò)展系統(tǒng)，該系統(tǒng)使用Kubernetes來(lái)擴(kuò)展或縮減學(xué)習(xí)培訓(xùn)工作負(fù)載所需的云計(jì)算資源量。該系統(tǒng)是與加利福尼亞州圣何塞市的技術(shù)初創(chuàng)公司Litbit合作開(kāi)發(fā)的，該公司使用物聯(lián)網(wǎng)數(shù)據(jù)創(chuàng)建“ AI角色”，工作場(chǎng)所可根據(jù)其集體經(jīng)驗(yàn)和專有技術(shù)來(lái)增強(qiáng)員工的能力。

例如，組織可以創(chuàng)建和培訓(xùn)角色，以幫助其現(xiàn)場(chǎng)技術(shù)人員在跳上工作卡車并親自拜訪正在起作用以節(jié)省時(shí)間和費(fèi)用的機(jī)械之前，檢測(cè)并診斷設(shè)備問(wèn)題。

事實(shí)證明，這是一個(gè)艱巨的任務(wù)，而且是一個(gè)不可預(yù)測(cè)的任務(wù)。Litbit發(fā)現(xiàn)，由于客戶在不同時(shí)間訓(xùn)練其角色，因此AI訓(xùn)練工作負(fù)載的變化很大。

“其中一些訓(xùn)練工作(例如Spark ML)大量使用CPU，而其他一些工作(例如TensorFlow)大量使用GPU。在后一種情況下，某些工作會(huì)重新訓(xùn)練神經(jīng)網(wǎng)絡(luò)的單個(gè)層并很快完成，而其他人則需要訓(xùn)練整個(gè)新的神經(jīng)網(wǎng)絡(luò)，這可能需要數(shù)小時(shí)甚至數(shù)天。”微軟代表在博客中解釋道。

微軟和Litbit選擇了Kubernetes，部分原因是因?yàn)槠涑墒斓募汗芾砑夹g(shù)，而且還因?yàn)樵擁?xiàng)目在短短幾年內(nèi)吸引了社區(qū)的大力支持。盡管該項(xiàng)目始于Google，但仍被視為L(zhǎng)inux基金會(huì)的Cloud Native Computing Foundation(CNCF)的頭等大事。

兩家公司著手通過(guò)使用適用于Kubernetes的Azure CNI網(wǎng)絡(luò)插件在具有GPU支持的Azure上配置Kubernetes群集來(lái)解決高度可變的機(jī)器學(xué)習(xí)工作負(fù)載的問(wèn)題。然后，他們使用用于Kubernetes的Helm軟件包管理器應(yīng)用了節(jié)點(diǎn)級(jí)自動(dòng)縮放器，隨后進(jìn)行了一些配置更改，以啟動(dòng)和運(yùn)行系統(tǒng)。

該項(xiàng)目是成功的。該系統(tǒng)已經(jīng)運(yùn)行了四個(gè)月，它使Litbit一次可以擴(kuò)展到40個(gè)節(jié)點(diǎn)，并且在需求減少時(shí)可以無(wú)縫縮減規(guī)模。微軟已經(jīng)在其開(kāi)發(fā)者博客上發(fā)布了Kubernetes自動(dòng)縮放器的完整演練。

反映出困擾企業(yè)DevOps團(tuán)隊(duì)的容器熱潮，微軟對(duì)Kubernetes的支持增加了一倍。

在今年12月初的KubeCon會(huì)議上，微軟宣布其Azure容器服務(wù)現(xiàn)已縮寫(xiě)為AKS，這表示該公司以客戶為中心，以Kubernetes為中心的云原生應(yīng)用程序開(kāi)發(fā)方法。該公司還推出了一個(gè)名為Virtual Kubelet的新連接器，該連接器使用戶可以定位該公司的快速容器創(chuàng)建和部署服務(wù)Azure容器實(shí)例(ACI)。