傳統(tǒng)數(shù)據(jù)中心向人工智能（AI）轉(zhuǎn)型已是大勢所趨。

一方面，從智能客服、智能安防、智能風(fēng)控、智能運(yùn)維到智能質(zhì)檢，愈加豐富的智能化應(yīng)用致使存儲需求呈現(xiàn)指數(shù)級增長，并對數(shù)據(jù)中心的算力提出新的挑戰(zhàn)。

另一方面，AI 正打破傳統(tǒng)數(shù)據(jù)中心的管理和運(yùn)營模式，完成更為精準(zhǔn)的系統(tǒng)調(diào)優(yōu)、故障預(yù)判等任務(wù)，替代更多人力，減少能耗和資源浪費(fèi)，更大程度釋放生產(chǎn)力。

作為 AI 時(shí)代的基礎(chǔ)設(shè)施，AI 硬件正成為越來越多數(shù)據(jù)中心擴(kuò)容建設(shè)的關(guān)鍵所在。尤其是能源、銀行、保險(xiǎn)、制造、電信、醫(yī)療等重度存儲用戶，急需加速 AI 的基礎(chǔ)架構(gòu)方案。

當(dāng)超強(qiáng)計(jì)算力成為數(shù)據(jù)中心的剛需，NVIDIA GPU 憑借強(qiáng)大的并行計(jì)算和浮點(diǎn)能力突破了深度學(xué)習(xí)的算力瓶頸，成為 AI 硬件的首選。

然而，對于許多傳統(tǒng)數(shù)據(jù)中心而言，部署包含 AI 硬件的基礎(chǔ)設(shè)施，需要耗費(fèi)許多時(shí)間與人力。

對此，NVIDIA 基于 GPU 軟硬件生態(tài)系統(tǒng)，提供了一站式交付節(jié)點(diǎn)解決方案 DGX POD。

這一方案可以大大節(jié)省構(gòu)建基礎(chǔ)設(shè)施所花費(fèi)的時(shí)間，幫助數(shù)據(jù)中心輕松快速進(jìn)行 AI 部署，為擴(kuò)展多 GPU 服務(wù)器節(jié)點(diǎn)提供更多支持。

本期的智能內(nèi)參，我們推薦《NVIDIA DGX POD 數(shù)據(jù)中心參考設(shè)計(jì)》白皮書，從傳統(tǒng)數(shù)據(jù)中心的 AI 轉(zhuǎn)型之困著手，結(jié)合 DGX POD 的應(yīng)用實(shí)例，解讀 NVIDIA DGX POD 交付節(jié)點(diǎn)的核心亮點(diǎn)，為亟待快速轉(zhuǎn)型 AI 的數(shù)據(jù)中心架構(gòu)師，以及準(zhǔn)備構(gòu)建 AI 就緒型數(shù)據(jù)中心提供參考。如需查閱此白皮書《NVIDIA DGX POD 數(shù)據(jù)中心參考設(shè)計(jì)》，可直接點(diǎn)擊：NVIDIA DGX POD 數(shù)據(jù)中心參考設(shè)計(jì)白皮書 - 白皮書下載 - 英偉達(dá)AI計(jì)算專區(qū) - 智東西下載。

以下為智能內(nèi)參整理呈現(xiàn)的干貨：

數(shù)據(jù)中心 AI 轉(zhuǎn)型遭遇困局

大數(shù)據(jù)、AI 與云計(jì)算等新興技術(shù)卷起新的浪潮，在各類數(shù)據(jù)中心中形成連鎖反應(yīng)。海量數(shù)據(jù)處理任務(wù)涌入數(shù)據(jù)中心，面對人工智能應(yīng)用的訓(xùn)練和推理，令傳統(tǒng)的CPU 服務(wù)器難以招架。

深度學(xué)習(xí)算法屬于計(jì)算密集型算法，與 NVIDIA GPU 計(jì)算架構(gòu)十分契合。過去 CPU 需要花數(shù)十天完成的計(jì)算任務(wù)，通用 GPU 只用幾小時(shí)就能完成，這大幅提升深度學(xué)習(xí)等并行處理數(shù)據(jù)方法的計(jì)算效率，使得以 GPU 為基礎(chǔ)的設(shè)備日漸成為各大數(shù)據(jù)中心進(jìn)行深度學(xué)習(xí)訓(xùn)練的首選。

然而，即便部署了強(qiáng)大的硬件設(shè)備，也不意味著數(shù)據(jù)中心的 AI 轉(zhuǎn)型計(jì)劃就萬事俱備了，還有一個(gè)關(guān)鍵問題擺在眼前——架構(gòu)設(shè)計(jì)。

數(shù)據(jù)中心需要考慮的因素遠(yuǎn)不止算力，還需兼顧網(wǎng)絡(luò)、存儲、電源、散熱、管理和軟件等方面問題。

硬件組合不是簡單粗暴的積木堆疊，并不是說計(jì)算節(jié)點(diǎn)越多，性能就會隨之線性增長。其計(jì)算性能會受制于高速互聯(lián)網(wǎng)絡(luò)，一旦出現(xiàn)數(shù)據(jù)擁堵，整機(jī)系統(tǒng)的效率都可能被拖累。另外，過多計(jì)算硬件堆疊，可能導(dǎo)致功耗過大，不利于日后的運(yùn)營。

因此，數(shù)據(jù)中心必須思考如何打造了降本增效的最佳方式，將各種硬件資源協(xié)同組合，在穩(wěn)定安全的狀態(tài)下，以超低延遲和高帶寬訪問數(shù)據(jù)集。

這對于缺乏 AI 部署經(jīng)驗(yàn)的傳統(tǒng)數(shù)據(jù)中心而言，無疑是個(gè)不小的挑戰(zhàn)。如果 DIY GPU 計(jì)算節(jié)點(diǎn)，不僅需要耗費(fèi)人力和時(shí)間成本，還要考慮計(jì)算、存儲、交換機(jī)等各種硬件設(shè)備的集成兼容問題。

對于這一痛點(diǎn)，NVIDIA 提供了一個(gè)頗有吸引力的解決方案。

它通過與領(lǐng)先的存儲、網(wǎng)絡(luò)交換技術(shù)提供商合作，提供一系列 DGX POD 數(shù)據(jù)中心交付節(jié)點(diǎn)設(shè)計(jì)參考架構(gòu)，將 NVIDIA 長期積累的超大規(guī)模數(shù)據(jù)中心 AI 部署經(jīng)驗(yàn)，轉(zhuǎn)化為可復(fù)制方案，無論是大中小型數(shù)據(jù)中心，均可以直接參考使用。

NVIDIA AI 超級計(jì)算機(jī)構(gòu)建經(jīng)驗(yàn)轉(zhuǎn)換

DGX POD 交付節(jié)點(diǎn)（Point of Delivery）是一種經(jīng)優(yōu)化的數(shù)據(jù)中心機(jī)架，包含多臺 DGX-1 或 DGX-2 服務(wù)器、存儲服務(wù)器和網(wǎng)絡(luò)交換機(jī)等最佳實(shí)踐。

▲ DGX POD 參考架構(gòu)正面圖

這是 NVIDIA 構(gòu)建大量超大規(guī)模 GPU 加速計(jì)算節(jié)點(diǎn)的經(jīng)驗(yàn)之集大成者。NVIDIA 曾建立了大型的 AI 數(shù)據(jù)中心，包含數(shù)千臺領(lǐng)先的 DGX 服務(wù)器加速計(jì)算節(jié)點(diǎn)。

今年6月，NVIDIA 宣布推出全球速度排名第22位的超級計(jì)算機(jī) DGX SuperPOD，為企業(yè)快速部署自動駕駛汽車項(xiàng)目，提供同等大小的超算無法匹敵的 AI 性能。

SATURNV 亦是 NVIDIA 基于 DGX 系統(tǒng)構(gòu)建的 AI 超級計(jì)算機(jī)，支持自動駕駛汽車、機(jī)器人、顯卡、HPC 等多領(lǐng)域的 NVIDIA 內(nèi)部 AI 研發(fā)。早在2016年推出之際，DGX SATURNV 就登上 Green 500 超算榜第一，被評為全球最經(jīng)濟(jì)高效的超算，整體運(yùn)算速度位列第28位，是最快的 AI 超算。

基于使用 SATURNV 所遵循的設(shè)計(jì)原則和架構(gòu)，NVIDIA 在短短三周內(nèi)就打造出一套基于 NVIDIA DGX-2 配置的全新系統(tǒng) DGX SuperPOD。近期 NVIDIA 借助一套基于 DGX-2 的配置在 MLPerf 基準(zhǔn)測試中創(chuàng)下六項(xiàng) AI 性能記錄。

在將 DGX SATURAN 打造成所有企業(yè)都可復(fù)制的、經(jīng)驗(yàn)證的設(shè)計(jì)過程中，NVIDIA 經(jīng)過實(shí)地檢驗(yàn)積累了豐富的經(jīng)驗(yàn)，并將計(jì)算、網(wǎng)絡(luò)、存儲等多方面的最佳實(shí)踐，集中于 NVIDIA DGX POD 的設(shè)計(jì)之中。

如今，包括 Arista、思科、DDN、Dell EMC、IBM Storage、Mellanox、NetApp 和 Pure Storage 等在內(nèi)的業(yè)內(nèi)數(shù)據(jù)中心領(lǐng)導(dǎo)者已圍繞 DGX POD，推出了基于其各自特有技術(shù)的相關(guān)產(chǎn)品。

這些集成系統(tǒng)均為客戶提供經(jīng)過經(jīng)驗(yàn)驗(yàn)證的可靠方法，這意味著，每個(gè)企業(yè)都能量身定制完全適配自身需求的 AI 超算中心。

例如，基于 DGX POD，NetApp 推出了 NetApp ONTAP AI 融合基礎(chǔ)架構(gòu)。其由 NVIDIA DGX-1 服務(wù)器、 NetApp 云互聯(lián)存儲系統(tǒng)提供支持，是 NVIDIA 和 NetApp 聯(lián)合開發(fā)和驗(yàn)證的架構(gòu)。

借助這一架構(gòu)，企業(yè)可以從小規(guī)模起步進(jìn)行無縫擴(kuò)展，智能管理跨邊緣、核心和云以及反向數(shù)據(jù)傳輸?shù)耐暾�深度學(xué)習(xí)數(shù)據(jù)管道，簡化 AI 部署。

圍繞 NVIDIA DGX POD 參考架構(gòu)和 NetApp ONTAP AI，英國劍橋咨詢公司構(gòu)建了一套專門的 AI 研究設(shè)施，用于訓(xùn)練一個(gè)能即刻準(zhǔn)確識別各種音樂流派的 AI “狂熱愛好者”。

借助參考框架，其 AI 項(xiàng)目所帶來的對計(jì)算、存儲、網(wǎng)絡(luò)設(shè)施的需求均得到滿足。經(jīng)過在16臺 NVIDIA GPU 上接受數(shù)百小時(shí)的音樂訓(xùn)練，這位特殊的音樂愛好者，在“聽音識流派”的準(zhǔn)確度上，甚至超越了人類和傳統(tǒng)編程。

AI 軟件：調(diào)優(yōu) DGX 硬件，降低管理門檻

除了設(shè)計(jì)優(yōu)化的 DGX 服務(wù)器、存儲服務(wù)器和網(wǎng)絡(luò)交換機(jī)組合 ，DGX POD 上還運(yùn)行一整套適配的 NVIDIA AI 軟件堆棧，極大簡化 DGX POD 的日常操作與維護(hù)，為大規(guī)模多用戶 AI 軟件開發(fā)團(tuán)隊(duì)提供高性能的深度學(xué)習(xí)訓(xùn)練環(huán)境。

▲ NVIDIA AI 軟件堆棧

NVIDIA AI 軟件包括 DGX 操作系統(tǒng)（DGX OS）、集群管理和協(xié)調(diào)工具、工作負(fù)載調(diào)度器、來自 NVIDIA GPU Cloud (NGC) 容器注冊表的和優(yōu)化容器，可以為使用者提供優(yōu)化的操作體驗(yàn)。

DGX POD 管理軟件可根據(jù)需要，自動創(chuàng)新安裝 DGX OS。DGX OS 是 NVIDIA AI 軟件堆棧的基礎(chǔ)，基于優(yōu)化版 Ubuntu Linux 操作系統(tǒng)構(gòu)建，并專門針對 DGX 硬件進(jìn)行調(diào)優(yōu)，支持各種 NVIDIA 庫和框架及 GPU 的容器進(jìn)行時(shí)。

▲ DGX POD 管理軟件層

DGX POD 管理軟件層由 Kubernete 容器協(xié)調(diào)框架上運(yùn)行的各項(xiàng)服務(wù)組成，可通過網(wǎng)絡(luò)（PXE）為動態(tài)主機(jī)配置協(xié)議（DHCP）和全自動 DGX OS 軟件配置提供服務(wù)。

通過使用其簡單的用戶界面，管理員可在由 Kubernetes 和 Slurm 管理的域中移動 DGX 服務(wù)器。未來 Kubernetes 增強(qiáng)功能預(yù)計(jì)在純 Kubernetes 環(huán)境中，支持所有 DGX POD 用例。

DGX POD 上的 NVIDIA AI 軟件可借助 Ansible 配置管理工具進(jìn)行管理，白皮書中有提供其開源的軟件管理堆棧和文檔在 Github 上的鏈接。

智東西認(rèn)為，DGX POD 一站式交付節(jié)點(diǎn)解決方案，不僅能加速數(shù)據(jù)中心的 AI 部署效率，同時(shí)也通過提供更強(qiáng)大的算力，大幅度提升數(shù)據(jù)的利用效率。

當(dāng)前，很多數(shù)據(jù)中心剛剛踏入或計(jì)劃踏入 AI 的大門，而當(dāng)下主流的深度學(xué)習(xí)算法必須配備專業(yè)的 AI 基礎(chǔ)設(shè)施�；�于 NVIDIA DGX POD 的架構(gòu)方案，對于快速構(gòu)建大規(guī)模 AI 計(jì)算集群非常具有參考價(jià)值。隨著此類基礎(chǔ)架構(gòu)逐漸普及，更多數(shù)據(jù)中心將得以消除設(shè)備與資本預(yù)算之間的鴻溝。

這只是 NVIDIA 打造 AI 就緒型數(shù)據(jù)中心宏圖的重要版面之一，利用 DGX-1、DGX-2 服務(wù)器和NVIDIA GPU 大規(guī)模計(jì)算架構(gòu)的發(fā)展進(jìn)步，NVIDIA 正將機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和高性能計(jì)算（HPC）擴(kuò)展到更多的數(shù)據(jù)中心，為金融、能源、制造、電信、醫(yī)療、科學(xué)計(jì)算等更多行業(yè)的生產(chǎn)力提升提供動力引擎。

【凡本網(wǎng)注明來源非中國IDC圈的作品，均轉(zhuǎn)載自其它媒體，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé)�！�