ZStackGPU解決方案是怎樣的

ZStack GPU解決方案是怎樣的，很多新手對(duì)此不是很清楚，為了幫助大家解決這個(gè)難題，下面小編將為大家詳細(xì)講解，有這方面需求的人可以來(lái)學(xué)習(xí)下，希望你能有所收獲。

目前創(chuàng)新互聯(lián)已為上1000+的企業(yè)提供了網(wǎng)站建設(shè)、域名、網(wǎng)絡(luò)空間、網(wǎng)站托管運(yùn)營(yíng)、企業(yè)網(wǎng)站設(shè)計(jì)、黃埔網(wǎng)站維護(hù)等服務(wù)，公司將堅(jiān)持客戶(hù)導(dǎo)向、應(yīng)用為本的策略，正道將秉承"和諧、參與、激情"的文化，與客戶(hù)和合作伙伴齊心協(xié)力一起成長(zhǎng)，共同發(fā)展。

在之前發(fā)布的ZStack 3.5.0版本中，ZStack新增了對(duì)于NVIDIA及AMD vGPU方案的支持，從而在云中實(shí)現(xiàn)支持GPU透?jìng)鳌GPU兩種GPU方案的完善GPU云平臺(tái)解決方案，能夠幫助用戶(hù)在云中實(shí)現(xiàn)工業(yè)設(shè)計(jì)、圖形渲染、教學(xué)科研、深度學(xué)習(xí)等更為豐富的GPU應(yīng)用場(chǎng)景。

前言

隨著虛擬化與云計(jì)算技術(shù)的快速發(fā)展，越來(lái)越多的用戶(hù)將應(yīng)用遷移到云上。在這個(gè)過(guò)程中，用戶(hù)希望一些特定的業(yè)務(wù)場(chǎng)景既能夠在云環(huán)境中獲得靈活、高效的資源交付能力，又能夠獲取與物理機(jī)無(wú)異的資源計(jì)算性能。GPU作為一種資源設(shè)備，近幾年來(lái)隨著大數(shù)據(jù)、人工智能等深度學(xué)習(xí)相關(guān)應(yīng)用的深入，這一技術(shù)在云中的應(yīng)用需求日益加深。

本文旨在以通俗易懂的方式讓各位讀者對(duì)于云中的GPU方案有一定的概況性了解。

一．了解GPU

在了解GPU之前，我們需要先了解GPU與我們最熟悉且常用的CPU區(qū)別：雖然兩者都為了完成計(jì)算任務(wù)而設(shè)計(jì)，但各有側(cè)重。

CPU 由專(zhuān)為串行順序執(zhí)行指令而設(shè)計(jì)的幾個(gè)核心組成，主要是面向通用計(jì)算場(chǎng)景；

8個(gè)計(jì)算核心，每個(gè)計(jì)算核心計(jì)算力都相對(duì)較強(qiáng)

而 GPU 則是擁有一個(gè)由數(shù)以千計(jì)的更小核心組成的大規(guī)模并行計(jì)算架構(gòu)。更側(cè)重用于面向并行計(jì)算場(chǎng)景；

1000個(gè)計(jì)算核心，單個(gè)計(jì)算核心計(jì)算力相對(duì)一般，綜合計(jì)算力強(qiáng)大

舉一個(gè)比較容易理解的例子：

CPU可以比作一個(gè)數(shù)學(xué)教授，當(dāng)解答一道或幾道高難度數(shù)學(xué)問(wèn)題時(shí)，效率更高；

GPU可以比作100個(gè)中學(xué)生，當(dāng)解答數(shù)百上千低難度數(shù)學(xué)問(wèn)題時(shí)，效率更高。

因此在實(shí)際應(yīng)用場(chǎng)景中，GPU非常適合用于需要大量簡(jiǎn)單、重復(fù)、并行、矩陣等計(jì)算能力的場(chǎng)景。下面通過(guò)以下兩個(gè)典型的GPU應(yīng)用場(chǎng)景來(lái)進(jìn)行需求說(shuō)明。

二．GPU應(yīng)用場(chǎng)景

1.重GPU計(jì)算力需求場(chǎng)景

某市交管部門(mén)構(gòu)建城市大數(shù)據(jù)智能交通調(diào)度系統(tǒng)以緩解繞城高速交通擁堵情況，建設(shè)規(guī)劃將系統(tǒng)構(gòu)建在云環(huán)境中，以解決部署在物理機(jī)環(huán)境中所存在的安裝周期長(zhǎng)、運(yùn)維效率低下等問(wèn)題，因此，如何將物理GPU設(shè)備交付給部署在云環(huán)境中人工智能應(yīng)用以使用是項(xiàng)目的關(guān)鍵技術(shù)需求。

2.輕GPU計(jì)算力需求場(chǎng)景

某制造型企業(yè)期望為工業(yè)設(shè)計(jì)人員部署云桌面以保護(hù)企業(yè)數(shù)據(jù)安全，還要簡(jiǎn)化桌面運(yùn)維管理。但這需要依賴(lài)GPU的圖形計(jì)算力以實(shí)現(xiàn)在云環(huán)境中運(yùn)行工業(yè)設(shè)計(jì)軟件這一需求。

在以上場(chǎng)景中，分別通過(guò)GPU透?jìng)骷皏GPU技術(shù)在云中交付GPU資源是滿(mǎn)足用戶(hù)需求的主要技術(shù)手段。

下面我們來(lái)進(jìn)一步介紹以上兩種云中GPU實(shí)現(xiàn)方案。

三．GPU云化方案

1. GPU透?jìng)?/strong>

GPU透?jìng)髦饕夹g(shù)原理是通過(guò)將宿主機(jī)（物理機(jī)）上GPU設(shè)備的PCI內(nèi)存地址映射給云主機(jī)，從而能夠繞過(guò)云環(huán)境中的虛擬化管理程序，將GPU設(shè)備直接加載給云主機(jī)進(jìn)行使用。

透?jìng)骱髮?duì)比在物理機(jī)上使用GPU設(shè)備的優(yōu)缺點(diǎn)如下：

1. 優(yōu)點(diǎn)：性能損耗<5%、功能兼容性好（如2D/3D/圖形渲染/CUDA等功能）、技術(shù)實(shí)現(xiàn)簡(jiǎn)單（對(duì)GPU廠商無(wú)依賴(lài)）、運(yùn)維成本低；

2. 缺點(diǎn)：無(wú)法將GPU設(shè)備與其他云主機(jī)共享、已掛載GPU的云主機(jī)不支持熱遷移；

3. 場(chǎng)景：深度學(xué)習(xí)、人工智能、高性能計(jì)算等；

2. vGPU（GPU虛擬化）

在vGPU實(shí)現(xiàn)方案上，由于目前市場(chǎng)上GPU廠商分為NVIDIA、AMD，因此在對(duì)接不同品牌GPU設(shè)備時(shí)所采用的vGPU技術(shù)方案也不一樣。

3. AMD vGPU方案

首先我們來(lái)看一下AMD vGPU的方案，其設(shè)計(jì)遵循了SRIOV規(guī)范，這個(gè)規(guī)范定義了以標(biāo)準(zhǔn)化的方式支持實(shí)現(xiàn)多個(gè)云主機(jī)共享一個(gè)PCI設(shè)備：可理解為一個(gè)PCI設(shè)備在物理層面上被切分為多個(gè)，并且每個(gè)都是符合PCI標(biāo)準(zhǔn)的PCI設(shè)備。而由于這個(gè)能力，切分后的每個(gè)單元都可以再通過(guò)PCI透?jìng)鞯姆绞椒謩e提供給多個(gè)云主機(jī)使用。GPU作為一種典型PCI設(shè)備，自然也支持以上技術(shù)的實(shí)現(xiàn)，AMD vGPU方案就是如此。

在了解完原理之后，我們來(lái)看一下這種GPU虛擬化方案的優(yōu)缺點(diǎn)：

1. 優(yōu)點(diǎn)：與GPU透?jìng)鞣桨赶啾?，性能損耗極小；功能兼容性好（如2D/3D/圖形渲染/OpenCL等功能）、支持加載vGPU設(shè)備的云主機(jī)熱遷移（技術(shù)上支持，云廠商各自實(shí)現(xiàn)情況不同）；

2. 缺點(diǎn)：硬件設(shè)計(jì)相對(duì)復(fù)雜同時(shí)硬件更新周期長(zhǎng)、云平臺(tái)無(wú)法有效獲取設(shè)備監(jiān)控信息；

3. 場(chǎng)景：在虛擬桌面中運(yùn)行工業(yè)設(shè)計(jì)、圖形渲染，或人工智能教學(xué)科研環(huán)境中；

4. NIVDIA vGPU方案

區(qū)別于AMD vGPU所使用SR-IOV方案，Mediated Passthrough（分片透?jìng)鳎┦荖IVDIA vGPU方案所使用的關(guān)鍵技術(shù)。Mediated Passthrough是一種完全軟件定義的GPU虛擬化解決方案，其技術(shù)原理主要為：對(duì)于與GPU性能相關(guān)的訪(fǎng)問(wèn)直接透?jìng)鹘o云主機(jī)，把與性能無(wú)關(guān)功能的相關(guān)訪(fǎng)問(wèn)在Mdev模塊中來(lái)模擬實(shí)現(xiàn)。Mdev是此方案的關(guān)鍵技術(shù)，簡(jiǎn)單解釋一下，Mdev即mediated 設(shè)備框架，能夠驅(qū)動(dòng)VFIO框架及接口支持虛擬PCI設(shè)備，因此也就能夠完全基于軟件實(shí)現(xiàn)，將宿主機(jī)上的物理GPU切分成為多個(gè)虛擬GPU設(shè)備并進(jìn)行共享。

同樣，我們也來(lái)看一下此方案的優(yōu)缺點(diǎn)：

優(yōu)點(diǎn)：與GPU透?jìng)鞣桨赶啾刃阅軗p耗極??；軟件定義更靈活（如更新迭代速度更快不受限于硬件）；云平臺(tái)可以獲取到vGPU設(shè)備監(jiān)控信息；支持加載vGPU設(shè)備的云主機(jī)熱遷移（技術(shù)上支持，云廠商各自實(shí)現(xiàn)情況不同）；

缺點(diǎn)：依賴(lài)于GPU硬件廠商開(kāi)發(fā)Mdev驅(qū)動(dòng)；功能上由于是Mdev模擬，所以有所取舍。

四．總結(jié)

1. 區(qū)別于CPU面向通用計(jì)算場(chǎng)景，GPU側(cè)重于簡(jiǎn)單、重復(fù)性、并行、矩陣等計(jì)算場(chǎng)景，如圖形渲染、視頻編解碼、并行計(jì)算場(chǎng)景；

2. 在云中使用GPU設(shè)備主要有兩種技術(shù)實(shí)現(xiàn)方案，GPU透?jìng)髋cvGPU（GPU虛擬化）；

3. GPU透?jìng)鞣桨笇PU設(shè)備透?jìng)鹘o云主機(jī)使用，云主機(jī)獨(dú)占該GPU資源，性能好、功能兼容強(qiáng)，適合深度學(xué)習(xí)、人工智能、高性能計(jì)算等重負(fù)載場(chǎng)景；

4. vGPU是一種GPU虛擬化方案，GPU資源能夠被切分后分配給多個(gè)云主機(jī)共享使用。vGPU方案中NIVDIA/AMD技術(shù)實(shí)現(xiàn)方式有所不同，NIVDIA是軟件虛擬化方案、AMD是硬件虛擬化方案，兩種方案性能相當(dāng)；vGPU典型場(chǎng)景適合應(yīng)用于虛擬桌面中運(yùn)行工業(yè)設(shè)計(jì)、圖形渲染或人工智能教學(xué)科研等輕負(fù)載場(chǎng)景；

5. ZStack 3.5.0版本開(kāi)始對(duì)以上GPU方案均支持；

看完上述內(nèi)容是否對(duì)您有幫助呢？如果還想對(duì)相關(guān)知識(shí)有進(jìn)一步的了解或閱讀更多相關(guān)文章，請(qǐng)關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道，感謝您對(duì)創(chuàng)新互聯(lián)的支持。