在Dell工廠，我們現(xiàn)在有多個(gè)AI項(xiàng)目應(yīng)用于我們的生產(chǎn)和運(yùn)營。比如，我們在國內(nèi)工廠已經(jīng)使用全自動化生產(chǎn)線在生產(chǎn)我們的存儲陣列產(chǎn)品；我們正在應(yīng)用機(jī)器視覺技術(shù)進(jìn)行筆記本電腦的表面缺陷檢測；我們的供應(yīng)鏈團(tuán)隊(duì)在通過AI機(jī)器學(xué)習(xí)算法進(jìn)行庫存優(yōu)化和智能補(bǔ)貨，等等。

戴爾服務(wù)器目前提供的一款CloudIQ軟件，就是AI與產(chǎn)品運(yùn)維結(jié)合的代表，它通過智能傳感器的數(shù)據(jù)采集，集合AI算法技術(shù)，對于設(shè)備運(yùn)行狀態(tài)可以進(jìn)行主動檢控，對于設(shè)備運(yùn)行的潛在故障進(jìn)行主動的分析與告警。

工業(yè)互聯(lián)網(wǎng)，大數(shù)據(jù)，邊緣計(jì)算，IoT這些技術(shù)，未來都是可以和AI結(jié)合，助力在智能制造的應(yīng)用場景中。

AI是跨行業(yè)的應(yīng)用技術(shù)，我們現(xiàn)在不同行業(yè)的用戶都有在使用AI技術(shù)進(jìn)行場景化落地，比如制造行業(yè)的產(chǎn)品缺陷檢測、廠區(qū)安全監(jiān)控、工藝參數(shù)優(yōu)化等，金融行業(yè)的智能客服、智能風(fēng)控、智能投顧，零售行業(yè)的商品識別、貨損防控，等等。

數(shù)字孿生的基礎(chǔ)支撐技術(shù)，包括統(tǒng)一建模、CAD、CAE、產(chǎn)線準(zhǔn)實(shí)時(shí)數(shù)倉、IoT、CEP、SPC、數(shù)據(jù)科學(xué)等。 VMWare的解決方案除大家熟悉的VMWare Cloud Foundation(vSphere, vSAN, NSX)之外，包括：VMWare Data Solutions, 數(shù)據(jù)科學(xué)服務(wù)及數(shù)據(jù)集成專業(yè)服務(wù), IoT側(cè)虛擬化解決方案(上位機(jī)虛擬化)，以及VMware Tanzu Kubernetets, VMware Tanzu Application Platform。

在生成式AI領(lǐng)域，Dell主要提供生成式AI模型訓(xùn)練和部署所需要的平臺和基礎(chǔ)設(shè)施解決方案。我們也在嘗試使用類似ChatGPT生成式AI技術(shù)在我們的內(nèi)部生產(chǎn)、運(yùn)營和客服業(yè)務(wù)上。

AI應(yīng)用并不是完全為了替代人工，而是更好進(jìn)行人機(jī)結(jié)合，幫助企業(yè)實(shí)現(xiàn)降本增效，比以往的人力或者自動化方式實(shí)現(xiàn)更好的效率和結(jié)果的準(zhǔn)確性。

DPU目前可以工作在如vSphere8虛擬化場景以及其他的應(yīng)用場景下，卸載在網(wǎng)絡(luò)通信以及存儲I/O階段的計(jì)算消耗，提高吞吐性能，降低CPU的負(fù)載。

AI包括三個(gè)分支，包括符號計(jì)算與形式推理、專家系統(tǒng)、機(jī)器學(xué)習(xí)。推測您提到的AI對于CPU的消耗壓力，大概指得是機(jī)器學(xué)習(xí)中的深度網(wǎng)絡(luò)學(xué)習(xí)部分，除了通過GPU運(yùn)算卸載計(jì)算壓力外，也有些應(yīng)用的CPU壓力是與IO等待相關(guān)的，如果是存儲IO壓力，可以考慮NVmeSSD，如果是網(wǎng)絡(luò)IO壓力，可以考慮DPU及與其搭檔的vSphere 8.0中的Distributed Services Engine.

在GPU服務(wù)器架構(gòu)下，AI的主要計(jì)算負(fù)載是由GPU來承擔(dān)的，但是仍然是有一部分計(jì)算任務(wù)需要運(yùn)行在CPU上，比如多數(shù)場景下圖像、語音、文本的數(shù)據(jù)預(yù)處理任務(wù)，強(qiáng)化學(xué)習(xí)場景的一些函數(shù)計(jì)算操作等。

在我大學(xué)研究生的供應(yīng)鏈管理課程中，Dell的供應(yīng)鏈管理就是作為一個(gè)研究案例。庫存管理和需求預(yù)測，我們的供應(yīng)鏈團(tuán)隊(duì)在這個(gè)領(lǐng)域有著很深的積累。

仿真屬于HPC科學(xué)計(jì)算領(lǐng)域，有CPU仿真和GPU仿真，取決于不同應(yīng)用軟件。

大語言模型會泄密、會撒謊, 這就需要私有部署，以及依靠分布式多模數(shù)據(jù)庫對問答進(jìn)行事實(shí)約束。 大語言模型還需要基于container的GPU并行計(jì)算，VMware Tanzu Kubernetes Grid是最穩(wěn)定可靠的私有部署Kubernetes版本。 另外，我們還提供搭建基于開源大語言模型和分布式向量多模數(shù)據(jù)庫的問答服務(wù)的專業(yè)支持。

在降低計(jì)算功耗上，有很多的研究和工作可以來做。我們目前在實(shí)施的技術(shù)包括：1. 通過Dell OpenManage可以對服務(wù)器運(yùn)行功耗進(jìn)行實(shí)時(shí)檢測，并生成碳排放報(bào)告；2. 服務(wù)器內(nèi)部散熱優(yōu)化設(shè)計(jì)：包括T型主板設(shè)計(jì)、高效率電源和風(fēng)扇選型及設(shè)計(jì)、多矢量散熱技術(shù)進(jìn)行風(fēng)扇轉(zhuǎn)速及其他聲學(xué)特性的智能條件、針對不同業(yè)務(wù)負(fù)載的BIOS配置優(yōu)化模版 等；3. 采用液冷散熱技術(shù)，提高散熱效率，降低數(shù)據(jù)中心的PUE。

在工業(yè)AI視覺檢測領(lǐng)域，Dell既可以為我們的用戶提供滿足工業(yè)AI視覺檢測的基礎(chǔ)架構(gòu)平臺解決方案，我們也在聯(lián)合制造行業(yè)AI ISV，正在為我們像光伏等行業(yè)的用戶提供AI視覺檢測包含算法和軟件平臺在內(nèi)的整體解決方案。

PowerScale是Dell目前針對海量大數(shù)據(jù)集中存儲、訪問與共享的解決方案，我們目前單一文件系統(tǒng)可以支持180PB的存儲容量。

對于高算力需求的計(jì)算場景，目前我們有幾種應(yīng)對方案：1. 針對可以支持并行計(jì)算的軟件應(yīng)用，可以采用HPC多機(jī)集群的超算架構(gòu)；2. 如果是不能進(jìn)行并行拆分的應(yīng)用，可以采用如Dell四路服務(wù)器，提供單節(jié)點(diǎn)更強(qiáng)的計(jì)算力，隨著制程工藝的提升，目前單機(jī)的CPU與內(nèi)存性能也越來越高；3. 就是像今天討論的AI計(jì)算場景，采用如GPU、AI專用加速芯片這樣的異構(gòu)計(jì)算架構(gòu)。

針對邊緣計(jì)算，Dell有專門設(shè)計(jì)與優(yōu)化的邊緣計(jì)算服務(wù)器XR系列，它對于機(jī)房環(huán)境、溫度、抗震等有更強(qiáng)的適應(yīng)能力，同時(shí)我們在今年的DTW Dell用戶大會上，也發(fā)布了Dell針對邊緣計(jì)算場景的軟件平臺架構(gòu)。

服務(wù)器芯片設(shè)計(jì)本身，現(xiàn)在也在做很多的低功耗設(shè)計(jì)，如采用更先進(jìn)的制程工藝，Chiplet技術(shù)等，我們在服務(wù)器配置上也在BIOS提供一些低功耗的BIOS選項(xiàng)。

VMware的vSphere 8.0新增的Distributed Services Engine，支持DPU異構(gòu)計(jì)算。

除了CPU本身的性能提升外，我們在AI 服務(wù)器目前支持的GPU Direct RDMA和GPU Direct Storage技術(shù)，也可以減少在網(wǎng)絡(luò)傳輸和存儲I/O過程中的CPU性能開銷。

汽車行業(yè)物聯(lián)網(wǎng)主要應(yīng)用在生產(chǎn)線的數(shù)據(jù)分析，也就是工業(yè)互聯(lián)網(wǎng)，通過收集產(chǎn)線的數(shù)據(jù)，可以進(jìn)行預(yù)測性維護(hù)，質(zhì)量檢測等工業(yè)應(yīng)用。

Dell本身就是工業(yè)視覺檢測的實(shí)踐者，我們對外提供AI質(zhì)檢的基礎(chǔ)設(shè)施平臺解決方案，以及與AI應(yīng)用合作伙伴一起幫助用戶實(shí)現(xiàn)場景化AI應(yīng)用落地。

我們的硬件設(shè)備目前還沒有，在營銷和服務(wù)領(lǐng)域我們正在做這樣的探索和嘗試。

Dell可以提供滿足生成式AI、AI大模型計(jì)算所需要的GPU計(jì)算服務(wù)器，AI GPU分布式訓(xùn)練的整體解決方案和參考架構(gòu)。Dell與NVIDIA合作的面向生成式AI的平臺解決方案，Project Helix也將在今年下半年正式上市。

模型訓(xùn)練對算力要求最高，其次是產(chǎn)線推理環(huán)節(jié)，數(shù)據(jù)采集和治理環(huán)節(jié)對計(jì)算力要求相對偏低。

GPU Direct RDMA，在AI領(lǐng)域主要是應(yīng)用于多機(jī)多卡GPU分布式訓(xùn)練，大模型訓(xùn)練計(jì)算場景下。

我們可以提供不同應(yīng)用下數(shù)據(jù)的集中存儲、統(tǒng)一管理和數(shù)據(jù)保護(hù)；支持不同協(xié)議的數(shù)據(jù)訪問；實(shí)現(xiàn)對應(yīng)用透明的動態(tài)分層存儲；采用橫向擴(kuò)展的架構(gòu)，存儲容量和性能可以按需擴(kuò)展，動態(tài)進(jìn)行數(shù)據(jù)重分布；存儲平臺可以提供完善的向下兼容性。

上位機(jī)虛擬化、海量數(shù)據(jù)的準(zhǔn)實(shí)時(shí)BI和敏捷AI解決方案、數(shù)據(jù)集成和科學(xué)服務(wù)。

AI目前主要處理的就是非結(jié)構(gòu)化數(shù)據(jù)的應(yīng)用場景，如圖像、視頻、語音、文本，Dell可以能夠提供包含計(jì)算、存儲、網(wǎng)絡(luò)在內(nèi)的非結(jié)構(gòu)化數(shù)據(jù)處理和知識發(fā)現(xiàn)的基礎(chǔ)設(shè)施整體解決方案。

XR系列是Dell專門針對邊緣計(jì)算場景設(shè)計(jì)和優(yōu)化的計(jì)算平臺，它目前是我們PowerEdge服務(wù)器家族中的一個(gè)子產(chǎn)品線，包括多款產(chǎn)品型號，比如XR4000、XR11、XR12等。

從計(jì)算的角度看，您也可以認(rèn)為AI計(jì)算屬于高性能計(jì)算的一個(gè)應(yīng)用場景的大類，因?yàn)锳I特別是AI大模型對計(jì)算力有很高的要求，特別是模型訓(xùn)練過程中多數(shù)都是采用GPU集群計(jì)算架構(gòu)。不過和傳統(tǒng)的科學(xué)計(jì)算相比，AI計(jì)算還是有些明顯不同，比如計(jì)算精度，很多HPC超算采用的是FP64雙精度，AI普遍采用單精度、半精度甚至更低的計(jì)算精度；HPC超算很多是使用CPU計(jì)算，當(dāng)然GPU比重也在提升，AI計(jì)算基本都是采用異構(gòu)計(jì)算架構(gòu)；在存儲I/O上也有些差異，比如AI計(jì)算以讀IO為主，HPC會有大量的寫IO操作。

主要還是取決于業(yè)務(wù)的要求和目標(biāo)，比如計(jì)算響應(yīng)的延遲要求，邊緣場地和數(shù)據(jù)中心之間的連接帶寬，以及數(shù)據(jù)安全和法規(guī)要求，比如是否可以允許數(shù)據(jù)上傳等，來決定計(jì)算是發(fā)生在邊緣側(cè)還是云端。

隨著AI產(chǎn)業(yè)化的不斷發(fā)展，AI計(jì)算在商業(yè)計(jì)算中的整體占比已經(jīng)在不斷提升。

目前AI在各行業(yè)的應(yīng)用場景已經(jīng)比較多了，像智能駕駛，制造業(yè)的產(chǎn)品質(zhì)檢和良品率提升，零售的商品識別和貨損防控，金融的風(fēng)控和投顧，醫(yī)藥和材料領(lǐng)域的虛擬分子篩選等。

很多客戶目前是采用容器化來部署AI應(yīng)用，通過K8S作為容器的編排平臺，在企業(yè)中應(yīng)用已經(jīng)比較多，NVIDIA也提供針對K8S的GPU plugin插件。