,,

DOCA 1.3上線讓DPU在數據時代找到核的價值

（2024年11月27日更新）

隨著數據中心成為一個新的計算單元，數據處理器有更多的用途。英偉達的BlueField系列DPU由DOCA（Data-Center-Infrastructure-On-A-Chip Architecture）支持軟件框架，可以實現更好的網絡、存儲和安全性能。作為一款為BlueField DPU量身定制的軟件開發框架，DOCA旨在為開發者提供全面開放的開發套件，支持開發者BlueField DPU基于簡單靈活的軟件開發，快速創建BlueField DPU高性能應用程序和服務加速。

芯片采購網專注于整合國內外授權IC代理商現貨資源，芯片庫存實時查詢，行業價格合理，采購方便IC芯片，國內專業芯片采購平臺。

“DOCA依靠未來，API構建驅動思維模式，可以讓BlueField DPU硬件加速器更容易使用，實現數據中心的非凡性能、效率和安全性，解鎖數據中心的創新功能，更好地與下一代兼容BlueField DPU，提供持續支持，加快應用程序和服務的上市時間，釋放DPU的潛力。”NVIDIA網絡技術專家崔巖說：NVIDIA在發展BlueField DPU同時，也在積極發展DOCA這與我們以前的發展有關GPU同時發展CUDA生態是同工之妙。”

今年5月，NVIDIA上線了DOCA 1.3版本提供了121個新版本API開發界面，增加更多的增強和新功能，包括優化數據流插入DOCA Flow庫、通信通道庫、正則表達式庫App Shield SDK、基于OVN的IPSec加密完全卸載，以及一些DOCA服務，例如HBN三層路由功能在主機上實現。借助DOCA 1.3.開發者不僅可以在本地BlueField DPU上或X在86容器中建立開發環境也可以獲得一致的開發體驗，可以統一訪問BlueField DPU簡化網絡、存儲、安全和基礎設施管理服務相關的開發。同時，NVIDIA它還為開發者提供了基于底層的基礎API先進的抽象和包裝API除了容器化，庫可以大大降低開發時間，更快地獲得收入。DOCA服務，可以在BlueField DPU直接部署應用程序。

DOCA軟件棧

DOCA 1.3中的正則表達式庫稱為Regular Expression（RegEx），它是多腳本語言的標準模式匹配工具，可以創建與文本模式相匹配的過濾器，而不僅僅是單個單詞或短語的匹配。正則表達式是專門為高吞吐量、低延遲和深度包檢測而設計的。這些應用程序需要通過正則表達式模式匹配和字符串通過正則表達式模式匹配和字符串實現相應的應用功能。正則表達式也可以實現安全GigaDevice代理遙測功能，可在DOCA 1.3.提供識別、入侵防御系統等安全應用，URL過濾、文件掃描、深度數據包檢測App Shield內存掃描等，為安全軟件開發提供底層API支持。

借助基于OVN可用于不同主機之間的數據路徑加密功能IPsec創建不同的數據加密隧道，以確保數據在主機之間傳輸時處于加密狀態。當數據到達主機時，BlueField DPU將其解密成明文，然后將明文數據傳輸到主機側，為負載和應用程序提供數據。

在NVIDIA BlueField DPU基于主機的網絡（HBN）有助于管理和監控同一節點虛擬機和容器之間的流量。如果在服務器主機上創建多個虛擬機或多個容器，它們之間會有一些數據流，無論是二層數據流還是三層路由功能，都可以基于主機網絡DOCA服務在BlueField DPU進出節點的流量可以進行分析和加密，也會有一些原本依賴的東西TOR開關上的功能也在BlueField DPU改變了數據中心網絡建設的方式。

OVN加密數據路徑

胡效赫是大學的開發者，他的團隊參加了首屆會議NVIDIA DPU中國黑客松比賽獲得亞軍。我們的團隊由一名博士后和兩名博士生組成，研究方向是云計算、分布式系統和高性能計算。DPU從2020年開始，我們作為數據中心的重要組成部分BlueField DPU發布后一直在關注，今年參加黑客松是為了進一步學習和參與DPU相關開發，對DOCA的API深入定制開發，實現更好的性能和更豐富的功能，并與指導專家和其他團隊進行更多的溝通。胡效赫說。

據了解，該團隊的項目起點是關注基礎設施的業務可觀性，并提出DeepTrace項目-面向DPU網包級函數粒度業務可觀測性驅動的基礎設施。以DOCA提供的NetFlow基于粗粒度的可觀測性，對應DOCA Netflow API庫，結合DPU高性能網絡處理功能對應DPU的ASAP2網包分類引擎和DOCA Flow API庫的數據平面和控制平面的可編程能力，將可觀測性強度提高到網包級，并準確地提高到每個函數功能，性能損失幾乎可以忽略不計。

在DeepTrace在項目的系統架構中，業務流量首先通過DeepTrace預選器，然后通過原始DPU處理程序，在DPU調用程序DeepTrace觸發器實現相應點的觀測，通過數據的重組和分析，到相應的結果，如異常流量檢測、業務問題定位等。

其中，觸發器部分的挑戰是如何以最低的成本收集鏈函數和網絡包信息。上述團隊采用的方案是在統一和輕量級的函數中實現觸發器DOCA NetFlow庫修改為網包粒度，需要觀察的函數API調用觸發器的形式。在預選器部分的挑戰是如何處理大規模的原始流量，并在函數鏈中記錄網絡包。該團隊采用的方案是通過硬件卸載的預選器進行標記和過濾。在開發過程中，調用DOCA Flow實現庫配置所需的預選規則。由分析器部分操作ARM實現控制平面開源開放工程。

胡效赫說：通過專家的指導，我們對此有了更充分的了解DPU積累了軟硬件特性DPU其他團隊也看到了開發經驗DPU創新實踐。這次經歷是基于我們的后續工作DPU研究提供了很好的幫助。”相應的，DPU中國虛擬黑客松比賽也能刺激DOCA在NVIDIA BlueField DPU和NVIDIA DOCA在應用場景中，包括分布式存儲、數據流跟蹤分析、裸金屬云管理、RDMA數據包加解密等。下一步，NVIDIA計劃在今年下半年舉行第二屆會議DPU中國虛擬黑客松活動。

目前，世界上有一半以上的人DOCA來自中國的社區注冊開發者。自去年成立以來，DOCA社區先后為國內開發商開放BBS官方論壇、DOCA以及文檔庫DOCA在微信微信官方賬號后臺和知乎等知識平臺上，微信群積極回答相關問題。另外，考慮到開發者可能沒有DPU驗證自己的程序，NVIDIA會通過與合作伙伴聯合成立DPU & DOCA提供測試和驗證代碼的優秀中心。麗臺(上海)信息科技有限公司和上海鑫鴻智能科技有限公司是參與卓越中心試運行的合作伙伴。

由優秀中心提供DOCA開發環境有三個關鍵點：一是可遠程訪問的免費開發環境，或運行已開發的程序；二是提供程序編譯、操作和相應測試的完整開發平臺；三是主要支持中國DOCA開發者，加快應用創新。同時，優秀中心的工程師和NVIDIA專家也會提供相關的技術幫助。各優秀中心的運營公司將提供兩套開發環境，因此在早期階段將有四套開發環境供免費使用，DOCA開發人員需要自己登錄設備和相應的軟硬件環境，優秀的中心將提供完整的軟硬件DOCA開發環境。

DOCA周一至周四9:00-15:00開放開發環境。申請人可向卓越中心提交申請，審批后2-6小時免費開發環境。需要注意的是，每次申請延長每次申請批準后的時間。例如，在申請4小時后，如果4小時即將用完，則無法延長2小時。您需要再次啟動申請。截至今年年底，每個開發者總使用時間不超過10小時。開發人員在申請免費開發環境時，需要提前48小時發郵件，讓后臺工程師分配系統資源和環境。

一直以來，NVIDIA都是開源領域的積極貢獻者，網絡市場也是如此，包括SONiC、OVS、DPDK、OpenMPI等等，在整個Linux社區是第三大貢獻者DPDK和SPDK社區的第二大貢獻者Linux OPI項目創始成員。DOCA開放API和庫后，開發者可以通過相關界面更方便地編寫應用程序的中間層DPU特點包括硬件卸載、正則表達式、RDMA等。

NVIDIA網絡營銷總監孟慶說：我們將在那里OPI與基金會做出相應貢獻，做出全部貢獻DOCA開放出來。上層的東西，包括一些安全功能、存儲加速、網絡硬件卸載等特點，都會開放，無論是客戶，ISV，還是合作伙伴，OEM制造商可以在開放的架構上編寫應用程序。這里指的不僅僅是網絡程序，而是一個大的數據中心管理程序，它將被調用DOCA這樣的框架。”

如今，NVIDIA BlueField DPU作為核心部件應用NVIDIA包括認證系統HGX、EGX和OVX，為這些認證系統平臺提供加速以太網或InfiniBand同時連接解決方案NVIDIA Spectrum端到端以太網平臺或Quantum InfiniBand網絡平臺，為現代數據中心的工作負荷提供準確、高性能、先進的安全和豐富的功能，構建AI工廠的核心骨干網絡大力支持上層系統軟件、高性能計算、人工智能和虛擬仿真平臺的應用，在云計算、網絡安全、存儲、管理平臺和邊緣計算等領域構建全面的生態解決方案。

從2023年開始，全球相關數據顯示DPU市場規模將超過100億美元，進入年增長率超過50%的快車道。2023年，中國的DPU市場規模將超過300億元，增長潛力巨大。具體來說，DPU 大規模應用主要面向三個方面：通過數據中心加速計算模型帶來的大規模應用，DPU能夠為CPU業務應用負載和GPU人工智能和機器學習負載提供數據傳輸和數據處理，性能成本比、基礎設施通用性和軟硬件可迭代成為關注因素；定制客戶數據中心基礎設施應用場景設計，大規模部署DPU滿足特定應用場景的需求，解決問題；通過生態系統帶來的大規模應用，基于開放和標準化平臺提供創新應用的一般集成解決方案可以集成和部署。

可以看到，DPU它圍繞著數據在數據中心和應用場景中的一系列特征應運而生DOCA就像是DPU靈魂，兩者的結合可以發揮最大的作用。硬件方面，DPU可作為獨立芯片或板卡或額外芯片集成GPU或CPU可根據實際應用場景定制客戶個性化的購買和部署自由。同時，與之相匹配DOCA借助全面開放的開發套件，最大限度地減少了基于的開發套件BlueField DPU加快業務創新，最大化業務價值，開發門檻和成本。