【從網路卸載處

【從網路卸載處理,邁向資料中心通用運算】進入興盛期的智慧型網路卡


基於可程式化處理器,提供了彈性運算卸載功能的智慧型網路卡(SmartNIC),其實已經問世了10年以上時間,早在2010年代初期,就已有Accelize、AdvancedIO Systems、BittWare、Fiberblaze、Intilop與Solarflare Communications等新創廠商,推出了結合FPGA的網路卡產品。
其中特別值得一提的,是曾在金融高頻交易領域大放異彩的Solarflare Communications,該公司在2012年初推出的AOE(Application Onload Engine)網路卡,結合了10GbE埠、FPGA與16GB記憶體,可以在網路卡上執行金融用戶的交易程式,在網路卡上直接完成資料的運算與傳輸,從而將交易傳輸的延遲降到最低。
不過,這些早期的智慧型網路卡,提供的運算卸載功能比較單一,多是專門針對金融交易、高效能運算或電信等特定用途,用途較為局限,而且還採用了非標準的開發應用環境,使用上也相對不易。
今日新一代的智慧型網路卡,則具備了更靈活的通用運算能力,並採用易於使用的標準開發作業環境,可因應資料中心多樣化的應用。
首先是Mellanox在2016年發表了BlueField可程式化網路處理器,並以此為基礎,於2017年推出BlueField智慧型網路卡,接下來Intel與Broadcom則分別在2019年發表N3000系列可程式化加速卡,以及Stingray系列智慧型網路卡。
其他重要網路元件供應商如Marvell與Netronome也都投入了這個領域,Marvell透過併購Cavium,取得後者的LiquidIO系列智慧型網路卡產品線,Netronome則在更早的時候便推出獨立開發的Agilio系列。就連FPGA領域的領導廠商Xilinx,也在併購Solarflare Communications的基礎上,進入這個市場,推出了Alveo系列智慧型網路卡。
除了這些大廠之外,市面上,後續還湧現了Pensando、Fungible等極具潛力的新創廠商,目前已有10家以上供應商,共數十款產品可選,讓這個領域開始進入興盛期。
而為了突顯新一代智慧型網路卡多樣化的運算卸載能力,身為主要供應商之一的Mellanox-Nvidia,也開始改用「資料處理器(DPU)」這個新名稱,意圖讓這種產品與CPU、GPU鼎足而立,共同構成伺服器運算單元的3大要角。
而另一些針對儲存應用的智慧型網路卡供應商,如Nebulon,則以「儲存處理器(SPU)」來稱呼,來強調儲存方面的應用。
標準型網路卡與智慧型網路卡之間的關鍵區別,並不在於運算卸載能力的有無或多寡,而是在於可程式化能力。
相較下,智慧型網路卡不僅具備與標準網路卡一樣的網路控制器功能,還搭載了嵌入式可程式化處理器,如Arm多核心處理器或FPGA晶片,搭配DRAM記憶體、Flash記憶體等儲存單元,等同是一臺具體而微的迷你伺服器,除了提供預先設定的加速與卸載功能外,也能視需要載入與運行新的軟體功能,甚至還能在智慧型網路卡上執行Linux作業系統、虛擬化平臺或Container,應用非常靈活。
但另一方面,額外的運算單元與記憶體等元件,也大幅提高了智慧型網路卡的尺寸、成本與功耗。圖片來源/Nvidia、Broadcom,iThome整理,2021年6月
提高伺服器的運算效益
智慧型網路卡便是因應這個困境的解方,除了像傳統網路卡一樣,提供網路連接與傳輸功能外,更重要的是可利用卡板上搭載的運算單元,幫助卸載伺服器CPU的運算負荷,讓伺服器能將更多的CPU資源,釋放給業務端的應用程式使用,而不是消耗在基礎服務上。
Broadcom給了一個例子,一臺典型含有36個處理器核心的雙socket伺服器,扣除虛擬化、儲存與網路虛擬化等基礎服務占用的資源(如AES加密、NVMe-oF傳輸、OVS、VNF等),最後將只剩8~12個處理器核心,可以留給應用程式使用。
若換成一臺18個處理器核心的單處理器伺服器,但搭配智慧型網路卡,藉此可將虛擬化、儲存與網路等基礎服務的負載,都卸載到智慧型網路卡上執行,因此可以保留16個以上的處理器核心,供應用程式使用,而且伺服器成本與功耗都可降低將近一半。
也就是說,比起藉由升級CPU來獲得更多的運算能力,透過智慧型網路卡的卸載能力,不僅也能達到釋放更多的CPU資源給應用程式使用的目的,還可減少對CPU規格的要求,並藉此節省伺服器功耗,是更具成本效益的選擇。
智慧型網路卡的型態與類型
如Broadcom、Mellanox、Marvell等廠商產品採用的運算單元,都屬於多核心處理器(前兩者採用Arm架構處理器,後者同時擁有MIPS與Arm架構處理器的產品),Intel與Xilinx則採用FPGA。至於採用專屬網路處理器的廠商則有Netronome與Pensando等。
不同類型的處理器架構,在運算特性、整合難易度與便利性方面各有優缺點,在未來可見的時間內,應該會繼續並存下去。
儘管處理器架構有所差異,但是在卸載功能方面,目前的智慧型網路卡產品,都主要針對網路與網路安全,以及儲存等2個應用面向,提供卸載應用,前者包括軟體定義網路(Software Defined Network,SDN)、網路功能虛擬化(Network Function Virtualization,NFV)與網路安全相關的卸載功能,例如虛擬交換器、防火牆等;後者則例如NVMe-oF協定的卸載,重複資料刪除、加密等功能的卸載,有些智慧型網路卡還內含了RAID與Erasure Coding卸載功能(如Broadcom的Stingray系列,以及Nvidia剛發表的BlueField-3)。
而在用戶端,則須透過廠商提供的工具套件與API,來啟用智慧型網路卡的運算能力與卸載功能,或是載入執行客製化的軟體功能,這方面不同廠商的作法差異較大,如同樣基於多核心處理器的智慧型網路卡中,採用Arm處理器的Broadcom、Mellanox產品,便嵌入了完整的作業系統,用戶端開發人員可以透過標準的通信架構與介面來連結智慧型網路卡,開發難度相對較低。相較下, Marvell較早期基於OCTEON處理器(屬於MIPS架構)的產品,則需要使用更底層的系統呼叫指令,使用難度較高一些。

Related Keywords

Vietnam , Republic Of , United States , , Internet Service , Market Research , It Service , For Telecommunications , Microsoft Service , Microsoft , Center Universal , Khan Road , Ethernet Market , Source Microsoft , Design Issued Fair , வியட்நாம் , குடியரசு ஆஃப் , ஒன்றுபட்டது மாநிலங்களில் , இணையதளம் சேவை , சந்தை ஆராய்ச்சி , அது சேவை , மைக்ரோசாஃப்ட் சேவை , மைக்ரோசாஃப்ட் ,

© 2025 Vimarsana