對于需要直接控制硬件，需要更強(qiáng)性能的 AI 開發(fā)者來講，DigitalOcean 已經(jīng)為你們準(zhǔn)備好了更適合的 GPU 服務(wù)器——DigitalOcean 基于 NVIDIA GPU 的裸金屬服務(wù)器。

這些服務(wù)器特別設(shè)計用來應(yīng)對最復(fù)雜的 AI 和機(jī)器學(xué)習(xí)任務(wù)，無論是大規(guī)模的模型訓(xùn)練還是高度定制的基礎(chǔ)設(shè)施設(shè)置，都能輕松勝任。DigitalOcean 的裸金屬 GPU 服務(wù)器配有 8 個 NVIDIA Hopper GPU 和強(qiáng)大的硬件，這類服務(wù)器提供強(qiáng)大的計算能力和專門為高性能需求設(shè)計的定制選項(xiàng)。

DigitalOcean H100x8 GPU 服務(wù)器的按需定價為5. 95 美元/小時。對于有長期使用需求的企業(yè)，H100 GPU 服務(wù)器 3 年期合約價格僅需 2.24 美元/小時。邏輯金屬機(jī)型按合同定價

裸金屬 GPU 與 GPU Droplet 有什么不同？

DigitalOcean 在數(shù)月前推出了基于 NVIDIA H100 的?GPU Droplet 云服務(wù)器?，F(xiàn)在又再次推出了基于 NVIDIA H100 的裸金屬服務(wù)器。那么這兩者有什么不同呢？

DigitalOcean 的裸金屬 GPU 服務(wù)器，配備 NVIDIA 加速計算技術(shù)，提供了專屬于單一用戶的基礎(chǔ)設(shè)施資源，沒有共享用戶會產(chǎn)生干擾，因此您可以完全訪問服務(wù)器上所有的 GPU 資源。這些服務(wù)器適用于那些需要直接控制硬件以實(shí)現(xiàn)理想性能，并需要更進(jìn)一步保護(hù)數(shù)據(jù)隱私性的項(xiàng)目，非常適合大規(guī)模的模型訓(xùn)練、實(shí)時推理和復(fù)雜編排等應(yīng)用場景。這些硬件資源將專屬于你和你的團(tuán)隊(duì)，更有利于項(xiàng)目的研發(fā)與落地。

以下是裸金屬 GPU 與 GPU Droplet 在參數(shù)上的不同：

我們的裸金屬 GPU 和 GPU Droplets 是為滿足不同工作負(fù)載需求而設(shè)計的。GPU Droplets 提供了易于擴(kuò)展和快速配置的能力，非常適合專注于訓(xùn)練、微調(diào)或在大語言模型上運(yùn)行推理任務(wù)的團(tuán)隊(duì)。相比之下，裸金屬 GPU 提供了比較高性能和對硬件的完全控制權(quán)，非常適合需要直接訪問硬件資源和需要定制化、長期的、高吞吐量的工作負(fù)載。

同時，裸金屬 GPU 服務(wù)器與 GPU Droplet 在定位、資源配置、定價方面也存在不同：

GPU Droplets最適合用于中小規(guī)模任務(wù)，包括：

• 微調(diào)：使用特定數(shù)據(jù)集調(diào)整模型

• 推理：為運(yùn)行中的應(yīng)用進(jìn)行推理預(yù)測任務(wù)，需要高速響應(yīng)

• 中等數(shù)據(jù)處理：輕量級分析或視頻處理，這些任務(wù)需要GPU加速，但不需要完全專用的硬件

裸金屬GPU最適合用于高檔和定制的工作負(fù)載，它在不同 AI 業(yè)務(wù)場景下可以提供更突出的優(yōu)勢，包括：

• 大規(guī)模模型訓(xùn)練：輕松處理大型數(shù)據(jù)集。裸金屬 GPU 讓您能夠全面優(yōu)化模型訓(xùn)練，提供隱私保護(hù)、性能和對整個過程的控制。

• 模型微調(diào)：從預(yù)訓(xùn)練模型開始，通過特定數(shù)據(jù)集進(jìn)行微調(diào)，使其適應(yīng)您的具體應(yīng)用場景。裸金屬提供的高性能 GPU 和隔離環(huán)境使得獲取特殊應(yīng)用所需的準(zhǔn)確性和性能成為可能。

• 高速推理：借助 Hopper GPU 處理推理，您的應(yīng)用可以實(shí)現(xiàn)實(shí)時性能，用于實(shí)時預(yù)測和決策制定——非常適合需要響應(yīng)速度的面向用戶的產(chǎn)品。

• Web3 與?AI?結(jié)合的場景：裸金屬 GPU 服務(wù)器的高可用性、高性能以及低延遲網(wǎng)絡(luò)，可以確保區(qū)塊鏈網(wǎng)絡(luò)的節(jié)點(diǎn)間通信快速可靠，支持Web3 與 AI 技術(shù)結(jié)合的落地場景。

• 自定義應(yīng)用場景：裸金屬 GPU 非常適合需要高度可配置性和可靠的專用基礎(chǔ)設(shè)施的自定義工作負(fù)載。無論是部署 Kubernetes 集群還是自定義編排設(shè)置，這些服務(wù)器都提供了構(gòu)建和擴(kuò)展復(fù)雜架構(gòu)所需的靈活性。

自DigitalOcean 的 GPU Droplet 推出以來，在全球范圍內(nèi)已經(jīng)有海量的企業(yè)用戶開始使用該服務(wù)。得益于 NVIDIA 系列 GPU 的計算能力，以及 DigitalOcean 在基礎(chǔ)設(shè)施方面的長期技術(shù)積累，GPU 服務(wù)器系列產(chǎn)品得到了用戶的廣泛好評。

“對我們公司最重要的是持續(xù)提供卓越的用戶體驗(yàn)，并不斷改進(jìn)。這涉及到模型的研究和開發(fā)，這就要求使用 DigitalOcean 提供的強(qiáng)大 GPU 計算能力?！盝acob Jackson，Supermaven 的 CEO 和創(chuàng)始人表示。

裸金屬 GPU 服務(wù)器將率先于美國紐約和荷蘭阿姆斯特丹兩個數(shù)據(jù)中心上線，其它分布于全球的 14 個數(shù)據(jù)中心也將陸續(xù)上線。該產(chǎn)品將會為需要專屬 GPU 服務(wù)器以及高性能資源的 AI 企業(yè)提供強(qiáng)勁助力。

如需預(yù)約測試裸金屬 GPU 服務(wù)器，咨詢更多相關(guān)信息，可聯(lián)系 DigitalOcean 中國區(qū)全力戰(zhàn)略合作伙伴卓普云。

（推廣）