人人人免费人人专区人人,欧美精品不卡,欧美大片无尺码在线观看,久久精品小视频,成人免费黄色大片,欧美+亚洲+精品+三区

N卡賣到25萬還缺貨 Intel直擊NVIDIA軟肋:AI性價比遠超H100

快科技7月15日消息,在AI市場上,NVIDIA現在是沒有對手的階段,AI顯卡份額估計在90%以上,AMD都很難競爭,現在Intel也加入這個市場了,而且找到了NVIDIA的一個痛點,那就是性價比。

NVIDIA目前受追捧的AI顯卡主要是A100、H100,國內有特供的閹割版A800、H800,性能比原版弱20%左右,但即便如此依然供不應求,A800一周時間就從9萬元漲到11萬元以上,H100價格在25萬元以上,H800也要20萬出頭,而且不同經銷商的價格差異很大。

Intel自然也不會放過這個市場,日前在國內舉行發布會,也推出了AI顯卡Habana Gaudi2,這是去年底發布的AI推理加速芯片,從第一代的16nm工藝升級到7nm工藝,Tensor 處理器核心數量增至 24 個,同時集成了多媒體處理引擎,內存升級至 96GB HBM2E。

國內版的Gaudi2主要是閹割了部分網絡接口,但也集成了21路100Gbps網絡接口,總體來說性能依然很可觀。

Intel還公布了Gaudi2跟H100的AI性能對比,面對要求極為苛刻的、1750億參數的GPT-3模型,384個Gaudi2加速器上的訓練時間僅為311.9分鐘,而且從256個加速器到384個加速器,性能擴展幅度達95%。

NVIDIA這邊在512塊 H100 GPU上的訓練時間則為64分鐘,論單卡性能的話是Gaudi2的3.6倍多,但是Intel不會跟H100拼極限性能,而是強調性價比。

Habana Labs 首席運營官 Eitan Medina 表示,性價比是影響H100和Gaudi2相對價值的重要考量因素,Gaudi2 服務器的成本要比H100低得多。

更重要的是,目前Gaudi2還沒有支持AI常用的FP8運算格式,這種情況下Gaudi2 在性價比上也勝過了H100,今年3季度會升級支持FP8運算,Gaudi2的性能將有明顯飛躍,性價比要比H100更高了。

您可能還喜歡...

發表回復

您的郵箱地址不會被公開。 必填項已用 * 標注