快科技11月14日消息,據(jù)外媒體報道稱,英偉達(dá)今天發(fā)布了新一代芯片H200,其整體性能相比上一代有著大幅提升。
官方公布的細(xì)節(jié)顯示,新的H200芯片是當(dāng)前用于訓(xùn)練最先進大語言模型H100芯片的升級產(chǎn)品(基于Hopper架構(gòu)),集成了141GB的內(nèi)存,且是HBM3e內(nèi)存的芯片。
借助HBM3e,英偉達(dá)H200以每秒4.8TB的速度提供141GB的內(nèi)存,與A100相比,容量幾乎是其兩倍,帶寬增加了2.4倍。
英偉達(dá)還表示,相比H1100來說,H200在用于推理或生成問題答案時,性能較H100提高60%至90%,不過兩個芯片是可以兼容的。
按照之前市場的行情,H100芯片成本僅3320美元,但英偉達(dá)對其客戶的批量價格仍然高達(dá)2.5萬至4萬美元,利潤率超1000%。
不過,H200依然不會提供給中國廠商,不是價格和產(chǎn)能的問題,而是美國AI芯片管制新規(guī)。
在這樣的大環(huán)境下,英偉達(dá)智能提供給中國廠商性能下降80%的閹割版芯片。
【本文結(jié)束】如需轉(zhuǎn)載請務(wù)必注明出處:快科技
責(zé)任編輯:雪花