Intel、NVIDIA、ARM työntää FP8-standardin tekoälyä:4,5 kertaa vahvimman näytönohjaimen suorituskyky

Tekoäly on viime vuosien kuuma paikka,Sekä CPU että GPU parantavat tekoälyn suorituskykyä,原本都有競爭關係的 IntelNVIDIA 及 ARM 也首次聯手推出了 FP8 格式 ,Tämä uusi AI-muoto voi parantaa tietojenkäsittelyn suorituskykyä,Nykyisen vahvimman kiihdytinkortin H100 suorituskykyä on parannettu 4,5-kertaisesti。

FP8 格式

三家攜手推出通用的AI格式跟當前的混亂有關很多人都知道之前衡量GPU性能經常用FP32單精度FP64雙精度格式然而在AI時代不需要這麼高的精確度再加上廠商往往會自定義計算格式所以這幾年也出現了INT8BF16TF32之類的AI標準

廠商各自為戰顯然不利於AI技術發展所以IntelNVIDIA及ARM三大CPU/GPU巨頭就聯手推出了AI標準格式FP8並發布了FP8 Formats for Deep Learning白皮書還把標準提交給IEEE協會不出意外的話接下來會成為AI領域的通用標準

根據他們的說法FP8標準會有兩個編碼變體分別為E5M2E4M3可以最大限度地減少與當前IEEE754標準的偏差不僅可以為AI運算帶來更高的靈活度還能在軟硬件中取得平衡改善開發者的效率

根據NVIDIA發布的結果FP8在廣泛使用的訓練模型中都有類似16位浮點的效果而且性能更好NVIDIA的H100加速卡使用新的FP8格式在BERT模型中實現了4.5倍的性能提升

Se kannattaa huomioida,三大廠商聯合定義FP8標準卻沒有看到AMD的身影不知道AMD的態度如何不過AMD最終應該也會接納FP8標準與三家統一

AI標準格式

Jätä vastaus

Sähköpostiosoitettasi ei julkaista. pakolliset kentät on merkitty *