IntelNVIDIAARM 推 FP8 標準AI最強顯卡4.5倍性能提升

AI人工智能 是近幾年來的大熱點不論是CPU還是GPU都在提升AI性能原本都有競爭關係的 IntelNVIDIA 及 ARM 也首次聯手推出了 FP8 格式這種全新的AI格式可以提高運算性能當前最強加速卡H100性能就有4.5倍提升

FP8 格式

三家攜手推出通用的AI格式跟當前的混亂有關很多人都知道之前衡量GPU性能經常用FP32單精度FP64雙精度格式然而在AI時代不需要這麼高的精確度再加上廠商往往會自定義計算格式所以這幾年也出現了INT8BF16TF32之類的AI標準

廠商各自為戰顯然不利於AI技術發展所以IntelNVIDIA及ARM三大CPU/GPU巨頭就聯手推出了AI標準格式FP8並發布了FP8 Formats for Deep Learning白皮書還把標準提交給IEEE協會不出意外的話接下來會成為AI領域的通用標準

根據他們的說法FP8標準會有兩個編碼變體分別為E5M2E4M3可以最大限度地減少與當前IEEE754標準的偏差不僅可以為AI運算帶來更高的靈活度還能在軟硬件中取得平衡改善開發者的效率

根據NVIDIA發布的結果FP8在廣泛使用的訓練模型中都有類似16位浮點的效果而且性能更好NVIDIA的H100加速卡使用新的FP8格式在BERT模型中實現了4.5倍的性能提升

မှတ်သားထိုက်ပါတယ်။,三大廠商聯合定義FP8標準卻沒有看到AMD的身影不知道AMD的態度如何不過AMD最終應該也會接納FP8標準與三家統一

AI標準格式

စာပြန်ပါ။

သင့်အီးမေးလ်လိပ်စာကို ထုတ်ဝေမည်မဟုတ်ပါ။. လိုအပ်သောအကွက်များကို အမှတ်အသားပြုထားသည်။ *