インテル、NVIDIA、ARM が FP8 標準 AI を推進:最強のグラフィックス カードの 4.5 倍のパフォーマンス

AI 人工知能は近年ホット スポットです,CPUとGPUの両方がAIのパフォーマンスを向上させています,もともとライバルだったインテル 、 NVIDIA と ARM も初めて提携,FP8フォーマット発売 ,この新しい AI 形式は、コンピューティング パフォーマンスを向上させることができます,現在最強のアクセルカードH100の性能が4.5倍にアップ。

FP8フォーマット

3社が力を合わせて、現在の混乱に関連する共通のAIフォーマットを立ち上げます,FP32 単精度が GPU パフォーマンスの測定によく使用されることは、以前から多くの人が知っていました。、FP64倍精度フォーマット,しかし、AIの時代にはそんな高い精度は求められない,さらに、メーカーは計算形式をカスタマイズすることがよくあります,なのでINT8も近年登場しています、BF16、TF32 などの AI 標準。

メーカーが独力で戦うのは明らかにAI技術の発展につながらない,だからインテル、NVIDIAとARMの3大CPU/GPU大手が共同でAI標準フォーマットFP8を発売,FP8 Formats for Deep Learning ホワイト ペーパーをリリース,IEEEソサエティにも規格を提出,なんといってもAI分野の一般的なスタンダードになるでしょう。。

彼らによると,FP8 標準には 2 つのエンコーディング バリアントがあります。,それぞれE5M2、E4M3,現在のIEEE754規格からの逸脱を最小限に抑えることができます,AI コンピューティングに高い柔軟性をもたらすだけでなく、,ハードウェアとソフトウェアのバランス,開発者の生産性を向上。

NVIDIAが発表した結果によると,FP8 には、広く使用されているトレーニング モデルで 16 ビットの浮動小数点のような効果があります。,そしてより良いパフォーマンス,NVIDIA の H100 アクセラレータ カードは新しい FP8 フォーマットを使用,BERT モデルで 4.5 倍のパフォーマンス向上を達成。

注目に値する,3 つの主要メーカーが共同で FP8 規格を定義,しかし、AMDの姿は見えませんでした,AMDの態度がわからない,ただし、AMD は最終的に FP8 標準を採用する必要があります。,3人で合体。

AI標準フォーマット

返信を残す

あなたのメールアドレスが公開されることはありません. 必須フィールドは、マークされています *