L'intelligenza artificiale AI è un punto caldo negli ultimi anni，Sia la CPU che la GPU stanno migliorando le prestazioni dell'IA，Intel, che originariamente aveva una relazione competitiva 、 Anche NVIDIA e ARM uniscono le forze per la prima volta，Lancio del formato FP8 ，Questo nuovo formato AI può migliorare le prestazioni di elaborazione，Le prestazioni dell'attuale scheda acceleratrice più potente H100 sono state migliorate di 4,5 volte。
Tre aziende che uniscono le forze per lanciare un formato AI comune è legato al caos attuale，Molte persone sanno che prima di misurare le prestazioni della GPU, viene spesso utilizzata la precisione singola FP32、Formato FP64 a doppia precisione，Tuttavia, nell'era dell'intelligenza artificiale, una precisione così elevata non è richiesta，Inoltre, i produttori spesso personalizzano il formato di calcolo，Quindi negli ultimi anni è apparso anche INT8、BF16、Standard AI come TF32。
I produttori che si combattono ovviamente non favoriscono lo sviluppo della tecnologia AI，Quindi Intel、I tre principali giganti di CPU/GPU NVIDIA e ARM hanno lanciato congiuntamente il formato standard AI FP8，E ha pubblicato il white paper sui formati dell'8° PQ per il deep learning，Inoltre ha presentato lo standard alla IEEE Society，Non sorprende che diventerà lo standard generale nel campo dell'IA。
in accordo con loro，Lo standard FP8 avrà due varianti di codifica，E5M2 rispettivamente、E4M3，Le deviazioni dall'attuale standard IEEE754 possono essere ridotte al minimo，Non solo può offrire una maggiore flessibilità al calcolo dell'IA，Può anche trovare un equilibrio tra software e hardware，Migliora la produttività degli sviluppatori。
Secondo i risultati pubblicati da NVIDIA，FP8 ha un effetto simile alla virgola mobile a 16 bit nei modelli di addestramento ampiamente utilizzati，ed eseguire meglio，La scheda acceleratrice H100 di NVIDIA utilizza il nuovo formato FP8，Ottenuto un miglioramento delle prestazioni di 4,5 volte nel modello BERT。
Vale la pena notare che，I tre principali produttori definiscono congiuntamente lo standard FP8，Ma non ho visto la figura di AMD，Non so quale sia l'atteggiamento di AMD，Ma AMD dovrebbe alla fine adottare lo standard FP8，unire con tre。
