AI -kunsmatige intelligensie was die afgelope paar jaar 'n warm onderwerp,Beide CPU en GPU verbeter AI -prestasie,Intel, wat oorspronklik 'n mededingende verhouding gehad het 、 Nvidia en ARM sluit ook vir die eerste keer kragte saam,FP8 -formaat van stapel gestuur ,Hierdie nuwe AI -formaat kan rekenaarprestasie verbeter,Die prestasie van die kragtigste versnellingskaart H100 is 4,5 keer hoër。
Die drie ondernemings werk saam om 'n universele AI -formaat te begin wat verband hou met die huidige chaos,Baie mense weet dat FP32 enkele presisie dikwels gebruik word om GPU -prestasie te meet.、FP64 Double Precision -formaat,In die AI -era is daar egter geen behoefte aan so 'n hoë akkuraatheid nie,Boonop pas vervaardigers die berekeningsformaat dikwels aan,Dus het Int8 ook die afgelope jaar verskyn、BF16、AI -standaarde soos TF32。
Vervaardigers veg teen mekaar is natuurlik nie bevorderlik vir die ontwikkeling van AI -tegnologie nie,So Intel、NVIDIA en ARM het saamgespan om AI -standaardformaat FP8 te loods,En die FP8 -formate vrygestel vir diep leer wit papier,Die standaarde is ook aan die IEEE -vereniging voorgelê,As niks onverwags gebeur nie, sal dit 'n algemene standaard op die gebied van AI word.。
Volgens hulle,Daar is twee koderingsvariante van die FP8 -standaard,E5m2、E4M3,Dit kan afwykings van die huidige IEEE754 -standaard verminder,Nie net kan dit hoër buigsaamheid aan AI -rekenaar bring nie,Dit kan ook sagteware en hardeware balanseer,Verbeter die doeltreffendheid van die ontwikkelaar。
Volgens die resultate wat deur Nvidia vrygestel is,FP8 het soortgelyke effekte as 16-bis drywende punt in wyd gebruikte oefenmodelle,En beter prestasie,NVIDIA se H100 -versnellingskaart gebruik die nuwe FP8 -formaat,Bereik 4.5x prestasieverbetering in die BERT -model。
Dit is die moeite werd om daarop te let,Drie belangrikste vervaardigers definieer gesamentlik FP8 -standaard,Maar ek het nie AMD gesien nie,Weet nie wat AMD se houding is nie,AMD moet egter uiteindelik die FP8 -standaard aanneem.,Verenig met die drie gesinne。