Intel、NVIDIA、ARM прасоўвае FP8 стандарт AI:Прадукцыйнасць самай магутнай відэакарты ў 4,5 разы вышэй

Штучны інтэлект з'яўляецца гарачай кропкай у апошнія гады,І працэсар, і графічны працэсар паляпшаюць прадукцыйнасць штучнага інтэлекту,Intel, якая першапачаткова мела канкурэнтныя адносіны 、 NVIDIA і ARM таксама ўпершыню аб'ядналі намаганні,Запушчаны фармат FP8 ,Гэты новы фармат AI можа палепшыць прадукцыйнасць вылічэнняў,Самая моцная на дадзены момант карта-паскаральнік H100 мае 4,5-разовы рост прадукцыйнасці。

Фармат FP8

Тры кампаніі, якія аб'ядноўваюць намаганні для запуску агульнага фармату штучнага інтэлекту, звязаны з цяперашнім хаосам,Шмат хто ведае, што перад вымярэннем прадукцыйнасці GPU часта выкарыстоўваецца адзінкавая дакладнасць FP32、Фармат падвойнай дакладнасці FP64,Аднак у эпоху ІІ такая высокая дакладнасць не патрабуецца,Акрамя таго, вытворцы часта наладжваюць фармат разліку,Такім чынам, INT8 таксама з'явіўся ў апошнія гады、BF16、Стандарты AI, такія як TF32。

Барацьба вытворцаў паміж сабой, відавочна, не спрыяе развіццю тэхналогіі штучнага інтэлекту,Такім чынам, Intel、Тры асноўныя гіганты CPU/GPU NVIDIA і ARM сумесна выпусцілі стандартны фармат штучнага інтэлекту FP8,І выпусціў тэхнічную кнігу FP8 Formats for Deep Learning,Таксама прадставіў стандарт у Таварыства IEEE,Нядзіўна, што гэта стане агульным стандартам у галіне ІІ。

па іх словах,Стандарт FP8 будзе мець два варыянты кадавання,E5M2 адпаведна、E4M3,Адхіленні ад дзеючага стандарту IEEE754 можна звесці да мінімуму,Гэта можа не толькі прынесці большую гнуткасць вылічэнням штучнага інтэлекту,Ён таксама можа знайсці баланс паміж праграмным і апаратным забеспячэннем,Павышэнне прадукцыйнасці распрацоўшчыка。

Па выніках, апублікаваных NVIDIA,FP8 мае падобны эфект да 16-бітнай з плаваючай кропкай у шырока выкарыстоўваюцца навучальных мадэлях,і працаваць лепш,Карта паскаральніка NVIDIA H100 выкарыстоўвае новы фармат FP8,Дасягнута 4,5-кратнае павышэнне прадукцыйнасці ў мадэлі BERT。

Варта адзначыць, што,Тры асноўныя вытворцы сумесна вызначаюць стандарт FP8,Але не ўбачыў лічбы AMD,Я не ведаю, якое стаўленне AMD,Але AMD павінна ў рэшце рэшт прыняць стандарт FP8,аб'яднаць з трыма。

Стандартны фармат AI

Пакіньце адказ

Ваш адрас электроннай пошты не будзе апублікаваны. Абавязковыя палі пазначаны *