IETF-ի draft AI fabric-ների benchmark-ների մասին: Job Completion Time datasheet-ի Գբիթ/վ-ի փոխարեն

2026 թվականի հոկտեմբերի 8-ին IETF datatracker-ում հայտնվեց draft-calabria-bmwg-ai-fabric-training-bench-ի 05 խմբագրությունը՝ AI ուսուցման կլաստերների Ethernet fabric-ի benchmark-ների մեթոդիկա։ Առաջին մետրիկան դրանում Job Completion Time-ն է։ Draft-ը նկարագրում է, թե ինչպես այն չափել, որ տեսական սահմանի հետ համեմատել և երբ կարելի է վստահել ապարատային generator-ի արդյունքին։ Կարգավիճակը՝ BMWG-ին ներկայացված անհատական Internet-Draft։ Սա RFC չէ և աշխատանքային խմբի փաստաթուղթ չէ, և տեքստում ուղղակի ասված է, որ այն միայն լաբորատոր կիրառման համար է։ Ընդունման լեզուն, որ այն առաջարկում է, արդեն կարելի է վերցնել պայմանագրի մեջ՝ datasheet-ի Գբիթ/վ-ի փոխարեն JCT և պոչային latency։

Ով է գրել և ինչ կարգավիճակ ունի

Հեղինակներ՝ F. Calabria (Cisco), C. Pignataro (Blue Fern Consulting), Q. Wu և G. Fioccola (Huawei), S. Reddy (Apple)։ 05 խմբագրությունը վերջինն է, գործում է մինչև 2027 թվականի ապրիլի 11-ը։ Ընդունման չափանիշներ draft-ը չի սահմանում․ այն նկարագրում է, թե ինչ չափել և ինչպես զեկուցել արդյունքը։

Ինչ է չափվում

• Փորձարկման օբյեկտ՝ հենց Ethernet fabric-ը, կոմուտատորներն ու link-երը, սահմանն անցնում է NIC-ով։ Շրջանակից դուրս՝ InfiniBand, հանգույցի ներսի կապերը (NVLink, xGMI, PCIe), առանձին GPU-ների և NIC-ների արտադրողականությունը։
  Host-երի կոնֆիգուրացիան գրանցվում է հաշվետվության մեջ։
• Առաջնային մետրիկներ՝ JCT, JCT Ratio (չափված JCT-ն՝ բաժանված տեսական roofline JCT-ի վրա), bus bandwidth, գումարային թողունակություն, կորցրած փաթեթների մասնաբաժին ppm-ով, պոչային latency P99 և P99.9։
• Երկրորդային մետրիկներ՝ ECN նշագրման մասնաբաժին, PFC դադարների քանակ և տևողություն, RDMA retransmit-ների մասնաբաժին, ECMP անհավասարակշռություն, Jain-ի ինդեքս, հերթերի խորություն (P95 և առավելագույն), congestion control-ի զուգամիտման ժամանակ, out-of-order մասնաբաժին։
• Տոպոլոգիաներ՝ 2-աստիճան Clos, 3-աստիճան Clos և rail-optimized։
• Տրաֆիկի pattern-ներ՝ AllReduce, AllToAll, AllGather և incast՝ RoCEv2-ի և UET-ի վրա։ Առանձին բաժին՝ JCT թեստերի մասին ըստ MLPerf Training-ի։

Generator, թե իրական կլաստեր

Draft-ը տարբերակում է թեստային սարքավորման 2 դաս՝ ապարատային traffic generator և արագացուցիչների կլաստեր՝ collective հաղորդակցության իրական գրադարանով։ Collective թեստերի համար նախընտրելի է կլաստերը։ Եթե օգտագործվել է generator, արդյունքը վերստուգվում է կլաստերի վրա։ Bus bandwidth-ի կամ JCT Ratio-ի 10%-ից մեծ տարբերությունը պետք է հետազոտել և փաստաթղթավորել։ Սա հաշվետվության ձևակերպման կանոն է, ոչ թե «անցավ, թե չանցավ» չափանիշ։

Ինչ է սա տալիս գործնականում

Meta-ն գործնական կողմը նկարագրել է 2024 թվականին․ սովորական ECMP-ն վատ է աշխատում հոսքերի ցածր entropy-ի պատճառով, QP scaling-ը AllReduce-ի վրա տվել է մինչև 40% աճ, իսկ առաջադրանքների մասնատված տեղաբաշխումը path pinning-ով արտադրողականությունը կտրել է ավելի քան 30%-ով։ Նման էֆեկտները երևում են JCT-ում և երկրորդային հաշվիչներում։ Link-ի արագությունը դրանք չի ցույց տալիս։ Ultra Ethernet Consortium-ը 1.0 սպեցիֆիկացիան հրապարակել է 2025 թվականի հունիսի 11-ին, և draft-ն արդեն հաշվի է առնում UET տրանսպորտը RoCEv2-ի կողքին։

Ինչ է սա նշանակում բիզնեսի համար

AI fabric-ը գնում են մոդելի ուսուցման ժամանակի համար, ուրեմն ընդունումը պետք է չափի այդ ժամանակը։ Ընդհանուր լեզուն թույլ է տալիս այն գրել պայմանագրում՝ JCT Ratio-ն շեմից վատ չէ, P99.9 latency-ն տրվածից բարձր չէ, PFC և ECN հաշվիչների հավաքածուն հաշվետվության մեջ է։ Շեմը սահմանում եք դուք․ draft-ը այն միտումնավոր բաց է թողնում։

Ինչ անել

Գրեք ձեր fabric-ի ընդունման պլանը draft-ի մետրիկների ցանկով, ավելացրեք թեստ իրական կլաստերի վրա այնտեղ, որտեղ generator-ը քիչ է, և գրանցեք 10%-ից մեծ տարբերությունները։ Դիմեք TEST4NET-ին․ կօգնենք draft-ը դարձնել փորձարկումների ծրագիր՝ ձեր շեմերով։

Աղբյուրներ

• IETF datatracker: draft-calabria-bmwg-ai-fabric-training-bench
• IETF: draft text, revision 05
• Meta Engineering: RoCE networks for distributed AI training at scale
• Linux Foundation: Ultra Ethernet Consortium launches specification 1.0