تسريع تدريب النماذج باستخدام JAX وMaxText مع NVFP4 على NVIDIA Blackwell

يعتمد تدريب النماذج اللغوية الكبيرة المتقدمة على معدل الإنتاجية. عندما يمتد التدريب عبر تريليونات الرموز وعلى آلاف المعالجات، يمكن لكل نقطة مئوية في زمن الخطوة أن تضيف أياماً من التدريب وتكاليف حوسبة كبيرة. تُعد الدقة العددية من أهم عوامل التحكم، لكن التدريب المسبق بدقة مختلطة منخفضة البت صعب التنفيذ بشكل صحيح. لمواجهة ذلك، تقدم NVIDIA دعم دقة NVFP4 في أُطُر JAX وMaxText التي تعمل على معالجات NVIDIA Blackwell. يتيح هذا تسريع تدريب النماذج اللغوية الكبيرة من خلال تحسين الإنتاجية والكفاءة، مما يقلل من زمن التدريب الكلي وتكاليف الحوسبة.