NVIDIA Exemplar Cloud: دروس في تحقيق الأداء الكامل للبنية التحتية للذكاء الاصطناعي

يمكن لمجموعتين من الحوسبة للذكاء الاصطناعي مبنيتين على أنظمة NVIDIA H100 أو GB200 NVL72 أو GB300 NVL72 المتطابقة أن تقدما معدلات تدريب مختلفة بشكل ملموس. نلاحظ بشكل روتيني فروقًا تتراوح بين 8% و12% بين نشرات الشركاء والهياكل المرجعية المقابلة لـ NVIDIA على نفس عبء العمل، ونفس النموذج، ونفس حجم الدُفعة العالمية. السبب غالبًا ما يكون مجموعة من خيارات التكوين في النواة وطبقة البرمجيات التي تؤثر على الأداء. هذا يبرز أهمية التكوين التفصيلي والضبط لتعظيم معدل التدريب للذكاء الاصطناعي على عتاد NVIDIA.