DynoSim: محاكاة حدود باريتو لتحسين تقديم نماذج اللغة الكبيرة
يُعالج DynoSim تعقيدات ضبط نشرات تقديم نماذج اللغة الكبيرة الحديثة من خلال محاكاة حدود باريتو عبر خيارات النظام المتداخلة مثل نموذج الخلفية، شكل التنسور المتوازي، وعوامل التوسع التلقائي.
يُعد ضبط تقديم نماذج اللغة الكبيرة الحديثة مهمة معقدة نظرًا لتداخل العديد من الخيارات مثل نموذج الخلفية، شكل التنسور المتوازي، تقسيم التعبئة المسبقة/فك التشفير، عدد العمال، إعدادات المجدول، سياسة التوجيه، سلوك ذاكرة التخزين المؤقت KV، عتبات التوسع التلقائي، والطوبولوجيا. تتفاعل هذه الخيارات عبر طبقات متعددة، حيث يمكن أن تؤدي التحسينات المحلية إلى انتقال عنق الزجاجة إلى أماكن أخرى. يقوم DynoSim بمحاكاة هذه التفاعلات لمساعدة المستخدمين على تحسين موازنة الأداء في نشرات تقديم النماذج الكبيرة. تتيح هذه الطريقة فهمًا أعمق لمشهد الأداء المعقد وضبط الإعدادات بشكل فعال لتحقيق معدلات تمرير وكمون أفضل في أعباء عمل استدلال نماذج اللغة الكبيرة.