NVIDIA Dynamo Snapshot يتيح بدء تشغيل سريع للاستدلال على Kubernetes
قدمت NVIDIA تقنية Dynamo Snapshot لمعالجة تأخير بدء التشغيل البارد في أحمال استدلال GPU على Kubernetes، مما يتيح بدء تشغيل أسرع وتحسين قابلية التوسع أثناء ارتفاع حركة المرور.
موجز التقنية المُحدَّث تلقائيًا
قدمت NVIDIA تقنية Dynamo Snapshot لمعالجة تأخير بدء التشغيل البارد في أحمال استدلال GPU على Kubernetes، مما يتيح بدء تشغيل أسرع وتحسين قابلية التوسع أثناء ارتفاع حركة المرور.
يُعد NVIDIA Cosmos 3 نموذجًا أساسيًا رائدًا يمكّن أنظمة الذكاء الاصطناعي الفيزيائية مثل الروبوتات والمركبات الذاتية القيادة من فهم العالم الحقيقي والتنبؤ به والتفاعل معه.
تقدم NVIDIA برمجة CUDA Tile لتمكين المطورين من إنشاء نوى GPU محسّنة للغاية ضمن قواعد كود C++ كبيرة باستخدام تقنيات البرمجة المعتمدة على التجزئة.
تدريب نماذج الذكاء الاصطناعي الصوتية على التعرف الدقيق على المصطلحات السريرية يمثل تحديًا كبيرًا. تساعد NVIDIA Nemotron Speech وAgent Skills في تسريع تقييم نماذج التعرف التلقائي على الكلام السريري، مما يحسن من دقة التعرف على أسماء الأدوية المعقدة والمصطلحات الطبية.
تعزز NVIDIA JetPack 7.2 نشر وكلاء الذكاء الاصطناعي في الأجهزة Jetson مع تحسينات في الذاكرة والأداء، ودعم نشر NemoClaw بأمر واحد لتعزيز الخصوصية والأمان.
تقدم NVIDIA Quantum InfiniBand ملفات أمان قائمة على النية في Unified Fabric Manager تتيح أمان النسيج متعدد المستأجرين بنقرة واحدة، مع دعم ملفات General وBare Metal Cloud وSecured Bare Metal Cloud لتقليل وقت النشر من ساعات أو أيام إلى دقائق.
تتناول هذه المقالة الثالثة في سلسلة تقليل حجم النماذج كيفية تحويل نقاط التحقق المكممة FP8 إلى محركات استدلال عالية الأداء باستخدام NVIDIA TensorRT، مما يتيح استدلالًا أسرع وزيادة في معدل المعالجة.
تقدم NVIDIA دعم دقة NVFP4 في JAX وMaxText لتسريع تدريب النماذج اللغوية الكبيرة على معالجات Blackwell، مما يحسن معدل الإنتاجية ويقلل زمن وتكلفة التدريب.
حققت NVIDIA انتصاراً كاملاً في MLPerf Training v6.0، مقدمة أسرع أوقات تدريب على نطاق واسع وأعلى أداء لكل معجّل عبر جميع الاختبارات، وكانت المنصة الوحيدة التي قدمت نتائج في كل اختبار.
كشفت NVIDIA عن معالج Vera CPU المصمم لتطوير أعباء عمل الذكاء الاصطناعي الوكلي في مصانع الذكاء الاصطناعي، مستنداً إلى قوانين توسع جديدة تتجاوز التدريب والاستدلال التقليدي المعتمد على وحدات معالجة الرسوميات GPU.
تقدم NVIDIA تقنية DFlash للتخمين التقريري لتعزيز أداء الاستدلال حتى 15 ضعفًا على معالجات Blackwell، مما يحسن تدفقات عمل الذكاء الاصطناعي منخفضة الكمون عبر تحسين توليد رموز النماذج اللغوية التوليدية autoregressive.
تمكّن نماذج Mixture-of-experts (MoE) من زيادة سعة نماذج الذكاء الاصطناعي عبر تفعيل مجموعة فرعية فقط من المعاملات لكل رمز. تستكشف NVIDIA نوى دمج متقدمة لتحسين معدل تدريب MoE في أنظمة الذكاء الاصطناعي واسعة النطاق.