اختبارات جديدة للذكاء الاصطناعي تقيم سرعة الاستجابة لاستفسارات المستخدم

أصدرت مجموعة معايير الأداء للذكاء الاصطناعي "إم إل كومونز" يوم الأربعاء مجموعة جديدة من الاختبارات والنتائج التي تقيم سرعة تشغيل التطبيقات الذكية واستجابتها للمستخدمين باستخدام أحدث التقنيات.

تقيم الاختبارات الجديدة المضافة من قبل "إم إل كومونز" سرعة التي يمكن لشرائح الذكاء الاصطناعي والأنظمة توليدها للاستجابات من النماذج القوية الممتلئة بالبيانات.

تظهر النتائج تقريبًا كيف يمكن لتطبيقات الذكاء الاصطناعي مثل ChatGPT تقديم استجابة سريعة لاستفسار المستخدم.

أحد الاختبارات الجديدة أضاف إمكانية قياس سرعة سيناريو السؤال والجواب لنماذج اللغة الكبيرة. تحمل اسم Llama 2 وتحتوي على 70 مليار معلمة وتم تطويرها من قبل Meta Platforms.

وأضاف مسؤولو "إم إل كومونز" أيضًا مُولِّد نص للصورة ثانيًا إلى مجموعة أدوات القياس الخاصة بهم، تحت اسم MLPerf، والمستند إلى نموذج Stable Diffusion XL لشركة Stability AI.

فازت الخوادم التي تعمل بشرائح H100 من Nvidia والتي تم تصنيعها على يد شركات مثل Google وSupermicro وNvidia بنفسها بكفاءة في كلا الاختبارين الجديدين من حيث الأداء الخام.

قدَّمت عدة شركات بناء للخوادم تصاميم استنادًا إلى شريحة L40S الأقل قوة من الشركة.

قدَّمت شركة Krai تصميمًا لاختبار إنشاء الصور باستخدام شريحة ذكاء اصطناعي من Qualcomm تستهلك كمية طاقة أقل بكثير مقارنة بمعالجات Nvidia الحديثة.

وقدَّمت شركة إنتل أيضًا تصميمًا استنادًا إلى شرائح تسريع Gaudi2 الخاصة بها. ووصفت الشركة النتائج بأنها "متينة".

الأداء الخام ليس الإجراء الوحيد الحاسم عند تنفيذ تطبيقات الذكاء الاصطناعي. تستهلك شرائح الذكاء الاصطناعي المتقدمة كميات هائلة من الطاقة، وأحد التحديات الرئيسية لشركات الذكاء الاصطناعي هو تنفيذ شرائح تقدم كمية مثلى من الأداء مقابل كمية دنيا من الطاقة. تمتلك إم إل كومونز فئة اختبار مخصصة لقياس استهلاك الطاقة.