تضغط Intel على Nvidia بإطلاق مسرع الذكاء الاصطناعي الجديد الذي يعد أسرع وأرخص من H100 – ولكن هل سيكون كافيًا لمواكبة H200 السريع بشكل مذهل؟ – التقنية اليوم
النشرة الإخبارية
Sed ut perspiciatis unde.
في Intel Vision 2024، أطلقت Intel مسرع Gaudi 3 AI والذي تضعه الشركة كمنافس مباشر لـ Nvidia’s H100، مدعية أنه يوفر تدريبًا أسرع وأداءً استدلاليًا على نماذج GenAI الرائدة.
من المتوقع أن يتفوق Gaudi 3 على H100 بنسبة تصل إلى 50% في مختلف المهام، بما في ذلك وقت التدريب وإنتاجية الاستدلال وكفاءة الطاقة.
بناءً على أداء وكفاءة مسرع Gaudi 2 AI، يقال إن Gaudi 3 يتميز بحساب الذكاء الاصطناعي 4x لـ BF16، وزيادة 1.5x في عرض النطاق الترددي للذاكرة، وعرض النطاق الترددي للشبكة 2x لتوسيع نطاق النظام بشكل كبير، مقارنة بسابقه.
أداء خارق
تم تصنيع Gaudi 3 باستخدام عملية 5 نانومتر، ويتميز بـ 64 TPCs مخصصة وقابلة للبرمجة وثمانية MMEs قادرة على 64000 عملية متوازية. فهو يوفر ذاكرة بسعة 128 جيجابايت (HBM2e وليس HBM3E)، و3.7 تيرابايت من عرض النطاق الترددي للذاكرة، و96 ميجابايت من ذاكرة الوصول العشوائي (SRAM) المدمجة لمعالجة مجموعات البيانات الكبيرة بكفاءة. مع 24 منفذ إيثرنت مدمج بسرعة 200 جيجابت، فإنه يسمح بتوسيع نطاق النظام المرن والشبكات ذات المعايير المفتوحة.
تدعي شركة Intel أن Gaudi 3 يتفوق على H100 عبر نماذج مختلفة، بما في ذلك وقت تدريب أسرع بنسبة 50% على معلمات Llama 7B و13B، بالإضافة إلى نماذج GPT-3 175B. بالإضافة إلى ذلك، هناك زيادة بنسبة 50% في إنتاجية الاستدلال وكفاءة أكبر بنسبة 40% في الطاقة على معلمات Llama 7B و70B ونماذج Falcon 180B. تقول Intel إن Gaudi 3 يتفوق أيضًا على H200 في سرعة الاستدلال على معلمات Llama 7B و70B، ونماذج معلمات Falcon 180B بنسبة 30%. نظرًا لأن هذه هي معايير Intel، فلا تتردد في التعامل معها مع قليل من الملح.
أجهزة توم “في نهاية المطاف، يكمن مفتاح السيطرة على أعباء عمل التدريب والاستدلال في مجال الذكاء الاصطناعي اليوم في القدرة على توسيع نطاق المسرعات إلى مجموعات أكبر. يتبع Gaudi من Intel نهجًا مختلفًا عن أنظمة B200 NVL72 التي تلوح في الأفق من Nvidia، وذلك باستخدام اتصالات إيثرنت سريعة بسرعة 200 جيجابت في الثانية بين مسرعات Gaudi 3 وإقران الخوادم بمفاتيح الأوراق والعمود الفقري لإنشاء مجموعات.
وقال جاستن هوتارد، نائب الرئيس التنفيذي لشركة إنتل والمدير العام لمركز البيانات ومجموعة الذكاء الاصطناعي: “في المشهد المتطور باستمرار لسوق الذكاء الاصطناعي، لا تزال هناك فجوة كبيرة في العروض الحالية. ردود الفعل من عملائنا والسوق الأوسع تؤكد الرغبة في زيادة الخيارات. تزن المؤسسات اعتبارات مثل التوفر وقابلية التوسع والأداء والتكلفة وكفاءة استخدام الطاقة. يبرز Intel Gaudi 3 باعتباره بديل GenAI الذي يقدم مزيجًا مقنعًا من أداء السعر وقابلية تطوير النظام وميزة الوقت مقابل القيمة.
سيكون Gaudi 3 متاحًا لمصنعي المعدات الأصلية في الربع الثاني من عام 2024، ومن المتوقع توفره بشكل عام في الربع الثالث.
المزيد من TechRadar Pro
