تدعي شركة الذكاء الاصطناعي أن وحدات معالجة الرسومات Radeon RX 7900 XTX أفضل قيمة من Nvidia’s H100 – يعتقد ما يقرب من ستمائة مؤيد أن هذا هو الحال – TechToday
النشرة الإخبارية
Sed ut perspiciatis unde.
كشفت شركة Tiny corp، وهي شركة ناشئة تدير إطار الشبكة العصبية tinygrad، عن نظام ذكاء اصطناعي جديد يستخدم ستة بطاقات رسومات AMD Radeon RX 7900 XTX. يهدف الصندوق الصغير، الذي يبلغ سعره 15000 دولار، إلى إضفاء الطابع الديمقراطي على أداء فئة PetaFLOPS للذكاء الاصطناعي.
يعد نظام tinybox بمثابة قوة مدمجة، حيث يقوم بتعبئة ستة من أسرع وحدات معالجة الرسومات المخصصة للألعاب من AMD في علبة حامل سعة 12 وحدة. يتم توصيل وحدات معالجة الرسومات باستخدام روابط PCIe 4.0 x16 “كاملة النسيج” لضمان أقصى عرض نطاق ترددي. شركة صغيرة. تقول إنها اختارت Radeon RX 7900 XTX بدلاً من GeForce RTX 4090 من Nvidia لأن وحدات معالجة الرسومات تدعم بشكل كامل الاتصالات البينية من نظير إلى نظير اللازمة لـ LLMs.
أجهزة توم تشير التقارير إلى أن “الصندوق الصغير يمكن أن يوفر ما يصل إلى 738 FP16 TFLOPS (0.738 FP16 TFLOPS) من الأداء إلى جانب ذاكرة GDDR6 بسعة 96 جيجابايت والتي توفر 21 تيرابايت/ثانية من عرض النطاق الترددي للذاكرة المجمعة. لوضع الأرقام في السياق، يوفر صندوق صغير واحد 37% من أداء الحوسبة Nvidia H100 (FP16) ولكن ذاكرة أكبر قليلاً (96 جيجابايت بدلاً من 80 جيجابايت) وعرض نطاق ترددي أعلى بكثير للذاكرة (21 تيرابايت/ثانية بدلاً من 3.35 تيرابايت/ثانية).
يشحن قريبا
يشتمل الصندوق الصغير على خمسة محركات أقراص SSD من نوع Western Digital SN850X بسعة 1 تيرابايت (4 في RAID، و1 للتمهيد) كما يتميز بفتحة 16x OCP 3.0 فارغة للتواصل. سيتم شحنه مع Ubuntu 22.04 وإطار عمل tinygrad، على الرغم من أن شركة tinycorp سعيدة للمشترين بتشغيل أطر عمل أخرى للتعلم الآلي مثل PyTorch وJAX على أجهزة AMD. وكما تقول الشركة، “أجهزتك هي أجهزتك… فنحن نرحب بك لشرائها لأي غرض من الأغراض.”
رغم ذلك، لا يهتم الجميع بفكرة الصندوق الصغير. ك أجهزة توم وعلق القارئ قائلًا: “يا إلهي، إنها شركة ناشئة أخرى من شأنها أن تتسبب في ارتفاع أسعار وحدات معالجة الرسومات الخاصة بالألعاب.”
يقال إن تكلفة BOM لجهاز tinybox تبلغ حوالي 10000 دولار، لكن الشركة ستبيعها مقابل 15000 دولار، وهو أقل بكثير من Nvidia’s H100 الذي يمكن بيعه بأكثر من 40000 دولار. وتقول الشركة إنها تلقت حتى الآن 583 طلبًا مسبقًا وتخطط لبدء الشحن في أبريل. من الممكن الطلب المسبق للصندوق الصغير مقابل 100 دولار.
وتقول الشركة عن مستقبل ابتكارها: “سوف ندفع حدود ما هو ممكن في هذا الصندوق. الأجهزة صلبة، لكن البرنامج عبارة عن رحلة ضخمة. يسعدني أن أكون في هذه الرحلة معكم جميعًا قريبًا لتصبحوا مالكي صندوق صغير. الى المعدن. سوف نقوم بإخراج كل فشل أخير من هذا الشيء “.
المزيد من TechRadar Pro
