ما هو NPU؟

النقاط الرئيسية:

• وحدات معالجة الرسومات مفضلة ل تدريب نموذج الذكاء الاصطناعي و الحوسبة السحابية.

• وحدات TPU تتمحور حول السحابة وهي الأفضل ضمن نظام جوجل للذكاء الاصطناعي.

• وحدات المعالجة المركزية هم متخصصون في العموم، وليسوا مثاليين للتعلم العميق.

• وحدات المعالجة العصبية هو الخيار الأمثل لـ الذكاء الاصطناعي على الجهاز، تقدم أفضل توازن بين السرعة والكفاءة والطاقة المنخفضة لأحمال عمل الاستدلال.

مع استمرار الذكاء الاصطناعي في التحرك نحو حافة، تبرز وحدة المعالجة العصبية باعتبارها الحل الأكثر قابلية للتطبيق على المدى الطويل التعلم الآلي المضمن في الوقت الفعلي.

أين تُستخدم وحدات المعالجة العصبية؟ التطبيقات الرئيسية

وحدات المعالجة العصبية (NPUs) أصبحت الآن مكونًا أساسيًا في مجموعة واسعة من التقنيات المعتمدة على الذكاء الاصطناعي، وخاصة تلك التي تتطلب الاستدلال على الجهاز، استهلاك منخفض للطاقة، و الاستجابة في الوقت الفعليمع استمرار تكامل الصناعات الذكاء الاصطناعي في سير العمل الخاصة بهم، يتم اعتماد وحدات المعالجة العصبية في كل من الالكترونيات الاستهلاكية و الأنظمة الصناعية.

1. الهواتف الذكية والأجهزة المحمولة

حديث الهواتف الذكية مجهزة بوحدات معالجة عصبية لتشغيل المعالجات المتقدمة ميزات الذكاء الاصطناعي مثل:

• التعرف على الوجه (على سبيل المثال، المصادقة البيومترية)

• تحسين الصورة و كشف الأشياء في تطبيقات الكاميرا

• المساعدون الصوتيون و ترجمة اللغة

• الواقع المعزز (AR) العرض في الوقت الحقيقي

شرائح الهواتف المحمولة الرائدة مثل محرك A-series Neural Engine من Apple، كوالكوم سنابدراجون، و معالج Kirin من هواوي دمج وحدات المعالجة العصبية لتحقيق الكفاءة معالجة الذكاء الاصطناعي الحافة.

2. الحوسبة الحافة وإنترنت الأشياء

في عالم الذكاء الاصطناعي الحافة, وحدات المعالجة العصبية تمكن الكاميرات الذكية، الأجهزة القابلة للارتداء، و مراكز الأتمتة المنزلية لتشغيل المعقد نماذج التعلم الآلي محليًا. هذا يقلل الاعتماد على خوادم السحابة ويضمن سرعة أكبر صناعة القرار، حتى في البيئات ذات الاتصال المحدود.

3. السيارات والروبوتات

يتم نشر وحدات المعالجة العصبية بشكل متزايد في المركبات ذاتية القيادة و أنظمة الروبوتات لمعالجة:

• دمج المستشعرات

• كشف المسار

• التعرف على المشاة

• أنظمة الأوامر الصوتية

من خلال تشغيل الاستدلال مباشرة على المركبة أو الروبوت، تضمن وحدات المعالجة العصبية المعالجة في الوقت الحقيقي مع الحد الأدنى من زمن الوصول.

4. الذكاء الاصطناعي الصناعي والرعاية الصحية

تُستخدم وحدات المعالجة العصبية أيضًا في أتمتة المصانع، الصيانة التنبؤية، و التصوير الطبي. في التصنيع الذكي, وحدات المعالجة العصبية تمكن أنظمة الرؤية بالذكاء الاصطناعي لتحديد العيوب وتصنيف المواد ومراقبة العمليات بشكل مستمر دون الحاجة إلى اتصالات سحابية ذات نطاق ترددي عالي.

كبار بائعي أجهزة NPU والأنظمة البيئية

نمو الذكاء الاصطناعي على الحافة وقد أدى ذلك إلى استثمارات كبيرة في تطوير أجهزة NPU من قِبل شركات التكنولوجيا الكبرى. هؤلاء البائعون يُشكلون المشهد الذكاء الاصطناعي المضمن من خلال تقديم حلول مصممة خصيصًا لـ سرعة الاستدلال، كفاءة الطاقة، و مرونة التكامل. كل علامة تجارية لها خاصتها هندسة وحدة المعالجة العصبية، وسلسلة الأدوات، ودعم النظام البيئي.

1. Apple – المحرك العصبي

شركة آبل المحرك العصبي، متكاملة في شرائح السلسلة A والسلسلة Mيدعم مهام الذكاء الاصطناعي المتقدمة في أجهزة iPhone وiPad وMac. يوفر:

• في الوقت الحالى التعرف على الوجه

• معالجة Siri على الجهاز

• تحسينات ذكية للصور والفيديو

2. هواوي – عمارة دافنشي

هواوي وحدات المعالجة العصبية الصاعدة و عمارة دافنشي هي محورية بالنسبة لها معالجات Kirin و البنية التحتية للذكاء الاصطناعي:

• الاستدلال المتسارع للذكاء الاصطناعي في الأجهزة المحمولة

• النشر في مراكز البيانات للذكاء الاصطناعي للمؤسسات

• يدعم مايند سبور إطار عمل الذكاء الاصطناعي

3. كوالكوم - معالج إشارة رقمية سداسي الأضلاع مع محرك الذكاء الاصطناعي

شركة كوالكوم معالج الإشارة الرقمية السداسي + محرك الذكاء الاصطناعي مُدمج في منصات Snapdragon، مما يوفر:

• تسريع الذكاء الاصطناعي لتطبيقات الأندرويد

• فعال المعالجة على الجهاز

• التوافق مع TensorFlow Lite و أونكس

4. جوجل - Edge TPU

ال حافة TPU، جزء من جوجل منصة المرجان، مصممة خصيصًا لـ نشر إنترنت الأشياء والحافة:

• مُحسّن لـ TensorFlow Lite

• استدلال الذكاء الاصطناعي منخفض الطاقة للغاية

• عامل الشكل المدمج لـ أجهزة استشعار ذكية و بوابات

5. NVIDIA – NVDLA ومنصة Jetson

إنفيديا NVDLA (مسرع التعلم العميق) و سلسلة جيتسون تقديم الحوسبة الذكية عالية الأداء:

• تستخدم في الروبوتات، طائرات بدون طيار، و الآلات ذاتية التشغيل

• يدعم مختلف، تينسور آر تي، و مجموعة أدوات تطوير البرامج DeepStream

التحديات والقيود التي تواجه وحدات المعالجة العصبية

بينما وحدات المعالجة العصبية (NPUs) تقدم مزايا ملحوظة في أداء استدلال الذكاء الاصطناعي، كفاءة الطاقة، و الحوسبة الحافة، فهي ليست خالية من القيود. يجب على المطورين ومُدمجي الأنظمة مراعاة العديد من التحديات التقنية والتشغيلية عند اعتماد وحدات المعالجة العصبية في الأجهزة التي تدعم الذكاء الاصطناعي.

1. توافق الإطار

أحد العوائق الرئيسية هو الدعم المحدود لـ أطر عمل الذكاء الاصطناعي. على عكس وحدات معالجة الرسومات، التي تدعم مجموعة واسعة من المنصات مثل تينسور فلو، باي تورش، و أونكستتطلب وحدات المعالجة العصبية في كثير من الأحيان سلاسل أدوات مخصصة أو حزم تطوير برمجيات خاصة. قد يؤدي هذا إلى:

• دورات تطوير أطول

• صعوبة في تحويل النموذج وتحسينه

• أداء غير متسق عبر بائعي الأجهزة

2. القدرة على الاستدلال فقط

تم تصميم معظم وحدات المعالجة العصبية خصيصًا لـ الاستدلال، لا تمرين. هذا يعنى:

• يجب تدريب نماذج الذكاء الاصطناعي على وحدات معالجة الرسومات أو وحدات معالجة الرسومات الحرارية

• أي إعادة تدريب أو ضبط دقيق يتطلب بنية تحتية خارجية

• انخفاض المرونة في التعلم على الجهاز

3. قيود تكامل الأجهزة

دمج وحدات المعالجة العصبية في الأنظمة المضمنة أو نظام على رقاقة (SoC) تتضمن التصاميم مقايضات:

• حدود مساحة السيليكون

• قيود التصميم الحراري

• الصراعات المحتملة مع نطاق الإدخال/الإخراج والذاكرة الحالي