نکات کلیدی:
-
پردازندههای گرافیکی ترجیح داده میشوند برای آموزش مدل هوش مصنوعی و محاسبات ابری.
-
تی پی یوها ابر محور هستند و بهترین گزینه در ... اکوسیستم هوش مصنوعی گوگل.
-
پردازندهها کلینگر هستند، برای یادگیری عمیق ایدهآل نیستند.
-
واحدهای پردازش مرکزی (NPU) انتخاب اول برای هوش مصنوعی روی دستگاه، ارائه دهنده بهترین تعادل بین سرعت، کارایی و مصرف کم انرژی برای حجم کار استنتاج.
همانطور که هوش مصنوعی همچنان به سمت ... حرکت میکند لبه، NPU به عنوان مناسبترین راهحل بلندمدت برای ... یادگیری ماشینی تعبیهشده و بلادرنگ.
کاربردهای کلیدی NPUها در کجا استفاده میشوند؟
واحدهای پردازش عصبی (NPU) اکنون یک جزء اساسی در طیف وسیعی از فناوریهای مبتنی بر هوش مصنوعی، به ویژه آنهایی که نیاز دارند استنتاج روی دستگاه، مصرف برق پایین، و پاسخگویی بلادرنگهمچنان که صنایع به ادغام ادامه میدهند هوش مصنوعی در جریانهای کاری آنها، NPUها در هر دو مورد در حال اتخاذ هستند. لوازم الکترونیکی مصرفی و سیستمهای صنعتی.
۱. گوشیهای هوشمند و دستگاههای همراه
مدرن گوشیهای هوشمند مجهز به NPU برای تأمین انرژی پیشرفته هستند ویژگیهای هوش مصنوعی مانند:
-
تشخیص چهره (مثلاً احراز هویت بیومتریک)
-
بهبود عکس و تشخیص شیء در برنامههای دوربین
-
دستیارهای صوتی و ترجمه زبان
-
واقعیت افزوده (AR) رندرینگ در زمان واقعی
چیپستهای موبایل پیشرو مانند موتور عصبی سری A اپل، کوالکام اسنپدراگون، و تراشه Kirin هواوی ادغام NPUها برای کارایی بیشتر پردازش هوش مصنوعی لبهای.
۲. محاسبات لبه و اینترنت اشیا
در دنیایِ هوش مصنوعی لبهای، NPU ها را فعال می کنند دوربینهای هوشمند، دستگاههای پوشیدنی، و مراکز اتوماسیون خانگی پیچیده اجرا کردن مدلهای یادگیری ماشین به صورت محلی. این امر وابستگی به سرورهای ابری را کاهش میدهد و سرعت بالاتر را تضمین میکند. تصمیمگیریحتی در محیطهایی با اتصال محدود.
۳. خودرو و رباتیک
NPU ها به طور فزاینده ای در ... مستقر می شوند وسایل نقلیه خودران و سیستمهای رباتیک برای پردازش:
-
همجوشی حسگر
-
تشخیص خط
-
تشخیص عابر پیاده
-
سیستمهای فرمان صوتی
با اجرای استنتاج به طور مستقیم روی وسیله نقلیه یا ربات، NPU ها تضمین میکنند پردازش بلادرنگ با حداقل تأخیر.
۴. هوش مصنوعی صنعتی و مراقبتهای بهداشتی
NPU ها همچنین در موارد زیر استفاده می شوند: اتوماسیون کارخانه، نگهداری و تعمیرات پیشبینانه، و تصویربرداری پزشکیدر تولید هوشمند، NPU ها را فعال می کنند سیستمهای بینایی هوش مصنوعی برای شناسایی نقصها، طبقهبندی مواد و نظارت مداوم بر عملیات بدون نیاز به اتصالات ابری با پهنای باند بالا.
فروشندگان و اکوسیستمهای اصلی سختافزار NPU
رشد هوش مصنوعی در لبه منجر به سرمایهگذاریهای قابل توجهی در توسعه سختافزار NPU توسط شرکتهای بزرگ فناوری. این فروشندگان در حال شکل دادن به چشمانداز [خدمات] هستند. هوش مصنوعی تعبیهشده با ارائه راهحلهای هدفمند و بهینهشده برای سرعت استنتاج، راندمان توان، و انعطافپذیری ادغامهر برندی ویژگیهای خاص خودش را دارد. معماری NPU، زنجیره ابزار و پشتیبانی اکوسیستم.
۱. اپل – موتور عصبی
اپل موتور عصبی، در آن ادغام شده است تراشههای سری A و سری M، وظایف پیشرفته هوش مصنوعی را در آیفونها، آیپدها و مکها پشتیبانی میکند. این سیستم موارد زیر را ارائه میدهد:
2. Huawei – Da Vinci Architecture
هواوی واحدهای پردازش عصبی (NPU) اسند و معماری داوینچی در مرکز آن قرار دارند تراشههای Kirin و زیرساخت هوش مصنوعی:
-
استنتاج شتابیافته هوش مصنوعی در دستگاههای تلفن همراه
-
استقرار در مراکز داده برای هوش مصنوعی سازمانی
-
پشتیبانیها ماینداسپور چارچوب هوش مصنوعی
۳. کوالکام - پردازنده سیگنال دیجیتال شش ضلعی با موتور هوش مصنوعی
کوالکام موتور پردازش سیگنال دیجیتال شش ضلعی + هوش مصنوعی در پلتفرمهای اسنپدراگون تعبیه شده است و موارد زیر را ارائه میدهد:
۴. گوگل - Edge TPU
لبه TPU، بخشی از گوگل سکوی مرجانی، متناسب با استقرار اینترنت اشیا و لبه:
-
بهینه شده برای تنسورفلو لایت
-
استنتاج هوش مصنوعی با مصرف انرژی بسیار کم
-
فاکتور فرم جمع و جور برای حسگرهای هوشمند و دروازهها
5. NVIDIA – NVDLA و Jetson Platform
انویدیا انویدیالای (شتابدهنده یادگیری عمیق) و سری جتسون ارائه محاسبات هوش مصنوعی با کارایی بالا:
چالشها و محدودیتهای واحدهای پردازش مرکزی (NPU)
در حالی که واحدهای پردازش عصبی (NPU) مزایای قابل توجهی را ارائه می دهند عملکرد استنتاج هوش مصنوعی، راندمان توان، و محاسبات لبهای، آنها بدون محدودیت نیستند. توسعهدهندگان و یکپارچهسازان سیستم باید هنگام اتخاذ NPUها در ... چالشهای فنی و عملیاتی متعددی را در نظر بگیرند. دستگاههای مجهز به هوش مصنوعی.
۱. سازگاری با چارچوب
یکی از موانع کلیدی، پشتیبانی محدود از ... چارچوبهای هوش مصنوعیبرخلاف پردازندههای گرافیکی (GPU) که از طیف وسیعی از پلتفرمها مانند ... پشتیبانی میکنند. تنسورفلو، پایتورچ، و ONNX، NPU ها اغلب نیاز دارند زنجیر ابزارهای سفارشی یا SDK های اختصاصی. این می تواند منجر به موارد زیر شود:
۲. قابلیت استنتاج صرف
بیشتر NPU ها منحصراً برای این منظور طراحی شدهاند استنباط، نه آموزشاین یعنی:
-
مدلهای هوش مصنوعی باید آموزش ببینند پردازندههای گرافیکی (GPU) یا TPUها
-
هرگونه آموزش مجدد یا تنظیم دقیق نیاز به زیرساختهای خارجی دارد
-
کاهش انعطافپذیری در یادگیری روی دستگاه
۳. محدودیتهای ادغام سختافزار
ادغام NPUها در سیستمهای تعبیهشده یا سیستم روی تراشه (SoC) طرحها شامل بدهبستانهایی هستند: