Блог

NPU гэж юу вэ?

2024-08-13 16:29:49

Өнөөгийн хурдацтай хөгжиж буй нөхцөлд AI-д суурилсан ертөнц, илүү хурдан, илүү үр ашигтай тооцооллын эрэлт хэрэгцээ нь тусгай процессоруудыг бий болгосон Мэдрэлийн боловсруулалтын нэгж (NPU). Уламжлалтаас ялгаатай CPU-ууд эсвэл GPU, NPU нь хурдасгах зорилгоор бүтээгдсэн машин сургалтын дүгнэлт, ялангуяа гүн мэдрэлийн сүлжээ -д ашигласан компьютерийн хараа, байгалийн хэлний боловсруулалт, ба дуу хоолой таних.

Ан NPU нэг төрөл юм AI хурдасгуур шаардлагатай ажлуудад өндөр гүйцэтгэлтэй, хоцрогдол багатай боловсруулалт өгдөг зэрэгцээ тооцоолол болон тензорын үйлдлүүд. Эдгээр процессорууд нь одоо өргөн хүрээний платформд суулгагдсан байдаг—аас ухаалаг гар утас болон IoT төхөөрөмжүүд руу автомашины систем болон захын тооцооллын дэд бүтэц- идэвхжүүлэх төхөөрөмж дээрх AI хамгийн бага эрчим хүчний хэрэглээтэй.

Яагаад NPU чухал вэ:

Бодит цагийн гүйцэтгэлийг сайжруулсан AI ажлын ачааллын хувьд
Эрчим хүчний хэрэглээ бага GPU дээр суурилсан шийдлүүдтэй харьцуулахад
Үүлний дүгнэлтээс хамаарал багассан, мэдээллийн нууцлал болон хоцролтыг сайжруулах
Өргөтгөх чадвар авсаархан төхөөрөмж болон суулгагдсан системд зориулагдсан

-ийн өсөлт захын AI болон тархалт AI-ээр ажилладаг програмууд NPU гэж юу болох, бусад боловсруулалтын нэгжүүдээс юугаараа ялгаатай болохыг ойлгоход зайлшгүй шаардлагатай. Энэ нийтлэлд бид судлах болно архитектур, ашиглах тохиолдлууд, мөн ухаалаг тооцооллын өргөн хүрээнд NPU-ийн стратегийн үнэ цэнэ.

NPU гэж юу вэ? Техникийн тойм

А Мэдрэлийн боловсруулалтын нэгж (NPU) тусгайлан зохицуулах зориулалттай микропроцессор юм хиймэл оюун ухаан (AI) ажлын ачаалал, ялангуяа холбоотой гүнзгий суралцах болон мэдрэлийн сүлжээний дүгнэлт. Ерөнхий зориулалтаас ялгаатай CPU-ууд эсвэл графикт чиглэсэн GPU, NPU-г идэвхжүүлдэг математик үйлдлүүдэд зориулж оновчтой болгосон машин сургалтын загваруудгэх мэт матрицын үржвэрүүд, эргэлтүүд, ба тензор боловсруулалт.

NPU-ийн үндсэн шинж чанарууд:

AI дүгнэлт гаргах зорилгоор бүтээгдсэн, сургалт биш
Гүйцэтгэдэг зэрэгцээ үйлдлүүд үр дүнтэй
Оновчлогдсон бага хоцролт, өндөр нэвтрүүлэх чадвар ажлын ачаалал
ихээхэн хамтран ажилладаг бага эрчим хүчний хэрэглээ GPU-ээс илүү

байхад CPU-ууд дараалсан логик болон GPU рэндэрлэх, тоглоом тоглоход онц чадвартай, NPUs зэрэг ажлуудыг хурдасгахад зориулагдсан:

Объект илрүүлэх
Нүүр царай таних
Дууг текст рүү хөрвүүлэх
Ухаалаг камерын аналитик

Процессорын төрөл	Үндсэн үүрэг	Хүч чадал	Эрчим хүчний үр ашиг	AI тохиромжтой
CPU	Ерөнхий даалгавар	Олон талт	Бага	Хязгаарлагдмал
GPU	График, AI	Өндөр дамжуулах чадвар	Дунд зэрэг	Бэлтгэл сургуулилтад хүчтэй
NPU	AI дүгнэлт	AI-оновчтой	Өндөр	AI-д хамгийн тохиромжтой

AI нь илүү олон төхөөрөмжид суулгагдсан болохын хэрээр-аас ухаалаг гар утас руу аж үйлдвэрийн IoT-нь NPU хамгийн их ялгардаг үр ашигтай, өргөтгөх боломжтой Ухаалаг функцуудыг шууд идэвхжүүлэх процессор ирмэг, байнгын үүлэн хандалтад найдахгүйгээр.

NPU хэрхэн ажилладаг вэ?

А Мэдрэлийн боловсруулалтын нэгж (NPU) гүйцэтгэхээр бүтээгдсэн AI дүгнэлт хийх даалгавар онцгой хурд, үр ашигтай. Уламжлалт процессоруудаас ялгаатай нь NPU нь ажилладаг тензорт суурилсан өгөгдлийн бүтэц, асар их хэмжээгээр гүйцэтгэх матрицын үйлдлүүд зэрэгцээ - орчин үеийн ажиллахад зайлшгүй шаардлагатай гүнзгий суралцах загварууд гэх мэт CNNs (Convolutional Neural Networks) болон RNNs (давтагдах мэдрэлийн сүлжээ).

Ажлын үндсэн зарчим:

Зэрэгцээ байдал: NPU-ууд гүйцэтгэдэг нэгэн зэрэг олон үйлдэл хийх, зэрэг ажлуудыг боловсруулах хугацааг эрс багасгадаг зургийн ангилал болон яриа таних.
Техник хангамжийн хурдасгасан тензорын тооцоолол: Баригдсан тензор цөм том хэмжээний үр ашигтай ажиллах матрицын үржвэрүүд.
Бага нарийвчлалтай арифметик: Олон NPU ашигладаг INT8 эсвэл FP16 хооронд тэнцвэрийг бий болгох нарийн формат нарийвчлал болон эрчим хүчний үр ашиг.
Дамжуулах хоолойн архитектур: зэрэг даалгаварууд өгөгдөл татах, жин боловсруулах, ба идэвхжүүлэлтийн тооцоолол дамжуулах чадварыг нэмэгдүүлэхийн тулд шугаман дарааллаар гүйцэтгэгддэг.

Хялбаршуулсан дүгнэлтийн урсгал:

Өгөгдөл оруулах (жишээ нь, зураг эсвэл аудио дохио) урьдчилан боловсруулсан байна.
Өгөгдөл орж ирдэг NPU-ийн тензор хөдөлгүүр мэдрэлийн тооцооллын хувьд.
Загвар нь жин ба хазайлт дүгнэлтийг чиглүүлэх.
Үр дүнг бодит цаг хугацаанд, ихэнхдээ үүлэн тусламжгүйгээр хүргэдэг.

Нэгтгэх замаар бага хоцролттой гүйцэтгэл, эрчим хүчний хэмнэлттэй дизайн, ба зориулагдсан AI логик, NPU нь төхөөрөмжүүдийг ажиллуулах боломжийг олгодог нарийн төвөгтэй AI загварууд орон нутагт. Энэ нь тэднийг зайлшгүй шаардлагатай болгодог захын тооцоолол, ухаалаг төхөөрөмжүүд, ба аж үйлдвэрийн AI програмууд хаана бодит цагийн шийдвэр гаргах шүүмжлэлтэй байдаг.

NPU-ийн гол давуу талууд

-ийн үрчлэлт Мэдрэлийн боловсруулалтын нэгжүүд (NPUs) байрлуулахад хувьсгал хийсэн AI дүгнэлт хоёуланд нь захын төхөөрөмжүүд болон үүлэн орчин. NPU нь a тусгай боловсруулалтын архитектур Энэ нь уламжлалтаас илүү гүйцэтгэл, эрчим хүчний үр ашгийг нэмэгдүүлэх боломжийг олгодог CPU болон GPU гүйцэтгэх үед шийдлүүд гүнзгий суралцах загварууд.

NPU ашиглахын гол давуу талууд:

AI дүгнэлт гаргах өндөр гүйцэтгэл
NPU нь тусгай зориулалтын дагуу бүтээгдсэн AI ажлын ачаалал, гүйцэтгэж байна мэдрэлийн сүлжээний үйл ажиллагаа илүү хурдтай, хоцрогдол багатай. Тэд боловсруулдаг зэрэгцээ тензорын тооцоолол зэрэг аппликешнүүдэд бодит цагийн ойлголтыг үр дүнтэй хүргэх объект илрүүлэх, зургийн сегментчилэл, ба яриа таних.
Эрчим хүчний хэмнэлт
Тэдгээрийн ачаар NPU нь GPU-ээс хамаагүй бага эрчим хүч зарцуулдаг бага нарийвчлалтай арифметик (жишээ нь, INT8, FP16) болон оновчтой архитектур. Энэ нь тэднийг хамгийн тохиромжтой болгодог хөдөлгөөнт AI болон IoT төхөөрөмжүүд хаана зайны хугацаа болон дулааны хязгаарлалт шүүмжлэлтэй ханддаг.
Төхөөрөмж дээрх AI боломжууд
Идэвхжүүлснээр орон нутгийн дүгнэлт, NPU нь үүлэн боловсруулалтын хэрэгцээг багасгаж, сайжруулдаг мэдээллийн нууцлал, хариу өгөх хугацаа, ба сүлжээний зурвасын өргөний үр ашиг.
Авсаархан, өргөтгөх боломжтой дизайн
NPU-г нэгтгэж болно Чип дээрх систем (SoC) дизайн, үйлдвэрлэгчдэд суулгах боломжийг олгодог AI хурдасгуурууд зэрэг авсаархан төхөөрөмж болгон ухаалаг гар утас, өмсөх боломжтой, захын гарцууд, ба бие даасан системүүд.

Харьцуулах хүснэгт: NPU, GPU болон CPU-ийн эсрэг

Онцлог	NPU	GPU	CPU
Зорилго	AI дүгнэлт	График, ерөнхий AI	Ерөнхий зориулалтын тооцоолол
Эрчим хүчний үр ашиг	⭐⭐⭐⭐⭐	⭐⭐	⭐
Хоцролт (Бодит цаг)	Бага	Дунд зэрэг	Өндөр
Зэрэгцээ AI ажлын ачаалал	Маш сайн	Маш сайн	Хязгаарлагдмал
Хамгийн тохиромжтой хэрэглүүр	Edge AI, Mobile AI	AI сургалт, график	Хяналтын логик, үйлдлийн системийн даалгавар

NPU-г AI-ийн захын тооцооллын шийдэлд нэгтгэснээр бизнесүүд үйл ажиллагааны зардал багатай өндөр хурдны машин сургалтын дүгнэлтийг нээж, NPU-г дараагийн үеийн хиймэл оюун ухааны техник хангамжийн үндэс болгож чадна.

NPU, CPU, GPU, TPU-ийн эсрэг: Харьцуулсан дүн шинжилгээ

Хэрэгцээний хувьд бодит цагийн AI дүгнэлт Ухаалаг утас, автономит тээврийн хэрэгслээс эхлээд үйлдвэрлэлийн робот техник хүртэл төхөөрөмжүүдийн дунд өсөн нэмэгдэж байгаа бөгөөд эдгээр ажлын ачааллыг аль процессор хамгийн сайн даах вэ гэсэн маргаан улам ширүүссээр байна. байхад CPU-ууд, GPU, TPUs, ба NPUs бүгдийг гүйцэтгэж чадна машин сурах даалгаврууд, тэдгээр нь маш өөр зорилгоор оновчтой байдаг. Эдгээр ялгааг ойлгох нь техник хангамжийг сонгоход маш чухал юм AI програмууд, ялангуяа дээр ирмэг.

CPU (Төв боловсруулах нэгж)

The CPU хамгийн уян хатан процессор хэвээр байна. Энэ нь өргөн хүрээний ерөнхий зориулалтын тооцооллын ажлуудыг гүйцэтгэдэг үйлдлийн системийн функцууд, I/O удирдлага, ба дараалсан логик. Процессорууд нь AI-ийн дүгнэлтийг техникийн хувьд гүйцэтгэх боломжтой боловч тэдгээр нь оновчтой биш юм зэрэгцээ боловсруулалт мэдрэлийн сүлжээ шаарддаг.

GPU (График боловсруулах нэгж)

Эхлээд зураг, видеог үзүүлэх зорилгоор бүтээгдсэн GPU өндөр үр дүнтэй болох нь батлагдсан зэрэгцээ үйлдлүүд, аль алинд нь тохиромжтой AI сургалт болон дүгнэлт. GPU нь давуу талтай өгөгдлийн төвийн орчин, эрчим хүчний хэрэглээ болон зай багатай байдаг.

TPU (Тензор боловсруулах нэгж)

Google-ийн хөгжүүлсэн TPU зориулав тензорын тооцоолол AI ажлын ачаалалд. Энэ нь хүчирхэг сургалт, дүгнэлтийн гүйцэтгэлийг өгдөг боловч үндсэндээ байдаг үүлэн дэд бүтэц эсвэл аж ахуйн нэгжийн түвшний техник хангамж.

NPU (Мэдрэлийн боловсруулалтын нэгж)

Эхнээс нь зориулж бүтээсэн AI дүгнэлт, the NPU ватт тутамд давтагдашгүй гүйцэтгэлийг санал болгодог. Энэ нь одоо өргөн тархсан байна Чип дээрх систем (SoC) ухаалаг гар утас, хиймэл оюун ухааны захын төхөөрөмжүүд болон бие даасан машинуудын дизайн.

Процессорын харьцуулах хүснэгт

Онцлог	CPU	GPU	TPU	NPU
зориулав	Ерөнхий зориулалт	График ба AI	Tensor Ops	AI дүгнэлт
AI сургалт	Хөөрхий	Маш сайн	Маш сайн	Хязгаарлагдмал
AI дүгнэлт	Хязгаарлагдмал	Сайн байна	Маш сайн	Маш сайн
Эрчим хүчний үр ашиг	Бага	Дунд зэрэг	Бага	Өндөр
Хоцролт (Эджийн даалгавар)	Өндөр	Дунд зэрэг	Бага	Маш бага
Мобайл/IoT-д тохирсон байдал	Хөөрхий	Хөөрхий	Хязгаарлагдмал	Маш сайн
Хүрээний дэмжлэг	Өргөн	Өргөн	Нарийн (Google)	Дунд зэрэг (өөр өөр)

Гол арга хэмжээ:

GPU илүүд үздэг AI загварын сургалт болон үүлэн тооцоолол.
TPUs үүлэн төвлөрсөн бөгөөд хамгийн шилдэг нь Google AI экосистем.
CPU-ууд ерөнхий судлаачид бөгөөд гүнзгий суралцахад тохиромжгүй.
NPUs -д зориулсан сонголт юм төхөөрөмж дээрх AI, санал болгож байна хурд, үр ашиг, бага чадлын хамгийн сайн тэнцвэр дүгнэлт хийх ажлын ачааллын хувьд.

AI үргэлжлүүлэн шилжинэ ирмэг, NPU нь хамгийн ашигтай урт хугацааны шийдэл гэдгээрээ онцлог юм бодит цагийн, суулгагдсан машин сурах.

NPU-г хаана ашигладаг вэ? Гол програмууд

Мэдрэлийн боловсруулалтын нэгжүүд (NPUs) одоо өргөн хүрээний үндсэн бүрэлдэхүүн хэсэг болж байна AI-д суурилсан технологи, ялангуяа шаардлагатай байгаа төхөөрөмж дээрх дүгнэлт, бага эрчим хүчний хэрэглээ, ба бодит цагийн хариу үйлдэл. Аж үйлдвэрүүд интеграцчилсаар байна хиймэл оюун ухаан Тэдний ажлын урсгалд NPU-г хоёуланд нь нэвтрүүлж байна хэрэглээний цахилгаан бараа болон аж үйлдвэрийн системүүд.

1. Ухаалаг утас, гар утас

Орчин үеийн ухаалаг гар утас дэвшилтэт эрчим хүчний NPU тоноглогдсон байна AI онцлог гэх мэт:

Нүүр царай таних (жишээ нь, биометрийн баталгаажуулалт)
Фото зургийн сайжруулалт болон объект илрүүлэх камерын програмуудад
Дуут туслахууд болон хэлний орчуулга
Өргөтгөсөн бодит байдал (AR) бодит цаг хугацаанд үзүүлэх

Тэргүүлэх гар утасны чипсет гэх мэт Apple-ийн A цуврал мэдрэлийн хөдөлгүүр, Qualcomm Snapdragon, ба Huawei-ийн Kirin SoC үр ашигтай байхын тулд NPU-г нэгтгэх захын AI боловсруулалт.

2. Edge Computing болон IoT

-ийн ертөнцөд захын AI, NPU-г идэвхжүүлдэг ухаалаг камерууд, өмсдөг төхөөрөмж, ба гэрийн автоматжуулалтын төвүүд цогцолбор ажиллуулах машин сургалтын загварууд орон нутагт. Энэ нь үүлэн серверт найдах явдлыг бууруулж, илүү хурдан ажиллах боломжийг олгодог шийдвэр гаргах, хязгаарлагдмал холболттой орчинд ч гэсэн.

3. Автомашин ба робот техник

NPU-ууд улам бүр нэмэгдэж байна бие даасан тээврийн хэрэгсэл болон роботын систем боловсруулах:

Мэдрэгчийн нэгдэл
Эгнээ илрүүлэх
Явган зорчигчийг таних
Дуут командын системүүд

Тээврийн хэрэгсэл эсвэл робот дээр шууд дүгнэлт хийснээр NPU-ууд баталгаатай болно бодит цагийн боловсруулалт хамгийн бага хоцролттой.

4. Үйлдвэр, эрүүл мэндийн AI

NPU-г бас ашигладаг үйлдвэрийн автоматжуулалт, урьдчилан таамаглах засвар үйлчилгээ, ба эмнэлгийн дүрслэл. онд ухаалаг үйлдвэрлэл, NPU-г идэвхжүүлдэг AI харааны систем өндөр зурвасын өргөнтэй үүлэн холболт шаардлагагүйгээр согогийг илрүүлэх, материалыг ангилах, үйл ажиллагааг тасралтгүй хянах.

NPU-ийн томоохон техник хангамж үйлдвэрлэгчид ба экосистем

-ийн өсөлт AI ирмэг дээр ихээхэн хэмжээний хөрөнгө оруулалт хийхэд хүргэсэн NPU техник хангамжийн хөгжүүлэлт томоохон технологийн компаниуд. Эдгээр борлуулагчид ландшафтыг бүрдүүлж байна суулгагдсан AI зориулалтын оновчтой шийдлүүдийг санал болгосноор дүгнэлтийн хурд, эрчим хүчний үр ашиг, ба интеграцийн уян хатан байдал. Брэнд бүр өөрийн гэсэн байдаг NPU архитектур, багаж хэрэгсэл, экосистемийн дэмжлэг.

1. Apple – Мэдрэлийн хөдөлгүүр

Apple-ийн Мэдрэлийн хөдөлгүүр, түүнд нэгтгэсэн A цуврал ба M цуврал чипүүд, iPhone, iPad, Mac дээр AI-ийн дэвшилтэт ажлуудыг идэвхжүүлдэг. Энэ нь хүргэдэг:

Бодит цагийн нүүр царай таних
Төхөөрөмж дээрх Siri боловсруулалт
Ухаалаг зураг, видео сайжруулалт

2. Huawei – Да Винчи Архитектур

Huawei-ийн Ascend NPUs болон Да Винчи архитектур түүний гол төв юм Kirin SoCs болон AI дэд бүтэц:

Хурдасгасан AI дүгнэлт хөдөлгөөнт төхөөрөмжүүд
Байрлуулалт мэдээллийн төвүүд аж ахуйн нэгжийн AI-д зориулсан
Дэмжиж байна MindSpore AI хүрээ

3. Qualcomm – AI хөдөлгүүртэй Hexagon DSP

Qualcomm Зургаан өнцөгт DSP + AI хөдөлгүүр Snapdragon платформд суулгагдсан бөгөөд дараахь зүйлийг санал болгодог.

AI хурдатгал Android програмуудад зориулсан
Үр дүнтэй төхөөрөмж дээрх боловсруулалт
-тай нийцтэй байдал TensorFlow Lite болон ONNX

4. Google – Edge TPU

The Edge TPU, Google-ийн нэг хэсэг Шүрэн платформ, зориулалтын дагуу хийгдсэн IoT болон захын байршуулалт:

Оновчлогдсон TensorFlow Lite
Хэт бага чадалтай AI дүгнэлт
Компакт хэлбэрийн хүчин зүйл ухаалаг мэдрэгч болон гарцууд

5. NVIDIA – NVDLA болон Jetson платформ

NVIDIA-ууд NVDLA (Гүн суралцах хурдасгуур) ба Жетсон цуврал өндөр хүчин чадалтай AI тооцоололыг хүргэх:

-д ашигласан робот техник, нисгэгчгүй онгоцууд, ба бие даасан машинууд
Дэмжиж байна ӨӨР, TensorRT, ба DeepStream SDK

NPU-ийн сорилт ба хязгаарлалтууд

байхад Мэдрэлийн боловсруулалтын нэгжүүд (NPUs) онд гайхалтай давуу талыг санал болгож байна AI дүгнэлтийн гүйцэтгэл, эрчим хүчний үр ашиг, ба захын тооцоолол, тэдгээр нь хязгаарлалтгүй биш юм. Хөгжүүлэгчид болон системийн интеграторууд NPU-г ашиглахдаа техникийн болон үйл ажиллагааны хэд хэдэн сорилтыг анхаарч үзэх хэрэгтэй AI-ийг дэмждэг төхөөрөмжүүд.

1. Хүрээний нийцтэй байдал

Гол саад бэрхшээлүүдийн нэг нь хязгаарлагдмал дэмжлэг юм AI хүрээ. гэх мэт өргөн хүрээний платформуудыг дэмждэг GPU-ээс ялгаатай TensorFlow, PyTorch, ба ONNX, NPU нь ихэвчлэн шаарддаг захиалгат хэрэгслийн гинж эсвэл өмчлөлийн SDK. Энэ нь дараахь зүйлд хүргэж болзошгүй.

Илүү урт хөгжлийн мөчлөг
Хэцүү байдал загвар хувиргах, оновчтой болгох
Техник хангамжийн борлуулагчид тогтворгүй гүйцэтгэл

2. Зөвхөн дүгнэлт хийх чадвар

Ихэнх NPU нь зөвхөн зориулагдсан байдаг дүгнэлт, үгүй сургалт. Энэ нь:

AI загваруудыг сургах ёстой GPU эсвэл TPU
Аливаа давтан сургах, нарийн тааруулахад гадны дэд бүтэц шаардлагатай
Уян хатан байдал буурсан төхөөрөмж дээр суралцах

3. Техник хангамжийн интеграцийн хязгаарлалт

NPU-г суулгагдсан системд нэгтгэх эсвэл Чип дээрх систем (SoC) Дизайн нь харилцан тохиролцоог агуулдаг:

Цахиурын талбайн хязгаарлалт
Дулааны дизайны хязгаарлалт
-тай зөрчилдөж болзошгүй одоо байгаа I/O болон санах ойн зурвасын өргөн

NPU болон AI техник хангамжийн ирээдүй

Эрэлтийн хувьд бодит цагийн AI дүгнэлт салбар даяар өссөөр байна, ирээдүй Мэдрэлийн боловсруулалтын нэгжүүд (NPUs) хувьслын гол төв байх төлөвтэй байна AI техник хангамж. Эдгээр тусгай процессорууд нь илүү хүчирхэг, авсаархан, эрчим хүчний хэмнэлттэй болж, дараагийн үеийн компьютерийн үндсэн бүрэлдэхүүн хэсэг болгон байрлуулж байна. захын AI төхөөрөмжүүд, ухаалаг мэдрэгч, ба бие даасан системүүд.

NPU-ийн хөгжлийн шинэ чиг хандлага

Илүү нягт SoC интеграцчилал
NPU-ууд улам бүр нэгдэж байна Чип дээрх систем (SoC) CPU, GPU болон ISP-тэй зэрэгцэн дизайн хийдэг. Энэхүү нэгдсэн архитектур нь илүү хурдан ажиллах боломжийг олгодог мэдээлэл боловсруулах дамжуулах хоолой, хоцролтыг багасгаж, системийн нарийн төвөгтэй байдлыг бууруулдаг.
Гетероген тооцооллын дэмжлэг
Ирээдүйн NPU-ууд нь бусад хиймэл оюун ухааны хурдасгууруудтай илүү жигд ажиллаж, ажлын ачааллыг хооронд нь хуваарилах болно. CPU, GPU, TPU оновчтой гүйцэтгэлийн хувьд.
Хүрээний нийцтэй байдал сайжирсан
Борлуулагчид AI гэх мэт үндсэн хүрээний дэмжлэгийг бий болгож байна ONNX, TensorFlow Lite, ба PyTorch Mobile, бууруулах хөгжүүлэгчийн сургалтын муруй болон платформ хоорондын байршуулалтыг дэмжих.
Хэрэглэгчийн төхөөрөмжөөс гадна өргөтгөл
Үүнд NPU-ууд илүү их үүрэг гүйцэтгэх болно үйлдвэрлэлийн автоматжуулалт, ухаалаг эрүүл мэндийн үйлчилгээ, захын робот техник, хөдөө аж ахуй AI, ба хяналтын систем, хаана бага чадалтай, өндөр хурдтай дүгнэлт шүүмжлэлтэй байдаг.

Дэлхий рүү чиглэж байгаа ертөнцөд хаа сайгүй тархсан оюун ухаан, NPU нь хиймэл оюун ухааныг хурдасгах төдийгүй илүү их болгох болно хүртээмжтэй, тогтвортой, ба аюулгүй. Тэдний хэлбэр дүрслэх үүрэг дараагийн үеийн суулгагдсан системүүд, -аас Хиймэл оюун ухаанаар ажилладаг камерууд руу бие даасан навигацийн платформууд, өсөн нэмэгдэж буй ач холбогдлыг онцолж байна домэйны тусгай тооцооллын архитектур AI эрин үед.