Leave Your Message
He aha te NPU?
Blog

He aha te NPU?

2024-08-13 16:29:49


I enei ra e tere haere ana Te ao e peia ana e AI, ko te tono mo te tere ake, he pai ake te tatauranga kua puta ake nga kaitoha motuhake penei i te Wae Tukatuka Neural (NPU). Kaore i rite ki nga tikanga tuku iho PTM ranei Nga GPU, he mea hanga he NPU hei whakatere whakatauira ako miihini, otira mo whatunga neural hohonu whakamahia i roto i tirohanga rorohiko, te tukatuka reo maori, a āhukahuka reo.


He NPU he momo AI whakatere e tuku ana i nga mahi-nui, iti-roa te tukatuka mo nga mahi e hiahiatia ana tātai whakarara a nga mahi tensor. Inaianei kua whakauruhia enei tukatuka ki roto i te whānuitanga o nga papaaho—mai i waea atamai a Nga taputapu IoT ki nga punaha waka a hanganga rorohiko mata—whakahohe i runga i te taputapu AI me te iti o te kohi hiko.

He aha te take o nga NPU:

  • Kua whakarei ake i nga mahi-a-waa mo nga kawenga mahi AI

  • He iti ake te whakapau kaha whakaritea ki nga otinga e pa ana ki te GPU

  • He iti ake te whakawhirinaki ki te whakaaro kapua, te whakapai ake i te tūmataitinga raraunga me te roanga

  • Tauineine mo nga taputapu kiato me nga punaha whakauru


Te pikinga o mata AI me te tipuranga o Nga tono a AI he mea nui kia mohio koe he aha te NPU me te rereke mai i etahi atu waahanga tukatuka. I roto i tenei tuhinga, ka tirotirohia e matou te hoahoanga, whakamahi take, me te uara rautaki o nga NPU i roto i te horopaki whanui o te rorohiko mohio.

He aha te NPU? He Tirohanga Hangarau

A Wae Tukatuka Neural (NPU) he microprocessor motuhake i hangaia hei hapai matauranga hangai (AI) nga kawenga mahi, ina koa ko nga mea e pa ana ako hohonu a huanga whatunga neural. Kaore i rite ki te kaupapa-whanui PTM he mahi whakairoiro ranei Nga GPU, Ko nga NPU kua arotauhia mo nga mahi pangarau e kaha ana tauira ako miihini, penei whakareatanga matrix, whakapouri, a te tukatuka hau.


Nga ahuatanga matua o te NPU:

  • He mea hanga mo te whakaaro AI, ehara i te whakangungu

  • Ka mahia mahi whakarara tōtika

  • Kua arotauhia mo iti-roa, teitei-whakaputa kawenga mahi

  • Mahi me te tino iti iho te kohi hiko atu i nga GPU


Ahakoa PTM he pai mo te arorau raupapa me te Nga GPU he pai ki nga mahi tuku me nga mahi petipeti, NPU he mea whakarite ki te whakatere i nga mahi penei:

  • Te kitenga ahanoa

  • Te tohu kanohi

  • Tahuri reo-ki-kuputuhi

  • Te tātari kamera atamai


Momo Tukatuka Turanga Tuatahi Te kaha Te Mana Mana AI Whakaritenga
PTM Nga mahi whanui He maha nga mahi Iti He iti
GPU Whakairoiro, AI Putanga teitei Waenga He kaha mo te whakangungu
NPU AI whakatau AI-arotautia Teitei He pai mo te mata AI
I te wa e whakauru ana a AI ki etahi atu taputapu—mai waea atamai ki IoT ahumahi—te NPU ka tu te nuinga whai hua me te tauineine pūtukatuka mo te whakaahei i nga ahuatanga mohio tika ki te taha, me te kore e whakawhirinaki ki te uru kapua tonu.


Me pehea te mahi a te NPU?

A Wae Tukatuka Neural (NPU) kua hangaia hei mahi Nga mahi whakatauira AI me te tino tere me te whai hua. Kaore i rite ki nga tukatuka tuku iho, kei te mahi nga NPU nga hanganga raraunga e pa ana ki te taikaha, e mahi ana i nga moni nui o nga mahi matrix i roto i te whakarara—he mea nui mo te rere o te ao hou tauira ako hohonu penei CNNs (Convolutional Neural Networks) a RNNs (Whatunga Neural Recurrent).


Nga Tikanga Mahi Matua:

  • Whakarara: Ka mahi nga NPU maha nga mahi i te wa kotahi, tino whakaiti i te wa tukatuka mo nga mahi penei whakarōpū whakaahua a āhukahuka kōrero.

  • Tatau taikaha-whakatere i nga taputapu: Hanga-i roto nga matua hau te hapai pai i te rahi-nui whakareatanga matrix.

  • Te tataunga-iti: He maha nga NPU e whakamahi ana INT8 ranei FP16 whakatakotoranga tika ki te patu i te toenga i waenga tika a kaha kaha.

  • Hangahanga paipa: Nga mahi penei tiki raraunga, te tukatuka taimaha, a tātaitanga whakahohenga ka mahia i roto i te raupapa paipa hei whakanui i te whakaputanga.


Rere Hukarere Whakangāwari:

  1. Raraunga whakauru (hei tauira, he atahanga, he tohu ororongo ranei) kua oti te tukatuka.

  2. Ka uru nga raraunga ki te NPU's tensor engine mō te tātai neural.

  3. Ko te tauira nga taumahatanga me nga taumahatanga arahi i te whakatau.

  4. Ka tukuna nga hua i roto i te waa-a-waa, he maha nga wa kaore he awhina kapua.

Ma te whakakotahi whakatutukitanga iti-roa, hoahoa kaha-pai, a arorau AI whakatapua, Ka taea e nga NPU te whakahaere i nga taputapu nga tauira AI matatini rohe. He mea nui tenei mo ratou rorohiko taha, taputapu atamai, a tono AI ahumahi kei hea wā-tūturu whakatau-hanga he tino nui.


Nga Painga Matua o nga NPU

Te whakatamarikitanga o Wae Tukatuka Neural (NPU) kua huri i te whakatakotoranga o AI whakatau i roto i nga mea e rua taputapu taha a taiao kapua. Ka whakaratohia e nga NPU he hoahoanga tukatuka motuhake e taea ai te mahi nui me te kaha o te kaha o te kaha ki runga i nga tikanga tuku iho PTM a GPU nga otinga i te wa e mahia ana tauira ako hohonu.


Ko nga painga nui o te whakamahi i nga NPU:

  • Mahinga Nui mo AI Inference
    He mea hanga nga NPU mo Nga kawenga mahi AI, te mahi mahi whatunga neural he nui ake te tere me te iti ake o te waahi. Ka tukatuka ratou tātai tātai whakarara pai, te tuku i nga wa-tūturu tirohanga i roto i nga tono penei kitenga ahanoa, wehewehe whakaahua, a āhukahuka kōrero.

  • Pungao Pungao
    He iti ake te kaha o nga NPU i nga GPU, he mihi ki a raatau tairitenga-iti (hei tauira, INT8, FP16) me te hoahoanga papai. Ma tenei ka tino pai mo ratou pūkoro AI a Nga taputapu IoT kei hea ora pūhiko a rohe wera he arohaehae.

  • I runga i te Pūrere AI Nga kaha
    Ma te whakamana whakatauira rohe, Ka whakaitihia e nga NPU te hiahia mo te tukatuka kapua, te whakapai ake tūmataiti raraunga, te wa whakautu, a te pai o te bandwidth whatunga.

  • Hoahoa Kiato me te Tauineine
    Ka taea te whakauru i nga NPU ki roto Pūnaha-i-Kipi (SoC) hoahoa, ka taea e nga kaihanga te whakauru AI whakatere ki nga taputapu kiato penei i waea atamai, mau kakahu, kuwaha taha, a pūnaha motuhake.


Ripanga Whakataurite: NPU me te GPU me te PTM

Āhuahira NPU GPU PTM
Te kaupapa AI whakatau Whakairoiro, AI whānui Rorohiko kaupapa-whanui
Te Mana Mana ⭐⭐⭐⭐⭐ ⭐⭐
Roopu (Wai-Tuturu) Iti Waenga Teitei
Nga Utamahi AI Whakarara Tino pai Tino Pai He iti
Take Whakamahi Pai Edge AI, Mobile AI Whakangungu AI, whakairoiro Whakahaere arorau, mahi OS

Ma te whakauru i nga NPU ki roto i nga otinga rorohiko mata AI, ka taea e nga pakihi te iriti i nga tohu ako miihini tere-tere me nga utu whakahaere iti ake, ka waiho nga NPU hei turanga mo nga taputapu AI o muri mai.

NPU me te PTM, GPU, me te TPU: He Tatautanga Whakataurite

Ka rite ki te hiahia mo huanga AI wa-tūturu ka tipu haere puta noa i nga taputapu—mai i nga waea atamai me nga waka motuhake ki nga karetao umanga—ka kaha ake te tautohetohe mo te aha te kaitukatuka pai ki te hapai i enei mahi. Ahakoa PTM, Nga GPU, Nga TPU, a NPU ka taea e te katoa te mahi ako miihini nga mahi, ka arotauhia mo nga kaupapa tino rereke. Ko te mohio ki enei rereketanga he mea nui ina whiriwhiri taputapu mo Nga tono AI, rawa i te taha.

PTM (Waehanga Tukatuka Pokao)

Ko te PTM noho tonu te pūtukatuka tino pūkenga. Ka whakahaerehia e ia te whānuitanga o nga mahi rorohiko kaupapa whanui, tae atu ki nga mahi a te punaha whakahaere, Whakahaere I/O, a arorau raupapa. Ahakoa ka taea e nga PTM te mahi hangarau AI, kaore i te arotauhia mo te tukatuka whakarara e hiahiatia ana e nga whatunga neural.

GPU (Waehanga Tukatuka Whakairoiro)

I te tuatahi i whakawhanakehia mo te whakaputa whakaahua me te ataata, te GPU kua tino whai hua mo mahi whakarara, kia pai ai mo nga mea e rua whakangungu AI a whakatau. He pai rawa atu nga GPU taiao pokapū raraunga, he iti ake te kaha o te kohi hiko me te waahi.


TPU (Waeine Tukatuka Tensor)

I whakawhanakehia e Google, te TPU he mea whakarite mo tātai tātai i roto i nga kawenga mahi AI. Ka tukuna he whakangungu kaha me te mahi whakatau engari ka kitea i roto hanganga kapua ranei taputapu hinonga-koeke.


NPU (Waeine Tukatuka Neural)

I hoahoatia mai i te whenua ki runga mo AI whakatau, te NPU e tuku ana i nga mahi kore e rite mo ia watt. Inaianei kua whakauruhia ki roto Pūnaha-i-Kipi (SoC) hoahoa puta noa i nga waea atamai, nga taputapu mata AI, me nga miihini motuhake.

Ripanga Whakataurite Tukatuka

Āhuahira PTM GPU TPU NPU
Hangaia Mo Whānui-whakaaro Whakairoiro & AI Tensor Ops AI Inference
Whakangungu AI Pohara Tino pai Tino Pai He iti
AI Inference He iti Pai Tino pai Tino pai
Te Mana Mana Iti Waenga Iti Teitei
Roopu (Tumahi Tapa) Teitei Waenga Iti Tino Iti
Waea Pukoro/IoT Pohara Pohara He iti Tino pai
Tautoko Anga Whānui Whānui Kuiti (Google) Taurite (rereke)

Nga Taketake matua:

  • Nga GPU he pai ake mo Whakangungu tauira AI a rorohiko kapua.

  • Nga TPU he kapua-centric me te pai i roto i te Google AI rauwiringa kaiao.

  • PTM he tohunga whanui, ehara i te mea pai mo te ako hohonu.

  • NPU Ko te haere-ki te whiriwhiri mo i runga i te taputapu AI, whakahere te te toenga pai o te tere, te pai, me te iti o te mana mo nga kawenga mahi whakatau.

I te mea kei te haere tonu a AI ki te taha, ko te NPU te mea ko te otinga tino pai mo te wa roa wā-tūturu, ako mīhini tāmau.



Kei hea nga NPU e whakamahia ana? Nga tono matua

Wae Tukatuka Neural (NPU) he waahanga turanga i roto i te whānuitanga o nga momo Ko nga hangarau a AI, ina koa ko te hunga e hiahia ana te whakaaro i runga i te taputapu, iti te kohi hiko, a whakautu wā-tūturu. I te mea kei te whakauru tonu nga ahumahi mohio horihori ki o raatau rerenga mahi, kei te whakamahia nga NPU puta noa i nga mea e rua hikohiko kaihoko a pūnaha ahumahi.


1. Waea atamai me nga taputapu pūkoro

Hou waea atamai kua rite rawa ki nga NPU kia kaha ake te kaha Nga waahanga AI penei:

  • Te tohu kanohi (hei tauira, motuhēhēnga koiora)

  • Whakapiki whakaahua a kitenga ahanoa i roto i nga taupānga kamera

  • Kaiawhina reo a whakamaoritanga reo

  • Mooni whakanuia (AR) tāhuahua i te wā tūturu

Arahi chipsets pūkoro rite Te A-raupapa Neural Engine a Apple, Qualcomm Snapdragon, a Ko te Kirin SoC a Huawei whakauruhia nga NPU kia pai ai te tukatuka mata AI.


2. Edge Computing me IoT

I te ao o mata AI, Ka taea e nga NPU kāmera atamai, nga taputapu kakahu, a whare aunoatanga whare ki te rere matatini tauira ako miihini rohe. Ma tenei ka whakaiti i te whakawhirinaki ki nga kaitoro kapua me te whakarite kia tere ake whakatau, ahakoa i roto i nga taiao whai hononga iti.


3. Automotive and Robotics

Kei te piki haere nga NPU ki roto waka motuhake a nga punaha robotics ki te tukatuka:

  • Te hanumi pūoko

  • Te kimi huarahi

  • Te whakanui i te hunga hikoi

  • Nga punaha whakahau reo

Ma te whakahaere tika i runga i te waka, i te karetao ranei, ka whakarite nga NPU tukatuka wā-tūturu me te iti o te torohūtanga.


4. Ahumahi me te Hauora AI

Ka whakamahia ano nga NPU i roto aunoa wheketere, tiaki matapae, a whakaahua hauora. I roto hanga atamai, Ka taea e nga NPU Nga punaha tirohanga AI ki te tautuhi i nga hapa, ki te whakarōpū i nga rawa, me te aro turuki i nga mahi i nga wa katoa me te kore e hiahiatia nga hononga kapua whanui-nui.


Nga Kaihoko Taonga NPU Nui me nga punaha rauropi

Te tipu o AI i te taha kua arahina ki te haumi nui i roto i Te whanaketanga taputapu NPU na nga kamupene hangarau nui. Ko enei kaihoko kei te hanga i te whenua o AI whakauru na roto i te tuku otinga hanga-hanga kua arotautia mo tere whakatau, kaha kaha, a te ngawari o te whakauru. Kei ia waitohu tona ake Hangahanga NPU, mekameka taputapu, me te tautoko rauropi.


1. Apple – Neural Engine

a Apple Neural Engine, kua whakauruhia ki roto A-raupapa me nga maramara M-raupapa, ka kaha nga mahi AI whakamua i roto i nga iPhones, iPads, me nga Macs. Ka tukuna:

  • Wā-tūturu āhukahuka kanohi

  • Tukatuka Siri i runga i te taputapu

  • Whakapaipai whakaahua me te ataata atamai


2. Huawei – Da Vinci Architecture

Ko Huawei Kakehia nga NPU a Te hoahoanga a Da Vinci he pokapū ki tona Kirin SoCs a hanganga AI:

  • I whakaterehia te whakatauki AI i roto taputapu pūkoro

  • Te tuku ki roto pokapū raraunga mo AI umanga

  • Tautoko MindSpore Angamahi AI


3. Qualcomm - Hexagon DSP me AI Engine

Ko Qualcomm Hexagon DSP + AI Engine kua whakauruhia ki roto i nga papaaho Snapdragon, e tuku ana:

  • AI whakaterenga mo nga taupānga Android

  • He pai te tukatuka i runga i te taputapu

  • Hototahi ki TensorFlow Lite a ONNX


4. Google – Edge TPU

Ko te Tapa TPU, he wahanga o Google papaa kao, he mea whakarite mo IoT me nga whakatakotoranga taha:

  • Kua arotauhia mo TensorFlow Lite

  • Te mana iti-iti AI inference

  • Tauwehe ahua kiato mo pūoko atamai a kuaha


5. NVIDIA - NVDLA me Jetson Platform

Ko NVIDIA NVDLA (Deep Learning Accelerator) me Ko te raupapa Jetson tuku rorohiko AI tino mahi:

  • Whakamahia i roto i karetao, drones, a mihini motuhake

  • Tautoko REREKE, TensorRT, a DeepStream SDK


Nga wero me nga herenga o nga NPU

Ahakoa Wae Tukatuka Neural (NPU) tuku painga whakamiharo i roto i AI mahi whakatauira, kaha kaha, a rorohiko taha, e ere ratou i te mau taotiaraa. Me whai whakaaro nga kaiwhakawhanake me nga kaiwhakauru punaha ki te maha o nga wero hangarau me te whakahaere i te wa e tango ana i nga NPU Nga taputapu AI-whakahohea.


1. Anga Hototahi

Ko tetahi o nga aukati matua ko te iti o te tautoko Angamahi AI. Kaore i rite ki nga GPU, e tautoko ana i te whānuitanga o nga papaaho penei TensorFlow, PyTorch, a ONNX, He maha nga wa e hiahiatia ana e nga NPU mekameka taputapu ritenga SDK rangatira ranei. Ka taea e tenei te arahi ki:

  • Nga huringa whanaketanga roa ake

  • Te uaua ki roto huringa tauira me te arotautanga

  • Ko nga mahi rereke puta noa i nga kaihoko taputapu


2. Te Whakataunga-anake

Ko te nuinga o nga NPU he mea hoahoa mo whakatau, kaore whakangungu. Ko te tikanga tenei:

  • Me whakangungu nga tauira AI Nga GPU, TPU ranei

  • Ko nga whakangungu hou, whakatikatika pai ranei me whai hanganga o waho

  • Kua whakaitihia te ngawari ki roto ako i runga i te taputapu


3. Nga herenga whakauru taputapu

Te whakauru i nga NPU ki roto i nga punaha whakauru ranei Pūnaha-i-Kipi (SoC) Ko nga hoahoa ka uru ki te hokohoko:

  • Te rohe o Silicon

  • Nga herenga hoahoa wera

  • He taupatupatu pea me I/O me te hōkaiipurangi mahara



Te heke mai o nga NPU me nga taputapu AI

Ka rite ki te tono mo huanga AI wa-tūturu kei te tipu haere tonu puta noa i nga umanga, te heke mai o Wae Tukatuka Neural (NPU) e tika ana kia noho matua ki te whanaketanga o AI taputapu. Kei te kaha ake te kaha, te kiato, me te pai o te kaha o enei kaitukatuka motuhake—ka noho hei waahanga matua o te reanga o muri mai. taputapu mata AI, pūoko atamai, a pūnaha motuhake.


Nga Tikanga Putanga i roto i te Whanaketanga NPU

  • Ko te Whakakotahitanga SoC Kaha
    Ko nga NPU kei te kaha te whakauru ki roto Pūnaha-i-Kipi (SoC) hoahoa i te taha o nga PTM, GPU, me nga ISP. Ma tenei hoahoanga whakakotahi ka tere ake paipa tukatuka raraunga, ka whakaheke i te noho, ka whakaheke i te uaua o te punaha.

  • Tautoko mo te Rorohiko Heterogene
    Ko nga NPU a meake nei ka pai ake te mahi me etahi atu kaiwhakatere AI, ka tohatoha i nga kawenga mahi puta noa PTM, GPU, me TPU mo te mahi tino pai.

  • Kua Pai ake te Hototahitanga Anga
    Kei te hanga tautoko nga Kaihoko mo nga anga AI auraki penei ONNX, TensorFlow Lite, a Pūkoro PyTorch, te whakaiti i te ānau ako kaiwhakawhanake me te whakatenatena i te tuku whiti-turanga.

  • Roha ki tua atu i nga taputapu Kaihoko
    Ka nui ake te mahi a nga NPU aunoatanga ahumahi, hauora atamai, karetao tapa, ahuwhenua AI, a nga punaha tirotiro, kei hea te mana iti, te tere tere he tino nui.


I roto i te ao e neke haere ana matauranga puta noa, Ko nga NPU e kore e whakatere noa i te AI engari ka nui ake wātea, tauwhiro, a haumaru. To ratou mahi ki te hanga nga punaha whakauru i muri mai, mai Ko nga kamera a AI ki tüäpapa whakatere motuhake, e tohu ana i te nui haere o te hiranga o hoahoanga rorohiko motuhake-rohe i te wa AI.


Hua e Pa ana

LET'S TALK ABOUT YOUR PROJECTS

  • sinsmarttech@gmail.com
  • 3F, Block A, Future Research & Innovation Park, Yuhang District, Hangzhou, Zhejiang, China

Our experts will solve them in no time.