ប្លុក

NPU ជាអ្វី?

2024-08-13 16:29:49

ក្នុងការវិវត្តន៍យ៉ាងឆាប់រហ័សនាពេលបច្ចុប្បន្ននេះ។ ពិភពលោកដែលជំរុញដោយ AIតម្រូវការសម្រាប់ការគណនាលឿនជាងមុន និងមានប្រសិទ្ធភាពជាងមុនបានផ្ដល់ឱ្យអ្នកដំណើរការឯកទេសដូចជា អង្គភាពដំណើរការសរសៃប្រសាទ (NPU). ខុសពីប្រពៃណី ស៊ីភីយូ ឬ GPUsNPU ត្រូវបានបង្កើតឡើងក្នុងគោលបំណងដើម្បីបង្កើនល្បឿន ការសន្និដ្ឋានរបស់ម៉ាស៊ីនរៀនជាពិសេសសម្រាប់ បណ្តាញសរសៃប្រសាទជ្រៅ ប្រើក្នុង ចក្ខុវិស័យកុំព្យូទ័រ, ដំណើរការភាសាធម្មជាតិ, និង ការទទួលស្គាល់សំឡេង.

ក NPU គឺជាប្រភេទមួយ។ ឧបករណ៍បង្កើនល្បឿន AI ដែលផ្តល់នូវដំណើរការខ្ពស់ និងយឺតពេលសម្រាប់កិច្ចការដែលត្រូវការ ការគណនាប៉ារ៉ាឡែល និង ប្រតិបត្តិការ tensor. ដំណើរការទាំងនេះឥឡូវនេះត្រូវបានបង្កប់នៅក្នុងជួរដ៏ធំទូលាយនៃវេទិកា - ពី ស្មាតហ្វូន និង ឧបករណ៍ IoT ទៅ ប្រព័ន្ធរថយន្ត និង ហេដ្ឋារចនាសម្ព័ន្ធគណនាគែម- បើក AI នៅលើឧបករណ៍ ជាមួយនឹងការប្រើប្រាស់ថាមពលអប្បបរមា។

ហេតុអ្វីបានជា NPUs សំខាន់៖

ធ្វើឱ្យប្រសើរឡើងនូវការអនុវត្តពេលវេលាជាក់ស្តែង សម្រាប់បន្ទុកការងារ AI
ការប្រើប្រាស់ថាមពលទាប បើប្រៀបធៀបទៅនឹងដំណោះស្រាយដែលមានមូលដ្ឋានលើ GPU
កាត់បន្ថយការពឹងផ្អែកលើពពកធ្វើអោយប្រសើរឡើងនូវភាពឯកជនទិន្នន័យ និងភាពយឺតយ៉ាវ
លទ្ធភាពធ្វើមាត្រដ្ឋាន សម្រាប់ឧបករណ៍បង្រួម និងប្រព័ន្ធបង្កប់

ការកើនឡើងនៃ គែម AI និងការរីកសាយនៃ កម្មវិធីដែលដំណើរការដោយ AI ធ្វើឱ្យវាចាំបាច់ដើម្បីយល់ពីអ្វីដែល NPU គឺជាអ្វី និងរបៀបដែលវាខុសគ្នាពីអង្គភាពដំណើរការផ្សេងទៀត។ នៅក្នុងអត្ថបទនេះយើងស្វែងយល់អំពី ស្ថាបត្យកម្ម, ករណីប្រើប្រាស់និងតម្លៃយុទ្ធសាស្ត្រនៃ NPUs នៅក្នុងបរិបទទូលំទូលាយនៃការគណនាឆ្លាតវៃ។

NPU ជាអ្វី? ទិដ្ឋភាពទូទៅបច្ចេកទេស

ក អង្គភាពដំណើរការសរសៃប្រសាទ (NPU) គឺជា microprocessor ដែលត្រូវបានរចនាឡើងជាពិសេសដើម្បីដោះស្រាយ បញ្ញាសិប្បនិម្មិត (AI) បន្ទុកការងារ ជាពិសេសការងារដែលពាក់ព័ន្ធ ការរៀនសូត្រជ្រៅ និង ការសន្និដ្ឋានបណ្តាញសរសៃប្រសាទ. ខុសពីគោលបំណងទូទៅ ស៊ីភីយូ ឬក្រាហ្វិកតម្រង់ទិស GPUsNPUs ត្រូវបានធ្វើឱ្យប្រសើរឡើងសម្រាប់ប្រតិបត្តិការគណិតវិទ្យាដែលផ្តល់ថាមពល ម៉ូដែលរៀនម៉ាស៊ីន, ដូចជា គុណម៉ាទ្រីស, convolutions, និង ដំណើរការ tensor.

លក្ខណៈសំខាន់ៗនៃ NPU៖

គោលបំណងបង្កើតសម្រាប់ការសន្និដ្ឋាន AIមិនមែនការបណ្តុះបណ្តាលទេ។
ប្រតិបត្តិ ប្រតិបត្តិការស្របគ្នា។ ប្រកបដោយប្រសិទ្ធភាព
ប្រសើរសម្រាប់ ភាពយឺតយ៉ាវទាប, ទិន្នផលខ្ពស់។ បន្ទុកការងារ
ដំណើរការយ៉ាងសំខាន់ ការប្រើប្រាស់ថាមពលទាប ជាង GPUs

ខណៈពេលដែល ស៊ីភីយូ គឺល្អសម្រាប់តក្កវិជ្ជាបន្តបន្ទាប់គ្នា និង GPUs ពូកែក្នុងការបង្ហាញ និងភារកិច្ចលេងហ្គេម, NPUs ត្រូវបានរៀបចំឡើងដើម្បីពន្លឿនកិច្ចការដូចជា៖

ការរកឃើញវត្ថុ
ការទទួលស្គាល់មុខ
ការបំប្លែងសំឡេងទៅជាអត្ថបទ
ការវិភាគកាមេរ៉ាឆ្លាតវៃ

ប្រភេទដំណើរការ	តួនាទីចម្បង	កម្លាំង	ប្រសិទ្ធភាពថាមពល	ភាពសមស្រប AI
ស៊ីភីយូ	កិច្ចការទូទៅ	ចម្រុះ	ទាប	មានកំណត់
GPU	ក្រាហ្វិក, AI	លំហូរខ្ពស់។	មធ្យម	រឹងមាំសម្រាប់ការបណ្តុះបណ្តាល
NPU	ការសន្និដ្ឋាន AI	AI-ធ្វើឱ្យប្រសើរ	ខ្ពស់។	ល្អបំផុតសម្រាប់គែម AI

នៅពេលដែល AI ត្រូវបានបង្កប់នៅក្នុងឧបករណ៍ជាច្រើនទៀត—ពី ស្មាតហ្វូន ទៅ IoT ឧស្សាហកម្ម- នេះ។ NPU លេចធ្លោជាងគេ មានប្រសិទ្ធភាព និងអាចធ្វើមាត្រដ្ឋានបាន។ processor សម្រាប់បើកមុខងារឆ្លាតវៃដោយផ្ទាល់នៅ គែមដោយមិនពឹងផ្អែកលើការចូលប្រើពពកថេរ។

តើ NPU ដំណើរការយ៉ាងដូចម្តេច?

ក អង្គភាពដំណើរការសរសៃប្រសាទ (NPU) ត្រូវបានវិស្វកម្មដើម្បីប្រតិបត្តិ កិច្ចការសន្និដ្ឋានរបស់ AI ជាមួយនឹងល្បឿន និងប្រសិទ្ធភាពពិសេស។ មិនដូចប្រព័ន្ធដំណើរការធម្មតាទេ NPUs ដំណើរការលើ រចនាសម្ព័ន្ធទិន្នន័យផ្អែកលើ tensor, ប្រតិបត្តិបរិមាណដ៏ធំនៃ ប្រតិបត្តិការម៉ាទ្រីស ស្របគ្នា - សំខាន់សម្រាប់ដំណើរការទំនើប គំរូសិក្សាជ្រៅ ដូចជា CNNs (បណ្តាញសរសៃប្រសាទប្រសាទ) និង RNNs (បណ្តាញសរសៃប្រសាទកើតឡើងវិញ).

គោលការណ៍ការងារស្នូល៖

ភាពស្របគ្នា។៖ NPUs អនុវត្ត ប្រតិបត្តិការច្រើនក្នុងពេលដំណាលគ្នា។កាត់បន្ថយពេលវេលាដំណើរការយ៉ាងសំខាន់សម្រាប់កិច្ចការដូចជា ចំណាត់ថ្នាក់រូបភាព និង ការទទួលស្គាល់ការនិយាយ.
ការគណនា tensor បង្កើនល្បឿនផ្នែករឹង៖ ភ្ជាប់មកជាមួយ ស្នូល tensor គ្រប់គ្រងទ្រង់ទ្រាយធំប្រកបដោយប្រសិទ្ធភាព គុណម៉ាទ្រីស.
នព្វន្ធភាពជាក់លាក់ទាប៖ NPUs ជាច្រើនប្រើ INT8 ឬ FP16 ទម្រង់ជាក់លាក់ដើម្បីធ្វើសមតុល្យរវាង ភាពត្រឹមត្រូវ និង ប្រសិទ្ធភាពថាមពល.
ស្ថាបត្យកម្មបំពង់៖ ភារកិច្ចដូចជា ការទាញយកទិន្នន័យ, ដំណើរការទម្ងន់, និង ការគណនាការធ្វើឱ្យសកម្ម ត្រូវបានប្រតិបត្តិតាមលំដាប់បំពង់ ដើម្បីបង្កើនទិន្នផល។

លំហូរការសន្និដ្ឋានសាមញ្ញ៖

បញ្ចូលទិន្នន័យ (ឧទាហរណ៍ រូបភាព ឬសញ្ញាសំឡេង) ត្រូវបានដំណើរការជាមុន។
ទិន្នន័យចូល ម៉ាស៊ីន tensor របស់ NPU សម្រាប់ការគណនាសរសៃប្រសាទ។
ម៉ូដែល ទំងន់និងភាពលំអៀង ណែនាំការសន្និដ្ឋាន។
លទ្ធផលត្រូវបានផ្តល់ជូនក្នុងពេលជាក់ស្តែង ជាញឹកញាប់ដោយគ្មានជំនួយលើពពក។

ដោយការបញ្ចូលគ្នា ការអនុវត្តភាពយឺតយ៉ាវទាប, ការរចនាសន្សំសំចៃថាមពល, និង តក្កវិជ្ជា AI ឧទ្ទិសNPUs អនុញ្ញាតឱ្យឧបករណ៍ដំណើរការ ម៉ូដែល AI ស្មុគស្មាញ ក្នុងស្រុក។ នេះធ្វើឱ្យពួកគេមិនអាចខ្វះបានសម្រាប់ ការគណនាគែម, ឧបករណ៍ឆ្លាតវៃ, និង កម្មវិធី AI ឧស្សាហកម្ម កន្លែងណា ការសម្រេចចិត្តតាមពេលវេលាជាក់ស្តែង គឺសំខាន់។

អត្ថប្រយោជន៍សំខាន់ៗនៃ NPUs

ការអនុម័តរបស់ អង្គភាពដំណើរការសរសៃប្រសាទ (NPUs) បានធ្វើបដិវត្តន៍ការដាក់ពង្រាយ ការសន្និដ្ឋាន AI នៅក្នុងទាំងពីរ ឧបករណ៍គែម និង បរិស្ថានពពក. NPUs ផ្តល់ក ស្ថាបត្យកម្មដំណើរការឯកទេស ដែលអនុញ្ញាតឱ្យមានការអនុវត្តដ៏សំខាន់ និងប្រសិទ្ធភាពថាមពលកើនឡើងជាងប្រពៃណី ស៊ីភីយូ និង GPU ដំណោះស្រាយនៅពេលអនុវត្ត គំរូសិក្សាជ្រៅ.

អត្ថប្រយោជន៍កំពូលនៃការប្រើប្រាស់ NPUs៖

ប្រសិទ្ធភាពខ្ពស់សម្រាប់ AI Inference
NPUs ត្រូវបានបង្កើតឡើងក្នុងគោលបំណង បន្ទុកការងារ AI, ប្រតិបត្តិ ប្រតិបត្តិការបណ្តាញសរសៃប្រសាទ ជាមួយនឹងល្បឿនកាន់តែខ្ពស់ និងភាពយឺតយ៉ាវទាប។ ពួកគេដំណើរការ ការគណនា tensor ប៉ារ៉ាឡែល ប្រកបដោយប្រសិទ្ធភាព ផ្តល់នូវការយល់ដឹងក្នុងពេលជាក់ស្តែងនៅក្នុងកម្មវិធីដូចជា ការរកឃើញវត្ថុ, ការបែងចែករូបភាព, និង ការទទួលស្គាល់ការនិយាយ.
ប្រសិទ្ធភាពថាមពល
NPUs ប្រើប្រាស់ថាមពលតិចជាង GPUs គួរឱ្យកត់សម្គាល់ ដោយសារពួកវា នព្វន្ធភាពជាក់លាក់ទាប (ឧ. INT8, FP16) និងស្ថាបត្យកម្មដែលបានធ្វើឱ្យប្រសើរឡើង។ នេះធ្វើឱ្យពួកគេល្អឥតខ្ចោះ AI ចល័ត និង ឧបករណ៍ IoT កន្លែងណា អាយុកាលថ្ម និង ដែនកំណត់កម្ដៅ មានសារៈសំខាន់។
សមត្ថភាព AI នៅលើឧបករណ៍
ដោយការបើក ការសន្និដ្ឋានក្នុងស្រុក, NPUs កាត់បន្ថយតម្រូវការសម្រាប់ដំណើរការពពក ធ្វើអោយប្រសើរឡើង ឯកជនភាពទិន្នន័យ, ពេលវេលាឆ្លើយតប, និង ប្រសិទ្ធភាពកម្រិតបញ្ជូនបណ្តាញ.
ការរចនាបង្រួម និងអាចធ្វើមាត្រដ្ឋានបាន។
NPUs អាចត្រូវបានដាក់បញ្ចូលទៅក្នុង ប្រព័ន្ធនៅលើបន្ទះឈីប (SoC) ការរចនាដែលអនុញ្ញាតឱ្យអ្នកផលិតបង្កប់ ឧបករណ៍បង្កើនល្បឿន AI ចូលទៅក្នុងឧបករណ៍បង្រួមដូចជា ស្មាតហ្វូន, ឧបករណ៍ពាក់, ច្រកទ្វារគែម, និង ប្រព័ន្ធស្វយ័ត.

តារាងប្រៀបធៀប៖ NPU ទល់នឹង GPU និង CPU

លក្ខណៈ	NPU	GPU	ស៊ីភីយូ
គោលបំណង	ការសន្និដ្ឋាន AI	ក្រាហ្វិក, AI ទូទៅ	ការគណនាគោលបំណងទូទៅ
ប្រសិទ្ធភាពថាមពល	⭐⭐⭐⭐⭐	⭐⭐	⭐
ភាពយឺតយ៉ាវ (ពេលវេលាពិត)	ទាប	មធ្យម	ខ្ពស់។
បន្ទុកការងារ AI ស្របគ្នា។	ល្អឥតខ្ចោះ	ល្អណាស់	មានកំណត់
ករណីប្រើប្រាស់ដ៏ល្អ	Edge AI, Mobile AI	ការបណ្តុះបណ្តាល AI, ក្រាហ្វិក	គ្រប់គ្រងតក្កវិជ្ជា កិច្ចការ OS

តាមរយៈការរួមបញ្ចូល NPUs ទៅក្នុងដំណោះស្រាយ AI edge computing អាជីវកម្មអាចដោះសោការសន្និដ្ឋាននៃការរៀនម៉ាស៊ីនល្បឿនលឿនជាមួយនឹងការចំណាយប្រតិបត្តិការទាប ដែលធ្វើឱ្យ NPUs ក្លាយជាមូលដ្ឋានគ្រឹះនៃផ្នែករឹង AI ជំនាន់ក្រោយ។

NPU ទល់នឹង CPU, GPU និង TPU៖ ការវិភាគប្រៀបធៀប

តាមតម្រូវការ ការសន្និដ្ឋាន AI ពេលវេលាពិត រីកដុះដាលនៅទូទាំងឧបករណ៍ - ពីស្មាតហ្វូន និងរថយន្តស្វយ័តរហូតដល់មនុស្សយន្តឧស្សាហកម្ម - ការជជែកវែកញែកអំពីដំណើរការដែលដំណើរការបានល្អបំផុតសម្រាប់បន្ទុកការងារទាំងនេះកាន់តែខ្លាំង។ ខណៈពេលដែល ស៊ីភីយូ, GPUs, TPUs, និង NPUs ទាំងអស់អាចប្រតិបត្តិបាន។ ការរៀនម៉ាស៊ីន ភារកិច្ច, ពួកគេត្រូវបានធ្វើឱ្យប្រសើរសម្រាប់គោលបំណងផ្សេងគ្នាខ្លាំងណាស់។ ការយល់ដឹងពីភាពខុសគ្នាទាំងនេះគឺមានសារៈសំខាន់នៅពេលជ្រើសរើសផ្នែករឹងសម្រាប់ កម្មវិធី AIជាពិសេសនៅ គែម.

ស៊ីភីយូ (អង្គភាពដំណើរការកណ្តាល)

នេះ។ ស៊ីភីយូ នៅតែជា processor ដែលអាចប្រើប្រាស់បានច្រើនបំផុត។ វាគ្រប់គ្រងជួរយ៉ាងទូលំទូលាយនៃកិច្ចការកុំព្យូទ័រដែលមានគោលបំណងទូទៅ រួមទាំង មុខងារប្រព័ន្ធប្រតិបត្តិការ, ការគ្រប់គ្រង I/O, និង តក្កវិជ្ជាតាមលំដាប់. ខណៈពេលដែលស៊ីភីយូអាចអនុវត្តការសន្និដ្ឋានរបស់ AI តាមលក្ខណៈបច្ចេកទេស ពួកវាមិនត្រូវបានធ្វើឱ្យប្រសើរសម្រាប់កម្មវិធីនោះទេ។ ដំណើរការប៉ារ៉ាឡែល ដែលបណ្តាញសរសៃប្រសាទត្រូវការ។

GPU (អង្គភាពដំណើរការក្រាហ្វិក)

បង្កើតឡើងដំបូងសម្រាប់ render រូបភាព និងវីដេអូ, the GPU បានបង្ហាញថាមានប្រសិទ្ធភាពខ្ពស់សម្រាប់ ប្រតិបត្តិការស្របគ្នា។ធ្វើឱ្យវាសមរម្យសម្រាប់ទាំងពីរ ការបណ្តុះបណ្តាល AI និង ការសន្និដ្ឋាន. GPUs ពូកែ បរិស្ថានមជ្ឈមណ្ឌលទិន្នន័យដែលការប្រើប្រាស់ថាមពល និងលំហមានកម្រិតតិច។

TPU (Tensor Processing Unit)

បង្កើតឡើងដោយ Google, the TPU ត្រូវបានកែសម្រួលសម្រាប់ ការគណនា tensor នៅក្នុងបន្ទុកការងារ AI ។ វាផ្តល់នូវការបណ្តុះបណ្តាលដ៏មានឥទ្ធិពល និងការអនុវត្តការសន្និដ្ឋាន ប៉ុន្តែត្រូវបានរកឃើញជាចម្បងនៅក្នុង ហេដ្ឋារចនាសម្ព័ន្ធពពក ឬ ផ្នែករឹងកម្រិតសហគ្រាស.

NPU (អង្គភាពដំណើរការសរសៃប្រសាទ)

រចនាឡើងពីដីឡើងសម្រាប់ ការសន្និដ្ឋាន AI, នេះ។ NPU ផ្តល់នូវការអនុវត្តដែលមិនអាចប្រៀបផ្ទឹមបានក្នុងមួយវ៉ាត់។ ឥឡូវនេះវាត្រូវបានបង្កប់យ៉ាងទូលំទូលាយនៅក្នុង ប្រព័ន្ធនៅលើបន្ទះឈីប (SoC) រចនាលើស្មាតហ្វូន ឧបករណ៍គែម AI និងម៉ាស៊ីនស្វ័យប្រវត្តិ។

តារាងប្រៀបធៀបឧបករណ៍ដំណើរការ

លក្ខណៈ	ស៊ីភីយូ	GPU	TPU	NPU
រចនាសម្រាប់	គោលបំណងទូទៅ	ក្រាហ្វិក និង AI	Tensor Ops	ការសន្និដ្ឋាន AI
ការបណ្តុះបណ្តាល AI	ក្រីក្រ	ល្អឥតខ្ចោះ	ល្អណាស់	មានកំណត់
ការសន្និដ្ឋាន AI	មានកំណត់	ល្អ	ល្អឥតខ្ចោះ	ល្អឥតខ្ចោះ
ប្រសិទ្ធភាពថាមពល	ទាប	មធ្យម	ទាប	ខ្ពស់។
ភាពយឺតយ៉ាវ (ភារកិច្ចគែម)	ខ្ពស់។	មធ្យម	ទាប	ទាបណាស់។
ភាពសមស្របតាមទូរស័ព្ទ/IoT	ក្រីក្រ	ក្រីក្រ	មានកំណត់	ល្អឥតខ្ចោះ
ការគាំទ្រស៊ុម	ទូលំទូលាយ	ទូលំទូលាយ	ចង្អៀត (Google)	មធ្យម (ប្រែប្រួល)

គន្លឹះយក:

GPUs ត្រូវបានគេពេញចិត្តសម្រាប់ ការបណ្តុះបណ្តាលគំរូ AI និង ការគណនាពពក.
TPUs គឺស្ថិតនៅកណ្តាលពពក និងល្អបំផុតនៅក្នុង ប្រព័ន្ធអេកូ Google AI.
ស៊ីភីយូ គឺជាអ្នកទូទៅ មិនល្អសម្រាប់ការសិក្សាជ្រៅជ្រះទេ។
NPUs គឺជាជម្រើសសម្រាប់ AI នៅលើឧបករណ៍, ផ្តល់ជូន តុល្យភាពល្អបំផុតនៃល្បឿន ប្រសិទ្ធភាព និងថាមពលទាប សម្រាប់ការសន្និដ្ឋាននៃបន្ទុកការងារ។

នៅពេលដែល AI បន្តផ្លាស់ទីទៅ គែមNPU ឈរចេញជាដំណោះស្រាយរយៈពេលវែងដែលអាចសម្រេចបានបំផុតសម្រាប់ ពេលវេលាពិត ការរៀនម៉ាស៊ីនដែលបានបង្កប់.

តើ NPUs ប្រើនៅឯណា? កម្មវិធីសំខាន់ៗ

អង្គភាពដំណើរការសរសៃប្រសាទ (NPUs) ឥឡូវនេះគឺជាធាតុផ្សំជាមូលដ្ឋាននៅក្នុងជួរដ៏ធំទូលាយមួយ។ បច្ចេកវិទ្យាដែលជំរុញដោយ AIជាពិសេសអ្នកដែលទាមទារ ការសន្និដ្ឋានលើឧបករណ៍, ការប្រើប្រាស់ថាមពលទាប, និង ការឆ្លើយតបតាមពេលវេលាជាក់ស្តែង. ខណៈដែលឧស្សាហកម្មបន្តធ្វើសមាហរណកម្ម បញ្ញាសិប្បនិម្មិត នៅក្នុងលំហូរការងាររបស់ពួកគេ NPUs កំពុងត្រូវបានអនុម័តនៅទូទាំងទាំងពីរ គ្រឿងអេឡិចត្រូនិក និង ប្រព័ន្ធឧស្សាហកម្ម.

1. ស្មាតហ្វូន និងឧបករណ៍ចល័ត

ទំនើប ស្មាតហ្វូន ត្រូវបានបំពាក់ដោយ NPUs ដើម្បីផ្តល់ថាមពលកម្រិតខ្ពស់ លក្ខណៈពិសេស AI ដូចជា៖

ការទទួលស្គាល់មុខ (ឧ. ការផ្ទៀងផ្ទាត់ជីវមាត្រ)
ការកែលម្អរូបថត និង ការរកឃើញវត្ថុ នៅក្នុងកម្មវិធីកាមេរ៉ា
ជំនួយការសំឡេង និង ការបកប្រែភាសា
ការពិតដែលបានបន្ថែម (AR) បង្ហាញក្នុងពេលវេលាពិត

បន្ទះឈីបចល័តឈានមុខគេដូចជា ម៉ាស៊ីនសរសៃប្រសាទស៊េរី A របស់ក្រុមហ៊ុន Apple, Qualcomm Snapdragon, និង Kirin SoC របស់ Huawei រួមបញ្ចូល NPUs សម្រាប់ប្រសិទ្ធភាព ដំណើរការ AI គែម.

2. Edge Computing និង IoT

នៅក្នុងពិភពនៃ គែម AI, NPUs បើក កាមេរ៉ាឆ្លាតវៃ, ឧបករណ៍ដែលអាចពាក់បាន។, និង មជ្ឈមណ្ឌលស្វ័យប្រវត្តិកម្មនៅផ្ទះ ដើម្បីដំណើរការស្មុគស្មាញ ម៉ូដែលរៀនម៉ាស៊ីន ក្នុងស្រុក។ វាកាត់បន្ថយការពឹងផ្អែកលើម៉ាស៊ីនមេពពក និងធានាបានលឿនជាងមុន ការសម្រេចចិត្តសូម្បីតែនៅក្នុងបរិស្ថានដែលមានការតភ្ជាប់មានកម្រិត។

3. រថយន្ត និងមនុស្សយន្ត

NPUs ត្រូវបានដាក់ពង្រាយកាន់តែខ្លាំងឡើងនៅក្នុង រថយន្តស្វយ័ត និង ប្រព័ន្ធមនុស្សយន្ត ដើម្បីដំណើរការ៖

ការលាយឧបករណ៍ចាប់សញ្ញា
ការរកឃើញផ្លូវ
ការទទួលស្គាល់អ្នកថ្មើរជើង
ប្រព័ន្ធបញ្ជាសំឡេង

តាមរយៈការដំណើរការការសន្និដ្ឋានដោយផ្ទាល់លើយានជំនិះ ឬមនុស្សយន្ត NPUs ធានា ដំណើរការពេលវេលាពិតប្រាកដ ជាមួយនឹងភាពយឺតយ៉ាវតិចតួចបំផុត។

4. ឧស្សាហកម្ម និងការថែទាំសុខភាព AI

NPUs ក៏ត្រូវបានប្រើប្រាស់ផងដែរ។ ស្វ័យប្រវត្តិកម្មរោងចក្រ, ការថែទាំព្យាករណ៍, និង រូបភាពវេជ្ជសាស្ត្រ. ក្នុង ការផលិតឆ្លាតវៃ, NPUs បើក ប្រព័ន្ធចក្ខុវិស័យ AI ដើម្បីកំណត់អត្តសញ្ញាណពិការភាព ចាត់ថ្នាក់សម្ភារៈ និងត្រួតពិនិត្យប្រតិបត្តិការជាបន្តបន្ទាប់ដោយមិនចាំបាច់មានការតភ្ជាប់ពពកដែលមានកម្រិតបញ្ជូនខ្ពស់។

អ្នកលក់ផ្នែករឹង NPU និងប្រព័ន្ធអេកូឡូស៊ីសំខាន់ៗ

ការលូតលាស់របស់ AI នៅគែម បាននាំឱ្យមានការវិនិយោគសំខាន់ៗនៅក្នុង ការអភិវឌ្ឍន៍ផ្នែករឹង NPU ដោយក្រុមហ៊ុនបច្ចេកវិទ្យាធំៗ។ អ្នកលក់ទាំងនេះកំពុងរៀបចំទេសភាព AI ដែលបានបង្កប់ ដោយការផ្តល់ជូននូវដំណោះស្រាយដែលបង្កើតឡើងក្នុងគោលបំណងធ្វើឱ្យប្រសើរសម្រាប់ ល្បឿននៃការសន្និដ្ឋាន, ប្រសិទ្ធភាពថាមពល, និង ភាពបត់បែននៃការរួមបញ្ចូល. ម៉ាកនីមួយៗមានរបស់ខ្លួន។ ស្ថាបត្យកម្ម NPUខ្សែសង្វាក់ឧបករណ៍ និងការគាំទ្រប្រព័ន្ធអេកូ។

1. Apple – Neural Engine

របស់ Apple ម៉ាស៊ីនសរសៃប្រសាទរួមបញ្ចូលទៅក្នុងរបស់វា។ បន្ទះសៀគ្វី A-series និង M-seriesផ្តល់ថាមពលដល់កិច្ចការ AI កម្រិតខ្ពស់នៅក្នុង iPhones, iPad និង Macs ។ វាផ្តល់ជូន៖

ពេលវេលាពិត ការទទួលស្គាល់មុខ
ដំណើរការ Siri នៅលើឧបករណ៍
ការកែលម្អរូបភាព និងវីដេអូឆ្លាតវៃ

2. ក្រុមហ៊ុន Huawei – ស្ថាបត្យកម្ម Da Vinci

ក្រុមហ៊ុន Huawei Ascend NPUs និង ស្ថាបត្យកម្ម Da Vinci គឺជាចំណុចកណ្តាលរបស់វា។ Kirin SoCs និង ហេដ្ឋារចនាសម្ព័ន្ធ AI:

បង្កើនល្បឿនការសន្និដ្ឋាន AI នៅក្នុង ឧបករណ៍ចល័ត
ការដាក់ពង្រាយនៅក្នុង មជ្ឈមណ្ឌលទិន្នន័យ សម្រាប់សហគ្រាស AI
គាំទ្រ MindSpore ក្របខ័ណ្ឌ AI

3. Qualcomm – Hexagon DSP ជាមួយ AI Engine

ក្រុមហ៊ុន Qualcomm Hexagon DSP + AI Engine ត្រូវបានបង្កប់នៅក្នុងវេទិកា Snapdragon ផ្តល់ជូន៖

ការបង្កើនល្បឿន AI សម្រាប់កម្មវិធី Android
មានប្រសិទ្ធភាព ដំណើរការលើឧបករណ៍
ភាពឆបគ្នាជាមួយ TensorFlow Lite និង ONNX

4. Google - Edge TPU

នេះ។ គែម TPUជាផ្នែកមួយនៃ Google វេទិកាផ្កាថ្ម, ត្រូវបានកែសម្រួលសម្រាប់ ការដាក់ពង្រាយ IoT និងគែម:

ប្រសើរសម្រាប់ TensorFlow Lite
ការសន្និដ្ឋាន AI ថាមពលទាបបំផុត។
កត្តាទម្រង់បង្រួមសម្រាប់ ឧបករណ៍ចាប់សញ្ញាឆ្លាតវៃ និង ច្រកផ្លូវ

5. NVIDIA – NVDLA និង Jetson Platform

របស់ NVIDIA NVDLA (Deep Learning Accelerator) និង ស៊េរី Jetson ផ្តល់ជូននូវកុំព្យូទ័រ AI ដែលមានប្រសិទ្ធភាពខ្ពស់៖

ប្រើក្នុង មនុស្សយន្ត, យន្តហោះគ្មានមនុស្សបើក, និង ម៉ាស៊ីនស្វយ័ត
គាំទ្រ ខុសគ្នា, TensorRT, និង DeepStream SDK

បញ្ហាប្រឈម និងដែនកំណត់នៃ NPUs

ខណៈពេលដែល អង្គភាពដំណើរការសរសៃប្រសាទ (NPUs) ផ្តល់ជូននូវអត្ថប្រយោជន៍គួរឱ្យកត់សម្គាល់នៅក្នុង ការអនុវត្តការសន្និដ្ឋានរបស់ AI, ប្រសិទ្ធភាពថាមពល, និង ការគណនាគែមពួកគេមិនមែនគ្មានដែនកំណត់ទេ។ អ្នកអភិវឌ្ឍន៍ និងអ្នកបញ្ចូលប្រព័ន្ធត្រូវតែពិចារណាលើបញ្ហាប្រឈមផ្នែកបច្ចេកទេស និងប្រតិបត្តិការមួយចំនួននៅពេលទទួលយក NPUs ចូល ឧបករណ៍ដែលប្រើ AI.

1. ភាពឆបគ្នានៃក្របខ័ណ្ឌ

ឧបសគ្គសំខាន់មួយគឺការគាំទ្រមានកំណត់សម្រាប់ ក្របខ័ណ្ឌ AI. មិនដូច GPUs ដែលគាំទ្រវេទិកាទូលំទូលាយដូចជា TensorFlow, PyTorch, និង ONNX, NPUs ជាញឹកញាប់ទាមទារ ខ្សែសង្វាក់ឧបករណ៍ផ្ទាល់ខ្លួន ឬ SDKs ដែលមានកម្មសិទ្ធិ។ នេះអាចនាំឱ្យមាន៖

វដ្តនៃការអភិវឌ្ឍន៍យូរជាងនេះ។
ភាពលំបាកក្នុង ការបំប្លែងគំរូ និងការបង្កើនប្រសិទ្ធភាព
ដំណើរការមិនស៊ីសង្វាក់គ្នារវាងអ្នកលក់ផ្នែករឹង

2. Inference-Only Capability

NPUs ភាគច្រើនត្រូវបានរចនាឡើងសម្រាប់តែ ការសន្និដ្ឋានមិនមែនទេ។ ការបណ្តុះបណ្តាល. នេះមានន័យថា៖

ម៉ូដែល AI ត្រូវតែត្រូវបានបណ្តុះបណ្តាល GPUs ឬ TPUs
រាល់ការបង្ហាត់បង្រៀន ឬការកែសម្រួលណាមួយទាមទារហេដ្ឋារចនាសម្ព័ន្ធខាងក្រៅ
កាត់បន្ថយភាពបត់បែនក្នុង ការរៀននៅលើឧបករណ៍

3. ឧបសគ្គនៃការរួមបញ្ចូលផ្នែករឹង

ការរួមបញ្ចូល NPUs ទៅក្នុងប្រព័ន្ធបង្កប់ ឬ ប្រព័ន្ធនៅលើបន្ទះឈីប (SoC) ការរចនាពាក់ព័ន្ធនឹងការដោះដូរ៖

ដែនកំណត់នៃតំបន់ស៊ីលីកុន
ការកំណត់រចនាសម្ព័ន្ធកំដៅ
ជម្លោះដែលអាចកើតមានជាមួយ I/O និងកម្រិតបញ្ជូនអង្គចងចាំដែលមានស្រាប់

អនាគតនៃ NPUs និង AI Hardware

តាមការទាមទារ ការសន្និដ្ឋាន AI ពេលវេលាពិត បន្តកើនឡើងនៅទូទាំងឧស្សាហកម្មនាពេលអនាគត អង្គភាពដំណើរការសរសៃប្រសាទ (NPUs) ត្រូវបានគេរំពឹងថានឹងក្លាយជាចំណុចកណ្តាលនៃការវិវត្តន៍នៃ ផ្នែករឹង AI. អង្គដំណើរការឯកទេសទាំងនេះកាន់តែមានថាមពល បង្រួម និងសន្សំសំចៃថាមពល ដោយដាក់ពួកវាជាសមាសធាតុស្នូលនៃជំនាន់បន្ទាប់នៃ ឧបករណ៍ AI គែម, ឧបករណ៍ចាប់សញ្ញាឆ្លាតវៃ, និង ប្រព័ន្ធស្វយ័ត.

និន្នាការដែលកំពុងរីកចម្រើនក្នុងការអភិវឌ្ឍន៍ NPU

ការរួមបញ្ចូល SoC កាន់តែតឹងរ៉ឹង
NPUs ត្រូវបានរួមបញ្ចូលកាន់តែខ្លាំងឡើង ប្រព័ន្ធនៅលើបន្ទះឈីប (SoC) រចនាជាមួយ CPU, GPUs និង ISPs។ ស្ថាបត្យកម្មបង្រួបបង្រួមនេះបើកដំណើរការលឿនជាងមុន បំពង់ដំណើរការទិន្នន័យកាត់បន្ថយភាពយឺតយ៉ាវ និងកាត់បន្ថយភាពស្មុគស្មាញនៃប្រព័ន្ធ។
ការគាំទ្រសម្រាប់ការគណនាខុសគ្នា
NPUs នាពេលអនាគតនឹងធ្វើការកាន់តែរលូនជាមួយនឹងឧបករណ៍បង្កើនល្បឿន AI ផ្សេងទៀត ដោយចែកចាយបន្ទុកការងារនៅទូទាំង ស៊ីភីយូ GPU និង TPU សម្រាប់ដំណើរការល្អបំផុត។
ភាពត្រូវគ្នានៃក្របខ័ណ្ឌប្រសើរឡើង
អ្នកលក់កំពុងបង្កើតការគាំទ្រសម្រាប់ក្របខ័ណ្ឌ AI សំខាន់ៗដូចជា ONNX, TensorFlow Lite, និង ទូរស័ព្ទចល័ត PyTorch, កាត់បន្ថយ ខ្សែកោងការរៀនរបស់អ្នកអភិវឌ្ឍន៍ និងការលើកទឹកចិត្តដល់ការដាក់ពង្រាយឆ្លងវេទិកា។
ការពង្រីកលើសពីឧបករណ៍ប្រើប្រាស់
NPUs នឹងដើរតួនាទីកាន់តែធំនៅក្នុង ស្វ័យប្រវត្តិកម្មឧស្សាហកម្ម, ការថែទាំសុខភាពឆ្លាតវៃ, មនុស្សយន្តគែម, កសិកម្ម AI, និង ប្រព័ន្ធឃ្លាំមើលកន្លែងណា ថាមពលទាប ការសន្និដ្ឋានល្បឿនលឿន គឺសំខាន់។

នៅក្នុងពិភពលោកឆ្ពោះទៅរក ភាពវៃឆ្លាតគ្រប់ទីកន្លែង, NPUs នឹងមិនត្រឹមតែបង្កើនល្បឿន AI ប៉ុណ្ណោះទេប៉ុន្តែថែមទាំងធ្វើឱ្យវាកាន់តែច្រើនផងដែរ។ អាចចូលប្រើបាន។, និរន្តរភាព, និង សុវត្ថិភាព. តួនាទីរបស់ពួកគេក្នុងការធ្វើទ្រង់ទ្រាយ ប្រព័ន្ធបង្កប់ជំនាន់ក្រោយ, ពី កាមេរ៉ាដែលដំណើរការដោយ AI ទៅ វេទិការុករកស្វយ័តគូសបញ្ជាក់អំពីសារៈសំខាន់ដែលកំពុងកើនឡើងនៃ ស្ថាបត្យកម្មគណនាដែនជាក់លាក់ នៅក្នុងយុគសម័យ AI ។