Ի՞նչ է NPU-ն։

Հիմնական եզրակացություններ:

• Գրաֆիկական պրոցեսորներ նախընտրելի են Արհեստական ​​բանականության մոդելավորման վարժեցում և ամպային հաշվարկներ.

• TPU-ներ ամպային կենտրոնացած են և լավագույնն են ներսում Google-ի արհեստական ​​բանականության էկոհամակարգ.

• Պրոցեսորներ ընդհանրացնողներ են, իդեալական չեն խորը ուսուցման համար։

• NPU-ներ նախընտրելի ընտրություն են սարքի վրա տեղադրված արհեստական ​​բանականություն, առաջարկելով արագության, արդյունավետության և ցածր էներգիայի լավագույն համադրությունը եզրակացության աշխատանքային բեռների համար։

Քանի որ արհեստական ​​բանականությունը շարունակում է շարժվել դեպի եզր, NPU-ն առանձնանում է որպես երկարաժամկետ առավել կենսունակ լուծում իրական ժամանակի, ներդրված մեքենայական ուսուցում.

Որտե՞ղ են օգտագործվում NPU-ները: Հիմնական կիրառությունները

Նեյրոնային մշակման միավորներ (NPU) այժմ լայն շրջանակի հիմնարար բաղադրիչ են Արհեստական ​​բանականության վրա հիմնված տեխնոլոգիաներ, մասնավորապես նրանք, ովքեր պահանջում են սարքի վրա եզրակացություն, ցածր էներգիայի սպառում, և իրական ժամանակի արձագանքունակությունՔանի որ արդյունաբերությունները շարունակում են ինտեգրվել արհեստական ​​բանականություն իրենց աշխատանքային հոսքերում, NPU-ները ներդրվում են երկուսում էլ սպառողական էլեկտրոնիկա և արդյունաբերական համակարգեր.

1. Սմարթֆոններ և շարժական սարքեր

Ժամանակակից սմարթֆոններ հագեցած են NPU-ներով՝ առաջադեմ սնուցման համար Արհեստական ​​բանականության գործառույթներ ինչպիսիք են՝

• Դեմքի ճանաչում (օրինակ՝ կենսաչափական նույնականացում)

• Լուսանկարի բարելավում և օբյեկտի հայտնաբերում տեսախցիկի հավելվածներում

• Ձայնային օգնականներ և լեզվի թարգմանություն

• Լրացված իրականություն (AR) իրական ժամանակում արտապատկերում

Առաջատար բջջային չիպսեթներ, ինչպիսիք են Apple-ի A-շարքի նեյրոնային շարժիչը, Քալքոմ Սնապրանդրապտոր, և Huawei-ի Kirin SoC-ն ինտեգրել NPU-ները արդյունավետության համար եզրային արհեստական ​​բանականության մշակում.

2. Եզրային հաշվարկներ և իրերի ինտերնետ

Աշխարհում եզրային արհեստական ​​բանականություն, NPU-ները հնարավորություն են տալիս խելացի տեսախցիկներ, կրելի սարքեր, և տնային ավտոմատացման կենտրոններ բարդ վարել մեքենայական ուսուցման մոդելներ տեղական մակարդակով։ Սա նվազեցնում է ամպային սերվերներից կախվածությունը և ապահովում է ավելի արագ որոշումների կայացումնույնիսկ սահմանափակ կապակցվածությամբ միջավայրերում։

3. Ավտոմոբիլային և ռոբոտաշինություն

NPU-ները ավելի ու ավելի են տեղակայվում ինքնավար տրանսպորտային միջոցներ և ռոբոտաշինական համակարգեր մշակելու համար՝

• Սենսորների միաձուլում

• Գոտու հայտնաբերում

• Հետիոտնի ճանաչում

• Ձայնային հրամանների համակարգեր

Մեքենայի կամ ռոբոտի վրա անմիջապես եզրակացություն կատարելով՝ NPU-ները ապահովում են իրական ժամանակի մշակում նվազագույն լատենտությամբ։

4. Արդյունաբերական և առողջապահական արհեստական ​​բանականություն

NPU-ները նույնպես օգտագործվում են գործարանային ավտոմատացում, կանխատեսողական սպասարկում, և բժշկական պատկերագրություն. Մեջ խելացի արտադրություն, NPU-ները հնարավորություն են տալիս Արհեստական ​​​​ինտելեկտի տեսողական համակարգեր թերությունները հայտնաբերելու, նյութերը դասակարգելու և գործողությունները անընդհատ վերահսկելու համար՝ առանց բարձր թողունակությամբ ամպային կապերի անհրաժեշտության։

Հիմնական NPU սարքավորումների մատակարարներ և էկոհամակարգեր

Աճը Արհեստական ​​բանականությունը եզրին է հանգեցրել է զգալի ներդրումների NPU սարքավորումների մշակում խոշոր տեխնոլոգիական ընկերությունների կողմից։ Այս մատակարարները ձևավորում են լանդշաֆտը ներդրված արհեստական ​​բանականություն առաջարկելով նպատակային մշակված լուծումներ՝ օպտիմալացված եզրակացության արագություն, էներգաարդյունավետություն, և ինտեգրման ճկունությունՅուրաքանչյուր ապրանքանիշ ունի իր սեփականը NPU ճարտարապետություն, գործիքակազմ և էկոհամակարգի աջակցություն։

1. Apple – Նեյրոնային շարժիչ

Apple-ի Նեյրոնային շարժիչ, ինտեգրված իր մեջ A և M շարքի չիպեր, iPhone-ներում, iPad-ներում և Mac-ներում կատարում է արհեստական ​​ինտելեկտի առաջադեմ առաջադրանքներ: Այն ապահովում է.

• Իրական ժամանակում դեմքի ճանաչում

• Սարքի վրա Siri-ի մշակում

• Խելացի լուսանկարների և տեսանյութերի բարելավումներ

2. Huawei – Da Vinci Architecture

Huawei-ի Ascend NPU-ներ և Դա Վինչիի ճարտարապետությունը կենտրոնական են դրա համար Kirin SoC-ներ և Արհեստական ​​բանականության ենթակառուցվածք:

• Արագացված արհեստական ​​ինտելեկտի եզրակացություն բջջային սարքեր

• Տեղակայումը տվյալների կենտրոններ ձեռնարկության արհեստական ​​բանականության համար

• Աջակցում է Մայդսփոր Արհեստական ​​բանականության շրջանակ

3. Qualcomm – Hexagon DSP արհեստական ​​բանականության շարժիչով

Qualcomm-ի Վեցանկյուն DSP + արհեստական ​​բանականության շարժիչ ներդրված է Snapdragon հարթակներում՝ առաջարկելով.

• Արհեստական ​​բանականության արագացում Android հավելվածների համար

• Արդյունավետ սարքի վրա մշակում

• Համատեղելիություն TensorFlow Lite և ONNX

4. Google – Edge TPU

The Edge TPU, Google-ի մաս Կորալ հարթակ, նախատեսված է Ինտերնետային իրերի և եզրային տեղակայումներ:

• Օպտիմալացված է TensorFlow Lite

• Գերցածր էներգիայի արհեստական ​​բանականության եզրակացություն

• Կոմպակտ ձևաչափ խելացի սենսորներ և դարպասներ

5. NVIDIA – NVDLA և Jetson պլատֆորմ

NVIDIA-ի ՆՎԴԼԱ (Խորը ուսուցման արագացուցիչ) և Ջեթսոնի շարքը ապահովել բարձր արդյունավետությամբ արհեստական ​​բանականության հաշվարկներ՝

• Օգտագործվում է ռոբոտաշինություն, անօդաչու թռչող սարքեր, և ինքնավար մեքենաներ

• Աջակցում է ՏԱՐԲԵՐ, TensorRT, և DeepStream SDK

NPU-ների մարտահրավերներն ու սահմանափակումները

Մինչ Նեյրոնային մշակման միավորներ (NPU) առաջարկում են ուշագրավ առավելություններ՝ Արհեստական ​​բանականության եզրակացության կատարողականություն, էներգաարդյունավետություն, և եզրային հաշվարկներ, դրանք առանց սահմանափակումների չեն։ Մշակողները և համակարգային ինտեգրատորները պետք է հաշվի առնեն մի շարք տեխնիկական և գործառնական մարտահրավերներ՝ NPU-ներ կիրառելիս։ Արհեստական ​​բանականությամբ աշխատող սարքեր.

1. Framework-ի համատեղելիություն

Հիմնական խոչընդոտներից մեկը սահմանափակ աջակցությունն է Արհեստական ​​բանականության շրջանակներԻ տարբերություն գրաֆիկական պրոցեսորների, որոնք աջակցում են հարթակների լայն շրջանակ, ինչպիսիք են՝ TensorFlow, PyTorch, և ONNX, NPU-ները հաճախ պահանջում են պատվերով պատրաստված գործիքների շղթաներ կամ սեփական SDK-ներ։ Սա կարող է հանգեցնել հետևյալի.

• Ավելի երկար զարգացման ցիկլեր

• Դժվարություն մոդելի փոխակերպում և օպտիմալացում

• Անհամապատասխան աշխատանք սարքավորումների մատակարարների միջև

2. Միայն եզրակացության կարողություն

NPU-ների մեծ մասը նախատեսված է բացառապես եզրակացություն, ոչ մարզումՍա նշանակում է՝

• Արհեստական ​​բանականության մոդելները պետք է մարզվեն Գրաֆիկական պրոցեսորներ կամ TPU-ներ

• Ցանկացած վերապատրաստում կամ ճշգրտում պահանջում է արտաքին ենթակառուցվածքներ

• Նվազեցված ճկունություն սարքում ուսուցում

3. Սարքավորումների ինտեգրման սահմանափակումներ

NPU-ների ինտեգրումը ներկառուցված համակարգերի մեջ կամ Համակարգը չիպի վրա (SoC) Դիզայնը ներառում է հետևյալ փոխզիջումները.

• Սիլիկոնային տարածքի սահմանափակումներ

• Ջերմային նախագծման սահմանափակումներ

• Հնարավոր կոնֆլիկտներ առկա մուտք/ելք և հիշողության թողունակություն