Jetson Agx Orin гэж юу вэ?

Агуулга

• 1. Jetson AGX Orin-ийн техникийн үзүүлэлтүүд
• 2. Jetson AGX Orin-ийн үндсэн шинж чанарууд
• 3. Jetson AGX Orin-ийн хэрэглээ
• 4. Jetson AGX Original Developer Kit
• 5. Гүйцэтгэлийн шалгуур үзүүлэлтүүд
• 6. Jetson AGX Orin-ийн давуу тал
• 7. Jetson AGX Orin хэрхэн ялгардаг вэ?
• 8. Jetson AGX Orin-ийг ашиглаж эхлэх

Энэ яагаад хамаатай вэ? Edge AI нь бидний технологитой хэрхэн харьцаж байгааг өөрчилж байна. Алс холын үүлэн серверт найдахын оронд AGX Orin гэх мэт төхөөрөмжүүд нь өгөгдлийг үүсгэсэн газартаа боловсруулдаг—ухаалаг төхөөрөмжүүдийг эрүүл мэндийн тусламж үйлчилгээний асуудлыг нэн даруй илрүүлэх эсвэл үйлдвэрлэлийн системүүд нь согогийг шууд илрүүлдэг гэж бодоорой. Ampere GPU болон Tensor цөмүүдийн ачаар 275 TOPS (секундэд тера ажиллагаа) хүртэл гүйцэтгэлтэй, авсаархан систем дээрх модульд өндөр гүйцэтгэлтэй тооцоолох шаардлагатай хүн бүрийн хувьд үсрэлт юм.

Жетсоны гэр бүл нь хөгжүүлэгчдийн дуртай байсан бөгөөд AGX Orin нь хамгийн дээд талд суудаг. Xavier NX эсвэл TX2 зэрэг дүү нартайгаа харьцуулахад энэ нь эрчим хүчний хэмнэлтийг ноцтой тооцоолох хүчин чадалтай хослуулсан дараагийн түвшний араатан юм. Та робот техник, IoT эсвэл машин сургалтын чиглэлээр ажилладаг эсэхээс үл хамааран JetPack SDK-тэй иж бүрэн энэхүү иж бүрдэл нь хамгийн сүүлийн үеийн AI програмуудыг бүтээх хэрэгслийг танд олгоно.

Jetson AGX Orin-ийн техникийн үзүүлэлтүүд

Jetson AGX Orin-ийн гол онцлогууд

NVIDIA Jetson AGX Orin нь зөвхөн техник хангамж биш бөгөөд энэ нь хиймэл оюун ухаанд зориулсан тоглоомыг өөрчилдөг. Энэхүү нэг самбарт компьютер нь хөгжүүлэгчид, робот сонирхогчид болон үйлдвэрлэлийн мэргэжилтнүүдийн шилдэг сонголт болгодог онцлог шинж чанаруудаараа гялалзаж байна. Үүнийг юугаараа ялгаж байгааг харцгаая.

A. AI-ийн дэвшилтэт чадварууд

Энэ зүйл өглөөний цайндаа гүнзгий суралцах иддэг. Ampere GPU болон Tensor цөмүүдтэй энэ нь бодит цагийн боловсруулалт хийхэд 275 TOPS хүртэлх хүчин чадалтай. Объект илрүүлэх эсвэл семантик сегментчилэхэд мэдрэлийн сүлжээ хэрэгтэй байна уу? Дууслаа. Энэ нь бие даасан машинуудыг ажиллуулах, хиймэл хиймэл оюун ухааныг ажиллуулах гэх мэт нарийн төвөгтэй машин сургалтын даалгавруудыг хөлс урсгалгүйгээр шийдвэрлэхэд зориулагдсан. Ухаалаг хот эсвэл эрүүл мэндийн үйлчилгээ аль нь ч бай AGX Orin нь хамгийн их хэрэгцээтэй газарт өндөр гүйцэтгэлтэй хиймэл оюун ухааныг хүргэдэг.

B. Олон мэдрэгчтэй интеграци

Камер эсвэл мэдрэгчтэй юу? Jetson AGX Orin тэдэнд хайртай. Энэ нь MIPI CSI болон GMSL гэх мэт өндөр хурдны интерфэйсүүдийг дэмждэг бөгөөд олон урсгалаар видео аналитик хийхэд тохиромжтой. Замын хөдөлгөөнийг хянах ухаалаг дэд бүтэц эсвэл үйлдвэрлэлийн шугамыг хянах үйлдвэрлэлийн системийг бодоорой. Энэ нь автомат жолоодлого эсвэл робот техникийн байрлалын тооцоололд зориулж өгөгдлийг холих, олон мэдрэгчийг нэгтгэх чиглэлээр аварга юм. Энэ нь булчингаа нугалж буй хиймэл оюун ухаан юм.

C. Програм хангамжийн экосистем

Алуурч программ хангамжгүйгээр ямар ч гайхалтай техник хангамж байхгүй. JetPack SDK нь таны тасалбар бөгөөд оновчтой дүгнэлт гаргахад зориулсан TensorRT, захиалгат кодчилолд зориулсан CUDA, уян хатан байдалд зориулсан Линукс дээр суурилсан хэрэгслүүд юм. Энэ нь IoT, ухаалаг төхөөрөмж эсвэл видео боловсруулахад зориулагдсан хиймэл оюун ухааны программуудыг хурдан гаргах боломжийг олгодог хөгжүүлэгчийн иж бүрэн хэрэгсэл юм. Контейнержуулалт эсвэл үүлд суурилсан тохиргоог хүсч байна уу? Энэ нь таныг хамгаалсан.

Jetson AGX Orin нь зөвхөн технологи биш, инновацийн хэрэгсэл юм. Эрчим хүчний хэмнэлттэй дизайнаас эхлээд хамгийн сүүлийн үеийн шинж чанарууд хүртэл дараагийн үеийн сорилтод бэлэн байна. Та бие даасан систем барьж байгаа эсвэл хамгийн сүүлийн үеийн тооцоолох хязгаарыг шахаж байгаа эсэхээс үл хамааран энэ бол таны эхлүүлэх самбар юм.

Jetson AGX Orin-ийн хэрэглээ

NVIDIA Jetson AGX Orin нь зүгээр л нэг технологийн тоглоом биш бөгөөд энэ нь бодит ертөнцийн шийдлүүдийг хүчирхэгжүүлдэг ажил юм. AI булчингаараа энэ нэг самбарт компьютер робот техникээс эхлээд ухаалаг хот хүртэлх бүх зүйлийг шийддэг. Энд гэрэлтэж байна.

A. Робот техник ба автономит машин

Автономит системүүдийн хувьд AGX Orin бол мөрөөдөл юм. Түүний Ampere GPU болон Tensor цөмүүд нь объект илрүүлэх, бие даасан навигаци гэх мэт гүнзгий суралцах даалгавруудыг даван туулж, 275 TOPS хүрдэг. Бодит цагийн боловсруулалтын ачаар агуулахын роботууд саад бэрхшээлээс зайлсхийж эсвэл газар нутгийг зураглаж буй дронууд. Хөгжүүлэгчид үүнийг роботын төслүүдийг загварчлахад дуртай бөгөөд JetPack SDK нь жолоодлогыг жигд болгодог.

B. Үйлдвэрийн болон үйлдвэрлэлийн шийдэл

Аж үйлдвэрийн нөхцөлд энэ араатан ажлын урсгалыг оновчтой болгодог. Урьдчилан таамаглах засвар үйлчилгээ хийх зорилгоор согогийг илрүүлэхийн тулд видео аналитик эсвэл машин сурах аргыг ашигладаг ухаалаг үйлдвэрүүдийг бодоорой. Олон мэдрэгчийн дэмжлэгтэйгээр энэ нь камер, мэдрэгч гэх мэт олон урсгалыг зохицуулж, өндөр гүйцэтгэлтэй чанарын хяналтыг баталгаажуулдаг. Энэ нь үйлдвэрлэл, зогсолтыг багасгаж, үр ашгийг дээшлүүлэх ялалт юм.

C. Ухаалаг хотууд ба IoT

Ухаалаг хотууд захын тооцоололд ихээхэн түшиглэдэг бөгөөд AGX Orin нь үүнийг өгдөг. Энэ нь замын хөдөлгөөний удирдлагын видео тандалт эсвэл эрчим хүчний сүлжээ гэх мэт ухаалаг дэд бүтцийг идэвхжүүлдэг. Түүнд холбогдсон IoT төхөөрөмжүүд нь үүлний хоцролтыг алгасаж, мэдээллийг газар дээр нь боловсруулж чаддаг. Энэ нь олны хяналтанд зориулсан семантик сегментчилэл эсвэл хот төлөвлөлтийн бодит цагийн аналитик эсэхээс үл хамааран энэ нь дараагийн үеийн хотуудын тулгын чулуу юм.

D. Эрүүл мэндийн салбарын инноваци

Эрүүл мэндийн салбарт AGX Orin нь хиймэл оюун ухааны хэрэглээг бий болгодог. Энэ нь хиймэл оюун ухаанаар ажилладаг оношилгоо хийх, мэдрэлийн сүлжээгээр сканнердах, эсвэл нөхөн сэргээх технологийн хувьд байрлалын тооцоолол хийхэд тохиромжтой. Эмнэлгүүд өвчтөний бодит цаг хугацааны хяналтанд тооцоолохынхоо хүчийг ашигладаг - орны дэргэдэх төхөөрөмжүүд нь анивчихгүй гэж бодоорой. Энэ нь зөөврийн хэрэгсэлд ч хангалттай эрчим хүчний хэмнэлттэй байдаг.

Jetson AGX Original Developer Kit

NVIDIA Jetson AGX Orin хөгжүүлэгчийн иж бүрдэл нь зөвхөн эд ангиудын хайрцаг биш бөгөөд энэ нь хиймэл оюун ухаантай мөрөөдөгчдэд зориулсан эхлүүлэх самбар юм. Та робот техник, ухаалаг хот, гүнзгий суралцах дуртай эсэхээс үл хамааран энэхүү хэрэгсэл нь өндөр хүчин чадалтай хэрэгслийг таны гарт өгөх болно. Түүний санал болгож буй зүйлийг задалцгаая.

A. Хөгжүүлэгчийн багцад юу багтсан бэ

Хайрцагыг нээвэл танд Jetson AGX Orin модуль байна—Ампер график процессор, тензор цөм, 275 хүртэлх тооны тооцоолох хүчин чадалтай гэж бодоорой. Энэ нь USB 3.2, HDMI, NVMe оролт зэрэг өндөр хурдны интерфэйстэй, eMMC-ээс гадна нэмэлт хадгалах зориулалттай лавлах зөөгч самбартай ирдэг. Тэжээлийн адаптер, кабель болон microSD-г оруулснаар та өнхрөхөд бэлэн болно. Энэ нь үйлдлийн систем дээр суурилсан модуль юм.

B. Энэ нь хурдан загварчлалыг хэрхэн дэмждэг

Энэхүү хэрэгсэл нь хөгжүүлэгчдэд цаг хэмнэнэ. JetPack SDK-тэй хослуулснаар та нарийн дүгнэлт хийх TensorRT, өөрчлөн тохируулга хийх CUDA, AI програмуудыг эхлүүлэх Линуксийн сайн зүйлсийг авах болно. Автономит машинуудад зориулсан видео аналитик эсвэл мэдрэлийн сүлжээг туршихыг хүсч байна уу? MIPI CSI-ээр дамжуулан камеруудыг холбосноор та бодит цагийн боловсруулалтыг долоо хоногоор биш хэдэн цагийн дотор хийж байна. Энэ нь бүхэлдээ өргөтгөх чадварын тухай юм - бага багаас эхэлж, том хэмжээтэй.

C. Orin NX болон Nano-д зориулсан дахин тохируулах боломжтой

Уян хатан байдал нь энд хаан юм. Энэхүү самбар нь Orin NX болон Orin Nano-тай сайн тоглодог бөгөөд энэ нь танд өөрийн хэрэгцээнд тулгуурлан модулиудыг солилцох боломжийг олгоно - эрчим хүчний хэмнэлттэй IoT-д зориулсан TOPS бага, үйлдвэрлэлийн булчинд илүү их. Энэ нь ухаалаг төхөөрөмжид зориулсан машин сургалтын кодчилол эсвэл ухаалаг дэд бүтцэд зориулж видео боловсруулалт хийж байгаа эсэхээс үл хамааран таны төслөөр өсөх хөгжүүлэгчийн хэрэгсэл юм.

Гүйцэтгэлийн шалгуур үзүүлэлтүүд

NVIDIA Jetson AGX Orin бол зүгээр нэг шуугиан тарьсан зүйл биш бөгөөд үүнийг нөөцлөх тоотой, өндөр гүйцэтгэлтэй араатан юм. Та хамгийн сүүлийн үеийн AI, робот техник эсвэл видео аналитикийг хөгжүүлж байгаа эсэхээс үл хамааран түүний жишиг үзүүлэлтүүд нь түүхий тооцооллын хүчин чадлын түүхийг өгүүлдэг. Статистикийг ухаж үзье.

A. MLPerf-ийн дүгнэлтийн үр дүн

AI булчингийн алтан стандарт болох MLPerf туршилтанд AGX Orin маш сайн нугалж чаддаг. Ampere GPU болон Tensor цөмүүдээрээ энэ нь 275 TOPS (секундэд тера ажиллагаа), объект илрүүлэх, семантик сегментчилэл зэрэг тамхи татах ажлыг гүйцэтгэдэг. TensorRT-ийн тусламжтайгаар дүгнэлтийн шугамыг ажиллуулж, гүн гүнзгий суралцах загваруудыг - алсын харааны трансформатор эсвэл үүсгэгч хиймэл оюун ухаан - өрсөлдөгчдийг тоос шороонд үлдээх хурдаар дамжуулдаг. Бодит цагийн боловсруулалтын хувьд энэ нь аварга юм.

B. Бусад Jetson загваруудтай харьцуулах

Үүнийг Jetson TX2 (1.3 TOPS) эсвэл Xavier NX (21 TOPS) дээр байрлуулж, AGX Orin бол өөр үүлдэр юм. Jetson AGX Xavier (32 TOPS) хүртэл энэхүү дараагийн үеийн өрөмдлөгийн хажууд эелдэг харагдаж байна. Түүний LPDDR5 RAM болон олон цөмт Cortex CPU нь ухаалаг хотуудад зориулсан видео боловсруулалт гэх мэт олон урсгалыг хялбархан зохицуулдаг. Гүйцэтгэлийн үсрэлт нь илүү бие даасан машинууд эсвэл ухаалаг төхөөрөмжүүд нь нарийн төвөгтэй мэдрэлийн сүлжээг амьсгал боогдохгүйгээр ажиллуулж чадна гэсэн үг юм.

C. Бодит ертөнцийн FPS ба боловсруулалтын хурд

Хүрээний хурд нь чухал бөгөөд AGX Orin нь хүргэдэг. Видео аналитикийн хувьд техник хангамжийн хурдатгалын ачаар олон камерын тохиргоонд 100-аас хойш FPS (секундэд фрэйм) хэмжигддэг. Ухаалаг дэд бүтэц эсвэл үйлдвэрлэлийн хэрэглээний тохиолдлуудыг турших уу? Энэ нь 4K урсгалыг өндөр хурдтайгаар боловсруулж, ачаалалтай байсан ч эрчим хүчний хэмнэлттэй байдаг. Энэ бол цочирддоггүй хиймэл оюун ухаан юм.