NVIDIA Jetson Thor T3000 un T2000: AI risinājumi robotiem

Kad Džensens Huangs ieradās Japānā, baumu dzirnavas sāka griezties pilnā sparā. Cilvēki gaidīja lielu paziņojumu. NVIDIA atbildēja ar diviem jauniem Jetson Thor moduļiem, kas šķiet kā pamudinājums ikvienam, kas veido reālās pasaules mākslīgo intelektu: pāriet no laboratorijas demonstrācijām uz iekārtām, kas patiešām darbojas rūpnīcās, noliktavās un mobilajos robotos.

Mazs izmērs. Lielas ambīcijas.

Iepazīstieties ar Jetson Thor T3000 un T2000. Tie nav vienkārši pakāpeniski atjauninājumi. Domājiet par tiem kā kompaktākiem, efektīvākiem radiniekiem Jetson AGX Thor ģimenē; tie ir izstrādāti, lai lokāli nodrošinātu nopietnu inferences jaudu, nepalielinot ierīces izmēru vai enerģijas prasības.

T3000 ir slaidā, augstas efektivitātes versija. Tā nodrošina aptuveni 865 teraflopus FP4 aprēķinos, vienlaikus samazinot aptuveni uz pusi gan ierīces izmēru, gan enerģijas patēriņu salīdzinājumā ar vadošo Thor T5000. Pamats: Blackwell arhitektūras GPU, līdz astoņi Arm Neoverse kodoli, 32 gigabaiti LPDDR5X atmiņas ar deklarēto 273 gigabaitu sekundē joslas platumu un 25 GbE savienojamība. NVIDIA norāda, ka daudzos inferenču darba slodzēs, kas ir svarīgas robotikā un multimodālajā mākslīgajā intelektā, no lielajiem valodu modeļiem līdz redzes un valodas sistēmām, T3000 sniedz salīdzināmus rezultātus ar T5000, vienlaikus parasti ierobežojot patēriņu apmēram 70 vatiem.

T2000 mērķē uz citu segmentu: budžeta apzinātām, mobilām un redzes fokusa lietojumprogrammām. Tas piedāvā aptuveni 400 teraflopus FP4 un piegādājas ar 16 gigabaitu atmiņu. Enerģijas ietilpība ir apmēram 40 vati. Tas padara to par dabiski piemērotu izvēli autonomiem mobilajiem robotiem, vienkāršām humanoīdu lietojumprogrammām un izstrādātājiem, kas izpēta iekļautu mākslīgo intelektu bez ieguldījuma augstākās klases aparatūrā.

• Liela aprēķinu blīvuma efektivitāte ar pielāgojamiem jaudas profiliem
• Aparatūra, orientēta uz masveida tirgus robotiku un mala mākslīgā intelekta ierīcēm
• Programmatūras pirmais piegājiens optimizācijām, lai samazinātu atmiņas izmantošanu un izmaksas

Kāpēc tas ir būtiski tieši tagad? Tāpēc, ka nozare pāriet no eksperimentiem uz izvietošanu. Uzņēmumi kā Boston Dynamics, Amazon Robotics, Tesla, Agility un Agile Robots aktīvi virzās fiziskā mākslīgā intelekta virzienā. Ekonomika mainās, kad aprēķinu jauda ietilpst enerģijas un izmaksu ierobežojumos, kas redzami rūpnīcu grīdās un loģistikas mezglos.

NVIDIA neapstājas pie silīcija. Tā ieviesa rīku kopu, ko sauc Jetson Agent Skills, lai palīdzētu izstrādātājiem iegūt vairāk no platformas. Ideja ir vienkārša: optimizēt visu programmatūras cauruļvadu, lai lietojumprogramma prasa mazāk RAM un var darboties uz zemākas klases SKU. Praktiskais ieguvums ir acīmredzams. NVIDIA demonstrēja gadījumus, kur Jetson AGX Orin konfigurācijas samazināja atmiņas izmantošanu uz pusi, vienlaikus saglabājot līdzvērtīgus rezultātus. Šāda optimizācija tieši pārvēršas mazākās rēķinos un ilgākā akumulatora darbībā izvietotajiem robotiem.

Par pieejamību uzņēmums norāda, ka T3000 būs pieejams simulācijā jau tagad ar JetPack versiju 7.2.1, kamēr T2000 parādīsies nākamajos programmatūras atjauninājumos. Abu komerciālā piegāde ir plānota 2027. gada pirmajā ceturksnī.

Šie moduļi paredzēti barjeru mazināšanai: zemākas izmaksas, mazāks enerģijas patēriņš un programmatūra, kas savieno visu kopā.

Sistēmu būvētājiem izvēle kļūst skaidrāka. Ja jums nepieciešama gandrīz vadošā līmeņa inference daļēji mazākā ietvarā, T3000 ir piemērotā izvēle. Ja veidojat lielas redzes aģentu saimes vai kompaktus humanoīdus un jālīdzsvaro veiktspēja ar enerģiju un cenu, T2000 piedāvā saprātīgu ieejas punktu.

Sagaidiet, ka Jetson Thor parādīsies nākamās paaudzes robotu kontrolieros, autonomos loģistikas transportlīdzekļos un iebūvētās iekārtās, kurām nepieciešams reāllaika multimodālais mākslīgais intelekts. Uzņēmums ir aizpildījis produktu karti no ieejas līmeņa Orin bāzētām datorplatformām līdz augstākās klases Thor ģimenei, pozicionējot sevi kā izvēli robotikas dizaineriem, kuriem jāpadara AI pētījumi par uzticamu aparatūru.

Ne katrs atklājums ir spožs. Dažkārt progress izskatās pēc efektivitātes: gudrāka programmatūra, kompaktāks silīcijs un skaidrāks ceļš no prototipa līdz ražošanai. NVIDIA jaunie Jetson Thor moduļi atgādina, ka robotikā lietojama aprēķinu jauda bieži ir svarīgāka par sensacionāriem rādītājiem.