Nvidia utökar stöd för ARM-processorer med sin kompletta stack AI- och HPC-programvara

Tidigare idag tillkännagav Nvidia äntligen stöd för processorer med ARM-arkitektur tillsammans med hela sin stack med AI- och HPC-programvara. Nvidia är väl bekant med ARM eftersom de har införlivat arkitekturen i sina Tegra-chips och andra system på chip-produkter för bärbart spel, autonoma fordon, robotik och inbäddad AI-dator.

Varför nu?

ARM har funnits ett tag men användningen i HPC-system har varit obefintlig fram till några år. Nästan alla HPC-system använder chips från Intel eftersom de har funnits länge vilket resulterar i utmärkt äldre programvara och biblioteksstöd.

Under åren har ARM arbetat outtröttligt för att bygga ett ekosystem som kan göra deras arkitektur till ett livskraftigt alternativ till x86-chips. Mont-Blanc-projektet var ett stort initiativ i den riktningen.

Dessa initiativ bär äntligen frukt och marker med ARM-arkitektur används alltmer i olika HPC-system runt om i världen.

Nvidias affärsintressen för datacenter

Nvidia dominerar redan en stor del av konsumentens GPU-verksamhet och genom åren har de skapat en respektabel hårdvaru- och programvarustack för arbetsstationer. På mjukvarusidan av saker har de många lösningar som rör AI och Deep Learning Workloads. Alla dessa arbetsbelastningar kan accelereras av GPU: er och det är här deras Tesla och Volta GPU: er kommer in.

Detta har hjälpt företagets ekonomi, och enligt en artikel om Fobes författad av Karl Freund “Under NVIDIA: s Q1 2019 kvartal överträffade företaget återigen förväntningarna och rapporterade en tillväxt på 66% av de totala intäkterna, inklusive 71% tillväxt i sin glödande datacenterverksamhet (nådde 701 MUSD för kvartalet). För NVIDIA inkluderar segmentet "Datacenter" High-Performance Computing (HPC), datacenter-hostad grafik och AI-acceleration. "

Dessa är också stora samtal i Nvidias investerare. Efter Nvidias förvärv av Mellanox som vi täckte här, Delade VD Jensen Huang en del insikter bakom beslutet om att ”Strategin fördubblas på datacenter, och vi kombinerar och förenar två ledare inom högpresterande datateknik. Vi fokuserar på accelererad databehandling för högpresterande datorer och Mellanox fokuserar på nätverk och lagring för högpresterande datorer, och vi har kombinerat de två företagen under ett tak. Vår vision är att datacenter är de viktigaste datorerna i världen idag, och att i framtiden, när arbetsbelastningen fortsätter att förändras - vilket verkligen utlöses av artificiell intelligens och dataanalys - att framtida datacenter av alla slag kommer att byggas som högpresterande datorer. Hyperskala datacenter skapades verkligen för att tillhandahålla tjänster och lättviktiga datorer till miljarder människor. Men under de senaste åren har framväxten av artificiell intelligens och maskininlärning och dataanalys lagt så mycket belastning på datacenterna, och anledningen är att datastorleken och beräkningsstorleken är så stor att den inte passar på en dator. Så det måste distribueras på flera datorer och den högpresterande anslutningen för att de ska kunna fungera tillsammans blir allt viktigare. Det är därför Mellanox har vuxit så bra, och varför människor pratar om SmartNIC och intelligenta tyger och programvarudefinierade nätverk. Alla dessa samtal leder till samma plats, och det är en framtid där datacentret är en gigantisk beräkningsmotor som kommer att vara sammanhängande - och det kommer att göra det möjligt för många människor att fortfarande dela det - men tillåta för få människor att köra mycket stora applikationer på dem också. Vi tror att beräkningen inte kommer att börja och sluta på servern i framtiden för datacenter, utan sträcker sig ut i nätverket och nätverket i sig kommer att bli en del av datavägen. På lång sikt tror jag att vi har förmågan att skapa datacenter-skalningsarkitekturer.”

ARM redo för framgång

ARM-chips driver de flesta mobila enheter runt om i världen så arkitekturen förblir energieffektiv genom design. Eftersom arkitekturen är licensierad kan flera kiselproducenter övervägas med ARM.

Strömförbrukningen är fortfarande ett stort problem med HPC: er och användning av ARM kan kompensera detta problem i stor utsträckning. Även med programvara har Mont-Blanc-projekten utvecklats många vetenskapliga bibliotek och verktyg för ARM, detta spelar en stor roll för att föra hela ekosystemet framåt.

ARM: s användning i HPC och datacenter är fortfarande liten jämfört med x86-system men Nvidia ser potentialen här. Deras ärkerival AMD har också börjat konkurrera hårt på HPC- och datacentermarknaden med sina EPYC-serverprocessorer och Radeon Instinct GPU-acceleratorer. Så det är viktigt för Nvidia att anta ARM nu och erbjuda sin programvarupaket (CUDA-X HPC, ect). Till skillnad från vissa tillverkare tillverkar Nvidia inte processorer, så de saknar CPU-GPU-enhetligheten som AMD och Intel kan erbjuda.

I efterhand kan Nvidia stärka ett partnerskap med ARM, som NextPlatform med rätta säger ”Nvidia och Arm skulle kunna ingå ett partnerskap för att göra NVLink IP-block tillgängliga för dem som köper Neoverse-licenser, vilket möjliggör en tätare koppling med GPU: er, inklusive minnesatomer och minneskoherens över CPU-GPU-beräkningskomplex.”

Denna åtgärd kommer definitivt att hjälpa ARM: s fall som ett bärkraftigt alternativ till x86 HPC. Vi kan förvänta oss ett liknande drag från AMD någon gång i framtiden när de fortsätter att pressa sina Radeon Instinct GPU aggressivt.