Intel Nervana Neural Network AI-processor avbruten till förmån för Habana Labs-lösningar?

I en ganska förbryllande händelse har Intel beslutat att skrota sina planer för att vidareutveckla sin lovande Nervana Neural Network Processor för träningslinjen. Beslutet kommer bara två månader efter att den allvarligt försenade familjen Nervana NNP officiellt lanserades. Även om det inte är bekräftat är det förvirrande draget troligen resultatet av Intels nyligen förvärv av Habana Labs.

Bara två månader efter Intel förvärvade Habana Labs för 2 miljarder dollar, den förra har axlat sitt eget Nervana Neural Network Processor-projekt som är avsett för utbildningslinjen för artificiell intelligens. Förresten är det inte förvånande att Intel skrotade detsamma. Det beror på att det var ganska överflödigt och kontraproduktivt att fortsätta investera i två konkurrerande AI-orienterade produkter. Det var bara logiskt att en av de två chipsen, som är arkitektoniskt väldigt olika men avsedda för samma marknader, skulle tappas från vidare utveckling.

Intel skrotar Nervana NNP-familjen till förmån för Habana Labs-produkt men kommer att hedra kundåtaganden:

Intel verkar ha beslutat att avbryta utvecklingen av sin egen Nervana NNP-familj av AI-processorer. Intel NNP-I kommer dock att fortsätta lite längre på grund av kundåtaganden. Fortfarande kommer Intel så småningom att avbryta all utveckling till förmån för Habana-chipsen. Intressant, Intel tillkännagav också 3: e generationens Movidius VPU: er, kodnamn Keem Bay. Företaget har bekräftat att Movidius färdplan för synbehandling är oförändrad.

Även om Intels förvärv av Habana Labs är mycket meningsfullt är det inte avbrytandet av sin egen interna design för den förstnämnda alternativet. Förresten har ingen av AI-chips från något av företagen testats oberoende och deras detaljerade specifikationer och riktmärken har publicerats öppet. Ändå erbjuder de officiellt släppta specifikationerna, funktionerna och prestandeattributen för Nervana NNP-familjen av AI-processorer och de som utvecklats av Habana Labs mycket att jämföra dem.

Intel Nervana-produkterna säljs underNNP-märke medan Habana brukade sälja underHL-serien. Både Nervana och Habana erbjuder ett standardiserat PCIe-kort och en OAM-mezzaninmodul. Enkelt uttryckt, fysiskt verkar båda produkterna lika. Dessutom har dessa marker 32 GB HBM2-minne. Intels Nervana-chips har något högre TDP och högre klockminne, men intressant, de förbrukar lägre effekt under faktisk drift.

Intel Chips är baserade på Spring Crest Microarchitecture, medan Habana Labs chips baseras på Gaudi Microarchitecture, och det är här skillnaderna blir uppenbara. Det saknas flera viktiga uppgifter som förhindrar detaljerad jämförelse. Det är dock helt uppenbart att Intels Nervana-design är mycket mer komplex. Spring Crest implementerar ett enhetligt 2D-nät med 24 Tensor Processor Clusters (TPC), som varje kluster består av en On-Chip Router (OCR), styrningen, MAC Processing Units (MPU) och minnessubsystemet. Det finns cirka två MPU: er per kluster.

Nervana-systemet säkerställer att data förblir lokaliserade, vilket minskar dataförflyttningen och förbättrar återanvändningen. Dessutom arbetade Intel enligt uppgift också med en ICL-omkopplare för att möjliggöra ytterligare flexibilitet, förutom den parallellitet som redan var inbakad direkt i arkitekturen. Det finns inga officiella skalningsriktmärken från Habana men förproduktionschips från Nervana visade enligt uppgift bra skalningsutnyttjande över 100-tal noder med mycket låga latenser även vid stora överföringsstorlekar.

Varför skrotade Intel sina egna effektiva, överlägsna och mycket skalbara Nervana Chips för Habana Labs?

Även om exakta detaljer är lite svåra att få fram verkar familjen Nervana vara tekniskt överlägsen jämfört med de alternativ som presenteras av Habana Labs. Intel hävdar att den enhetliga Habana-arkitekturen är en "strategisk fördel". Intels beslut kan ha att göra med marknadsdynamiken kring tillgängligheten av HBM-minne, eftersom Habana Labs produkter också kan fungera med vanliga DDR4-gränssnitt.

Experter hävdar dock att beslutet att överge Nervana kan ha att göra med nivån på programutveckling. Första generationens Nervana NNP (Lake Crest) hade tidigare stött på programvarurelaterade problem på grund av att använda datatypen Flexpoint, vilket tvingade Intel att välja bfloat16. Oavsett orsaken kommer Habana Labs förvärv att göra det möjligt för Intel att få marknadsandelar på den växande AI ASIC-marknaden, och därför kan beslutet också ha inspirerats av ekonomi.