Microsoft je predstavio Maia 300, svoj AI akcelerator treće generacije. Čip je namenjen poboljšanju performansi i efikasnosti AI inferencije velikih razmera, odnosno obrade zahteva nad već obučenim AI modelima. Akcelerator se koristi u okviru Microsoftove Azure infrastrukture.
Kontekst
Microsoft je američka tehnološka kompanija, poznata po operativnom sistemu Windows, paketu Office i cloud platformi Azure, preko koje korisnici i firme iznajmljuju računarske resurse putem interneta. Kako bi smanjio zavisnost od spoljnih dobavljača čipova i ponudio jeftiniju obradu AI zahteva, Microsoft već godinama razvija sopstvene čipove, a Maia je naziv za njegovu liniju AI akceleratora.
AI akcelerator je specijalizovani procesor optimizovan za matematičke operacije koje koriste neuronske mreže. Razlikuje se od opštih procesora po tome što brže i energetski efikasnije obrađuje velike količine paralelnih proračuna. Inferencija je faza u kojoj već obučen model odgovara na upite korisnika, i za velike cloud provajdere ona predstavlja stalan i rastući trošak.
Zašto je ovo važno
Ovakve vesti su bitne za tržište jer efikasnost AI infrastrukture direktno utiče na troškove koje velike kompanije imaju pri pružanju AI usluga. Kada cloud provajderi mogu da obrade više zahteva uz manju potrošnju energije i opreme, to može uticati na njihove operativne troškove, cene usluga i tempo širenja kapaciteta. Tržište pri tome obično posmatra koliko kompanija ulaže u sopstvene čipove, jer to pokazuje kako se menja konkurencija u industriji poluprovodnika i cloud usluga.
Pojmovi iz vesti
- AI akcelerator
- Specijalizovani čip, dizajniran za brze matematičke proračune koje koriste sistemi veštačke inteligencije, koji radi brže i efikasnije od standardnog procesora u tim zadacima.
- Inferencija (inference)
- Faza u kojoj već obučen AI model obrađuje nove upite i daje odgovore, za razliku od faze obuke u kojoj se model tek uči.
- Azure
- Microsoftova cloud platforma koja korisnicima i kompanijama omogućava da koriste serverske i računarske resurse preko interneta, bez sopstvene fizičke opreme.
- Originalni naslov
- Microsoft Unveils Maia 300 AI Accelerator
- Kompanije u vesti
Naslov i sažetak napisao je AI na osnovu originala i mogu sadržati greške. Originalni tekst je kod izvora.
