Ruku i meta: planira put do razrijeđenog GPU kapaciteta

Učinkovitost vožnje i ukupni trošak vlasništva

Meta je prethodno rekao da je efikasnost jedan od najvažnijih faktora za raspoređivanje MTIA u svojim datacentrima. To se mjeri u metric-u performansi po vati (TFLOPS / W), koji je rekao je ključna komponenta ukupnih troškova vlasništva. MTIA čip postavljen je na otvorenu modulu platforme (OCP), koji troši oko 35W. Ali arhitektura MTIA zahtijeva centralnu obradu (CPU) zajedno sa sjećanjem i čipovima za povezivanje.

Prijavljeni rad koji radi s ARM-om mogao bi pomoći da se kompaniji pređe iz visoko prilagođenih integriranih krugova na aplikacije (ASICS) koji je razvio za svoj prvi generacijski čip, MTIA 1, na arhitekturu sljedeće generacije na temelju jezgara opće namjene .

Gledajući najnoviju zaradu ruku, kompanija se pozicionira da ponudi AI koji može efikasno skalirati snagu. ARM je prethodno udružio Nvidia da bi dostavio efikasan Efficiran AI u NVIDIA Blackwell Grace Architecture.

Na Showuder Electronics Showur, Nvidia je predstavio podrumčani GB10 Grace Blackwell Superchip, koji je tvrdio nudi petaflop AI računarstva za prototipiranje, fino podešavanje i pokretanje velikih modela AI. Čip koristi ručni procesor sa Nvidia’s Blackwell akceleratorom za poboljšanje performansi AI opterećenja.

Poluprovodnička industrija nudi sistem na čip (SoC) uređajima, gdje su različiti blokovi za računarsku zgradu integrirani u jedan čip. Grace Blackwell je primjer SOC-a. S obzirom na rad META radi razvijanje svog MTIA čipa, kompanija možda može istražiti kako može raditi s ARM-om na integrirati vlastitu tehnologiju s ARM CPU na jednom uređaju.

Iako je SOC složeniji iz perspektive izrade čipa, ekonomije razmjera kada se proizvodnja povećava, a činjenica da uređaj može integrirati nekoliko vanjskih komponenti u jedan paket, činiti ga značajno isplativim za graditelje sistema.

Napomene LI za zamjenu GPU servera i cilj MTIA-e za smanjenje ukupnih troškova vlasništva za AI za AI korelaciju sa prijavljenim bavljenjem AI-a, što bi potencijalno omogućilo da se ubrzava ubrzavanje AI ubrzanja.

Povećavanje oružja AI AI

ARM, koja je kompanija Softbank, nedavno se nađe u srži projektu Stargate Adut Administracije, inicijative koja podržava softbranke za implementaciju mogućnosti suverenih AI u SAD-u.

Tokom zarade za najnovije tromjesečne rezultate, izvršni direktor Rene Haas opisao je Stargate kao “izuzetno značajan infrastrukturni projekat”, dodajući: “Izuzetno smo uzbuđeni za CPU izbora za takvu platformu u kombinaciji sa Blackwell CPU-om sa [ARM-based] Grace. Naprijed, bit će ogroman potencijal za tehnološku inovaciju oko tog prostora. “

Haas je također govorio o suradnji Cristal Intelligence s Openaijem, koji je rekao da omogućava AI agentima da se presele na svakom čvoru hardverskog ekosustava. “Ako mislite o najmanjim uređajima, poput ušiju, sve do podataka datacentre, ovo se zapravo više o agentima sve više među sučelja i / ili vozač svega što vozi AI unutar uređaja”, dodao je.