Sat-Multimedia & IT portal Satelitska-IPTV-Multimedija od 2006
Razlog zašto možete pitati ChatGPT “kako pojesti mango, a da ga ne prolijete” i još mnogo toga su Nvidijine H100 i B200 grafičke procesorske jedinice (GPU). Ovi čarobni skupovi čipova koji pokreću AI chatbotove potaknuli su Nvidiju da postane predvodnik industrije AI hardvera, s tržišnom kapitalizacijom koja je dosegnula brojku od 3 trilijuna dolara – više od Microsofta i Applea prošlog mjeseca.
Piše: Darko Brlečić
Ali sada je relativno mladi startup koji su osnovala dvojica odustalih s Harvarda bacio oko na svoj dio kolača AI hardvera. Etched, startup sa sjedištem u Kaliforniji, nastoji poremetiti tržište AI čipseta svojim transformatorskim ASIC (Application Specific Integrated Circuits) čipom nazvanim Sohu.
Sohu tvrdi da je 20 puta brži u pokretanju transformatora kao što je ChatGPT od Nvidijinog vodećeg modela – H100. B200, koji je snažnija Nvidijina ponuda od H100, navodno je 10 puta sporiji od Sohua, prema tvrdnjama tvrtke na temelju emulacijskih testova.
Grafikon testa
Sohu ima potpuno drugačiji pristup pružanju velike računalne snage za pokretanje milijardi parametara (varijabli koje se koriste u obuci AI modela) za modele transformatora. Za razliku od GPU-a koji mogu obavljati više računalno teških zadataka (kao što je renderiranje grafike u stvarnom vremenu), Etched je odlučio stvoriti specijalizirani čip koji služi samo transformatorskim AI modelima – onima koji pokreću ChatGPT, Sora (OpenAI-jev AI model teksta u video) i Googleov Blizanci.
To znači da ne može pokretati druge modele umjetne inteligencije poput konvolucijskih neuronskih mreža (koje se koriste za prepoznavanje slika). Ovo otvara mogućnost istraživanja novih AI proizvoda od strane programera što do sada nije bilo moguće zbog ograničene snage GPU-a.
Na primjer, Sohu potencijalno može dovesti do prevoditelja u stvarnom vremenu koji može čuti i čitati hindski, gujarati ili tamilski i odgovoriti na francuskom, engleskom i njemačkom. Naravno, takvo multimodalno i višejezično prevođenje zahtijeva više od samo računalne snage, ali u teoriji, ono otvara mogućnost.
Još jedna multimodalna primjena transformatora koju bi čipset mogao iskoristiti je integracija vizualnih i jezičnih područja. To u biti znači da će takav model razumjeti i tekst i slike istovremeno, otvarajući mogućnost vizualnih pitanja i odgovora – poput intervjua.
Ali sve ovo ostaje teorija. Etched je prikupio 120 milijuna USD 25. lipnja kako bi to postao stvarnost, a stvarna vremenska linija za stvarno izdanje Sohu ASIC-a ostaje nedostižna.
Etched je tvrdio da već ima hardver vrijedan “desetke milijuna dolara” rezerviran u prednarudžbama. Tvrtka je također osigurala ugovor s TSMC-om (Taiwan Semiconductor Manufacturing Company) za proizvodnju 4-nanometarskog čipa, obećavajući da će ugovor pomoći “ubrzati našu prvu godinu proizvodnje”.
