Na samitu India AI Impact u Nju Delhiju, AI kompanija G42 iz Abu Dabija najavila je saradnju sa američkim proizvođačem čipova Cerebras radi instalacije superračunara snage 8 eksaflopsa u Indiji. Projekat, interno nazvan "Condor Galaxy", nalaziće se u namenskom data centru koji ispunjava indijske propise o rezidentnosti podataka, bezbednosti i regulativi.

Zašto je 8 eksaflopsa važno

Jedan eksaflops označava kvintilion operacija u pokretnom zarezu u sekundi. Sa 8 eksaflopsa, ovaj sistem može da obučava masivne jezičke modele koji bi inače zahtevali desetine manjih klastera. G42-ov model "Nanda 87B" – višejezični (hindu-engleski) LLM zasnovan na Meta Llama 3.1 70B – pokazuje tip AI rešenja koja profitiraju od ovakve sirove snage.

CEO G42 India, Manu Jain, navodi: „Suverena AI infrastruktura postaje ključna za nacionalnu konkurentnost.“ Zadržavanjem procesorske snage i podataka unutar granica Indije, ovo partnerstvo teži razvoju izvornog AI ekosistema u kojem se istraživanje, inovacije i komercijalna primena odvijaju pod jedinstvenim pravnim okvirom.

Akteri i prednosti za ekosistem

Projekat okuplja nekoliko ključnih aktera:

• Univerzitet za veštačku inteligenciju Mohamed bin Zayed (MBZUAI), koji je učestvovao u razvoju modela Nanda 87B.
• Indijski Centar za razvoj naprednog računarstva (C-DAC), državno telo koje će pomagati u upravljanju superračunarom pod lokalnim nadzorom.
• Univerziteti, vladine agencije i mala i srednja preduzeća koja će dobiti lokalni pristup snazi potrebnoj za obuku i inferenciju veštačke inteligencije.

Ove grupe će dobiti brže cikluse iteracije modela, manju zavisnost od stranih cloud usluga i jasan put ka usklađivanju sa indijskim propisima o suverenitetu podataka.

Kontekst: Uspon suverene AI infrastrukture

Potez kompanije G42 prati širi trend izgradnje suverenih AI kapaciteta širom potkontinenta. Na istom samitu, indijski konglomerat Adani obećao je 100 milijardi dolara za proširenje kapaciteta data centara do 5 GW do 2035. godine, dok je Reliance predstavio sedmogodišnji plan vredan 110 milijardi dolara za objekte gigavatnog kapaciteta.

Američki tehnološki giganti već su uložili oko 70 milijardi dolara u AI i cloud infrastrukturu u Indiji, a OpenAI se udružio sa Tata Grupom na projektu „Stargate“ koji cilja na 100 MW procesorske snage, uz mogućnost skaliranja na 1 GW. Implementacija G42 i Cerebras-a dodaje redak sloj lokalnog, suverenog superkompjutinga ovom rastućem polju.

Tehnologija u pozadini

Cerebras isporučuje svoj Wafer-Scale Engine (WSE-3) – čip veličine silicijumskog vafera koji objedinjuje procesorsku snagu, memoriju i mrežnu strukturu. U saopštenju iz marta 2024. godine, Cerebras je naveo da treća generacija WSE može dostići 256 eksaflopsa povezivanjem desetina čvorova; postavka od 8 eksaflopsa za Indiju sastoji se od 64 CS-3 sistema organizovanih u "Condor Galaxy" arhitekturu.

Uz G42 softver optimizovan za AI i lokalni inženjering data centara, sistem teži visokom protoku podataka pri obuci bez ogromnog prostornog otiska koji zahtevaju tipični klasteri eksaskale nivoa.

Potencijalni rizici i otvorena pitanja

Iako tvrdnje o performansama zvuče impresivno, nekoliko izazova ostaje:

• Potrošnja energije: Održivo napajanje mašine od 8 eksaflopsa biće veliki izazov za indijsku mrežu obnovljivih izvora energije koja je još uvek u fazi ekspanzije.
• Stručni kadar: Održavanje i inoviranje ovakvog hardvera zahteva veliku bazu specijalizovanih inženjera – kadar koji Indija širi, ali još uvek nije u potpunosti izgradila.
• Razvoj regulative: Indijski okvir za suverenitet podataka se još uvek formira; pravila o usklađenosti će verovatno morati da se prilagođavaju kako sistem bude rastao.

G42 i Cerebras su obećali blisku saradnju sa indijskim regulatorima, ali će stvarna primena na terenu staviti ta obećanja na probu.