Újabb Nvidia-chipeket keres a Moonshot a Kimi K4 betanításához
A Kimi K3 indulásakor már szűkös volt a számítási kapacitás, miközben a Fehér Ház az amerikai exportkorlátozások megsértésével vádolja a céget.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- A The Information értesülése szerint a kínai Moonshot AI további Nvidia Blackwell-chipekhez keres hozzáférést a következő, Kimi K4 nevű modellje betanításához.
- MIÉRT FONTOS
- A beszámoló egyszerre mutat rá a cég számításikapacitás-hiányára és arra a vitára, hogy az amerikai exportkorlátozások ellenére hogyan jut fejlett Nvidia-technológiához.
A Moonshot AI már a Kimi K4 betanításához keres további Nvidia Blackwell-gyorsítókártyákat, miközben az előző modell indulásakor is szűkössé vált a rendelkezésére álló kapacitás. A bennfentesekre hivatkozó The Information-beszámoló szerint a kínai AI-cég a nemrég bemutatott Kimi K3-nál lényegesen nagyobb utódot tervez. Az értesülés nagyjából egy héttel azután jelent meg, hogy a Fehér Ház egyik vezető tisztviselője az amerikai exportkorlátozások megsértésével vádolta meg a vállalatot. Az ismertetett beszámolóban sem a Moonshot, sem az Nvidia nem erősítette meg az állításokat.
Legalább két felhőszolgáltató kellett a K3 betanításához
A The Information szerint a 2,8 billió paraméteres Kimi K3-at Nvidia-chipekkel, köztük fejlett Blackwell-gyorsítókkal tanították be az amerikai exportkorlátozások ellenére. A paraméterek a modell tanulása során beállított belső értékei; számuk a modell méretét jelzi, önmagában nem a válaszainak minőségét. A lap szerint a Moonshot legalább két kínai felhőszolgáltató számítási kapacitását kapcsolta össze, mert egyetlen beszállító sem tudott elegendő Blackwell-chipet biztosítani.
A futtatáshoz is kevés lett a kapacitás
A betanítás mellett a kész modell kiszolgálása is jelentős erőforrást igényel. A beszámoló szerint a Moonshot a Kimi K3 futtatásához erősen támaszkodik az Nvidia H20 chipjeire, a modellt saját infrastruktúrán üzemeltető ügyfeleknek pedig legalább 64 szerverchip összekapcsolását ajánlja. A megugró kereslet miatt a vállalat a K3 indulását követő 48 órán belül leállította az új előfizetések fogadását.
A chipválasztást Peking álláspontja is nehezíti: a lap szerint a kínai vezetés nem javasolja a helyi cégeknek az Nvidia H20 használatát, helyette a hazai tervezésű alternatívákat részesíti előnyben. A kínai chipekre épülő nagy AI-szerverek szállítására ugyanakkor a beszámoló alapján akár hat hónapot is várni kell.
Washington tiltott hozzáférést és modellmásolást állít
Az amerikai exportkorlátozások célja, hogy megakadályozzák a kínai cégek hozzáférését a fejlett Nvidia-technológiához. Michael Kratsios, a Fehér Ház tudomány- és technológiapolitikai hivatalának igazgatója az X-en azt állította, hogy a Moonshot Nvidia GB300-zal felszerelt szervereket szerzett, és thaiföldi GB300-rendszerekhez is hozzáfért az exportkorlátozások ellenére. Emellett azzal vádolta a céget, hogy az Anthropic modelljeinek nagy léptékű desztillációjával – azok válaszait tanításra használva – fejlesztette ki a Kimi K3-at.
„Elfogadhatatlan az amerikai kutatás aláásását és védett amerikai technológia ellopását célzó, nagy léptékű, titkos ipari desztilláció.”
— Michael Kratsios
Kratsios ugyanakkor jelezte: az Egyesült Államok támogatja a kisebb, hatékonyabb modellek létrehozását szolgáló, jogszerű desztillációt. A Stocktwits szerint az Nvidia részvénye kedden délelőtt 0,1 százalékkal emelkedett.
TECH-SZÓTÁR
- Gyorsítókártya, GPU
- Sok számítást párhuzamosan végző hardver, amelyet AI-modellek betanításához és futtatásához is használnak.
- Desztilláció
- Olyan tanítási módszer, amelyben egy modell válaszait egy másik modell tanítására használják.
» Követett téma: AI · régió: KÍNA · kulcsszó: Nvidia, Kimi, exportkorlátozások