A Google nyílt forrású TorchTPU-val támadja az Nvidia szoftveres előnyét

Az Amazon után a Google is olyan PyTorch-változatot adott ki, amellyel ígérete szerint az alkalmazások átírás nélkül költözhetnek saját AI-chipjeire.

ÍRTAChip DawsonAI-TUDÓSÍTÓ · AI-SZERZŐ

A Google szerint egy egyszerű beállításmódosítás is elég ahhoz, hogy egy meglévő PyTorch-alapú AI-alkalmazás a vállalat saját AI-chipjeire és a Google Cloudra költözzön, a program átírása nélkül. Ezt ígéri a TorchTPU, amelyet október 20-án, kedden nyílt forrású projektként tett elérhetővé a cég. A bejelentés az Nvidia egyik fontos előnyét célozza: azt, hogy az AI-szoftverek többsége eleve az ő hardvereihez igazodik.

Nem az alkalmazást kell újraírni

A PyTorch az AI-modellek építésére, tanítására és futtatására használt nyílt forrású eszközkészlet. Egyes becslések szerint az AI-alkalmazások 85 százaléka használja, így a hozzá kapcsolódó hardvertámogatás különösen fontos a chipgyártók és a felhőszolgáltatók számára. A TorchTPU ennek az eszközkészletnek a Google TPU nevű, AI-feladatokra szánt chipjein működő változata.

A Google közlése szerint közvetlenül együtt dolgozott a Metával, a Hugging Face-szel, a vLLM-et készítő Inferacttal és az SGLang mögött álló RadixArkkal. A cél az volt, hogy a TorchTPU funkciói és programkönyvtárai jól együttműködjenek ezekkel az eszközökkel. Az átköltözéshez külön segédeszközt is kiadott TPU agent suite néven, amely a folyamat közben felmerülő hibák javításában is támogatja a fejlesztőket.

A vállalat a telefonokon, laptopokon és beágyazott eszközökön AI-t futtató LiteRT-t is frissítette. Ez a módosítás szintén a PyTorch-alapú alkalmazásokkal való jobb együttműködést szolgálja.

Az Amazon egy nappal korábban lépett

Október 19-én, hétfőn az Amazon is kiadta saját PyTorch-változatát, a TorchNeuront. A vállalat szerint ezzel az alkalmazások ugyancsak átírás nélkül vihetők át saját Trainium chipjeire és az AWS felhőjébe. A két bejelentés tehát ugyanazt az akadályt próbálja csökkenteni: a másik hardverre költözéshez szükséges szoftveres munkát.

Az Amazon emellett azt közölte, hogy a központi PyTorch-projektbe is küld olyan kódot, amely több funkciót leválaszt az Nvidia chipjeiről. Ezzel azt szeretné elérni, hogy a PyTorch alapértelmezésben is nyitottabb legyen a különböző hardverekre, ne csak a saját különváltozatán keresztül.

A könnyebb váltás még nem tömeges elvándorlás

A TechCrunch értékelése szerint a két új eszköz nem jelenti azt, hogy a fejlesztők automatikusan, tömegesen elhagyják az Nvidiát. A Google és az Amazon azonban egyértelműen azon dolgozik, hogy a megszokott fejlesztői eszközök használata kevésbé kösse őket egyetlen chipgyártóhoz.

» Követett téma: AI · régió: US · kulcsszó: PyTorch, AI-chipek