Vállalati és helyben futó AI-ágensekhez adott ki modelleket az Nvidia
A Nemotron 3.5 család a vállalati automatizálástól az AI PC-kig terjed; a sebességelőnyt egyelőre a cég saját állításai támasztják alá.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- Az Nvidia csütörtökön bemutatta a nyílt súlyú Nemotron 3.5 modelleket vállalati és helyben futó AI-ágensekhez.
- MIÉRT FONTOS
- A saját infrastruktúrán AI-t működtető cégeknek és fejlesztőknek nagyvállalati, illetve PC-re szánt változatokat kínál, eltérő feladatokra.
- MI JÖN MOST
- A Super VL és a Bolt 74B-A9B már elérhető, a kisebb Bolt E4B az Nvidia szerint még ebben a hónapban érkezik.
Egy 120 milliárd paraméteres vállalati modellel és két, helyi futtatásra szánt Bolt-változattal bővíti Nemotron kínálatát az Nvidia. A csütörtökön bemutatott, folyamatosan működő AI-ágensekhez tervezett Nemotron 3.5 család nyílt súlyú: a modellek tanult beállításai letölthetők, így saját infrastruktúrán is futtathatók. Az ágens itt olyan AI-rendszert jelent, amely egy feladat elvégzéséhez több lépést hajthat végre és eszközöket is használhat.
A Super VL kevesebb paraméterrel célozza a vállalati feladatokat
A Nemotron 3.5 Super VL 120 milliárd paraméteres modell, elsősorban vállalati ágensekhez. A paraméterszám a modell méretét jelzi, önmagában azonban nem mondja meg, mennyire pontosan old meg egy feladatot. Az Nvidia szerint a Super VL kevesebb paramétert használ a Nemotron 3 Ultránál, mégis hasonló pontosságra képes az utasítások követésében és az eszközhasználatban.
A cég a Super VL használói között sorolja fel a Skydance, az EY, a Ramp, a Crowdstrike, a Perplexity és a Salesforce vállalatokat. A Nemotron család már eddig is lefedte a többféle bemenettel dolgozó AI-t, a következtetést, a programozást, a matematikát és a vállalati automatizálást. Az új modellek háttere, hogy a vállalatok egyre inkább saját adatközpontjaikban szeretnének nyílt modelleket működtetni.
A két Bolt a helyben futó ágenseket szolgálja
A Nemotron 3.5 Bolt 74B-A9B 24GB nevű modell 74 milliárd paraméteres, és olyan helyi ágensfeladatokra készült, mint a többlépéses következtetés, az eszközhívás és a webböngészés. A legkisebb változat, a Bolt E4B célterülete a társalgó ágensek működtetése.
A két Bolt-modellt az Nvidia RTX Spark chippel szerelt AI PC-ken, illetve DGX Sparkot futtató munkaállomásokon történő helyi használatra szánják. Az AI PC-k többek között a Microsoft és a Dell közreműködésével kerülnek piacra. A Super VL és a Bolt 74B-A9B már elérhető; a Bolt E4B kiadását a cég még erre a hónapra ígéri.
A sebességelőny egyelőre az Nvidia állítása
Az Nvidia szerint a Super VL gyorsabban végez bizonyos ágensfeladatokkal az Anthropic és az OpenAI összehasonlításban felsorolt modelljeinél: az Opus 5, a GPT 6.1 Sol, a Luna és az Astra szerepel a listán. Az állítás kifejezetten olyan esetekre vonatkozik, amikor a Super VL-t utólag az adott ágensfeladatokra tanították tovább. A TechCrunch beszámolója nem közöl független megerősítést erről az előnyről.
TECH-SZÓTÁR
- Paraméter
- A modell tanítás során kialakított belső számszerű beállítása, amely befolyásolja a működését.
- Eszközhívás
- Amikor az AI egy külső programot vagy szolgáltatást vesz igénybe a feladat megoldásához.
- Utólagos tanítás
- A már betanított modell további tanítása meghatározott feladatokra vagy viselkedésre.
» Követett téma: AI · régió: USA · kulcsszó: Nvidia, helyben futó ágensek