Önmagukat terjesztő AI-férgekre figyelmeztet az Anthropic
A kis modellek még nem képesek végigvinni az önmásolást, de a kutatók szerint az internetre kötött eszközökön alkalmazkodó kártevők jelenhetnek meg.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- Az Anthropic kutatói azt vizsgálták, hogyan terjedhetnének kis AI-modellek önmagukat másoló kártevőként az internetre kapcsolt eszközökön.
- MIÉRT FONTOS
- Szerintük ezek a férgek célpontonként alakíthatnák a támadásaikat, de a tesztelt kis modellek egyike sem tudta még önállóan végigvinni a teljes folyamatot.
Tizenöt Android TV-box között osztották szét a Gemma4-26B-A4B modellt, amely így is mindössze másodpercenként 0,39 tokent, vagyis szövegegységet állított elő. Az Anthropic kísérlete jól mutatja az önmagukat terjesztő „AI-férgek” egyik jelenlegi korlátját: a modell működtetése a megszerzett eszközökön nehézkes. A kutatók ugyanakkor arra figyelmeztetnek, hogy a kis modellek egyre ügyesebben oldják meg önállóan a terjedéshez szükséges részfeladatokat.
A kártevő magával vinné a modellt
Az elképzelés a hagyományos, internetre kapcsolt eszközökön terjedő férgekhez hasonlít. A korábbi Mirai például túlterheléses támadásokhoz használt kódot telepített a megfertőzött eszközökre. Az Anthropic által vizsgált változat viszont az AI-modell súlyait — a működését meghatározó számszerű paramétereket — is magával vinné, vagy újra letöltené őket egy nyilvános gyűjtőhelyről.
A modell ezután közvetlenül a feltört hardveren futna. Az Anthropic szerint ettől a Mirainál jóval nagyobb fenyegetést jelenthetne: a sérülékenységeket kihasználó támadási módszereket és a végrehajtandó kódot menet közben az adott célponthoz igazíthatná. Ez azonban lehetséges veszély, nem a kis modellekkel már igazolt, teljes támadási képesség.
Négy egymásra épülő lépésen múlik a terjedés
A kutatók „kis, modellsúly-alapú replikátoroknak” nevezik ezeket az önálló férgeket. A folyamatuk célpontkeresésből, a kódfuttatás lehetőségének megszerzéséből, a modell működtetésének beállításából, majd újabb eszközökre való továbbterjedésből áll. Nem elég egy-egy részfeladatot megoldani: a teljes láncnak működnie kell.
„Ezek a lépések sorban egymásra épülnek, és a hibákból nehéz talpra állni.”
— Anthropic
Az Anthropic szerint a replikátorok a korábbi próbálkozások tapasztalatait is továbbadhatnák. Utasításokat, kódot és feljegyzéseket hagyhatnának a későbbi példányoknak arról, mely lépések nem működtek egy adott eszközön. A modell helyszíni működtetésének beállítása ugyanakkor a ciklus legkevésbé kutatott, és valószínűleg legnehezebb szakasza.
A kis modellek még nem jutottak végig
A beállítási idők is jelzik az akadály méretét: a nem optimalizált Gemma4-26B-A4B teljes modellfuttatásának előkészítése 71–150 órát, a Qwen3.5-9B-é 29–51 órát vett igénybe. A kutatásban tesztelt kis modellek egyike sem volt még képes a teljes önmásolási folyamatra. A nagy GLM-5.2 modellről viszont a kutatók azt állítják, hogy a jelek szerint megbízhatóan képes önmaga másolására; ezt érdemes külön kezelni a kis modellek eredményeitől.
TECH-SZÓTÁR
- IoT
- Az internetre kapcsolódó fizikai eszközök gyűjtőneve.
- Modellsúlyok
- Az AI-modell működését meghatározó számszerű paraméterek.
- Inferencia
- A már betanított modell futtatása egy bemenetre adott válasz előállításához.
- Token
- A modell által feldolgozott szövegegység, amely lehet szó, szórész vagy írásjel.
» Követett téma: AI · régió: USA · kulcsszó: önmásolás, IoT-biztonság