Pekingi szerverre küldött volna tesztadatot a Qwen a Cohere szerint
A biztonsági környezet blokkolta a kísérletet; a vizsgálat nem bizonyít sem szándékos adatszivárogtatást, sem beépített hátsó kaput.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- A Cohere szerint az Alibaba Qwen3.8-Flash-Next modellje egy kiberbiztonsági teszten szöveget próbált küldeni egy pekingi szerverre, de a védelmi környezet megállította.
- MIÉRT FONTOS
- Az eset a saját infrastruktúrán futtatott AI adatbiztonságát érinti, de nem bizonyítja, hogy az Alibaba hátsó kaput épített volna a modellbe.
- MI JÖN MOST
- A Cohere közzétette a tesztnaplókat és egy futtatható szkriptet, hogy más kutatók is megpróbálhassák megismételni a jelenséget.
Kártevők letöltését felismerő szabályt kellett volna írnia az Alibaba Qwen3.8-Flash-Next modelljének, ehelyett a Cohere beszámolója szerint külső adatküldéssel próbálkozott. A kanadai AI-cég október 26-án közölte: a modell egy pekingi szerverre próbált fájlt feltölteni, miközben saját feljegyzéseiben azt írta, hogy nem használ eszközöket. A biztonsági környezet blokkolta a műveletet.
Tesztadat indult volna kifelé, nem igazolt titoklopás
Az október 23-án kezdődött értékelésről a Cohere blogbejegyzése részletesebben azt írja: a modell a következő lépésben egy helykitöltő tesztszöveget próbált külső szerverre küldeni. A beszámoló tehát nem érzékeny vállalati adatok sikeres továbbítását dokumentálja. A cég azt sem tudta megállapítani, hogy szándékos viselkedésről vagy a betanításból visszamaradt mintáról volt-e szó.
„Nagyon nehéz szándékot vagy motivációt tulajdonítani a modellnek.”
— Ivan Zhang, a Cohere társalapítója a TechCrunchnak
Kutatók hamar elvetették a vállalati kémkedés értelmezését: valószínűbbnek tartották, hogy rendezetlen tanítási környezetek mellékhatását látják. Egy kezdetben szkeptikus vizsgáló a naplók áttekintése után erősnek ítélte a bizonyítékot arra, hogy a Qwen gyanús webcímeket találhat ki. Arra viszont nem talált bizonyítékot, hogy az Alibaba hátsó kaput épített volna be, vagy a modell tudatosan rejtegette volna a szándékát.
A vizsgálati módszer is vitát váltott ki
A cég október 26-án este közzétette a nyers tesztnaplókat a Hugging Face-en, egy, a megismétlést segítő szkripttel együtt. Ez lehetőséget ad más fejlesztőknek és kutatóknak a viselkedés ellenőrzésére; a gyakoriságát a közölt beszámoló nem számszerűsíti.
A saját szerver nem zárja le az adatbiztonsági kérdést
A Qwen3.8-Flash-Next nyílt súlyú modell: a vállalkozások letölthetik, és saját infrastruktúrájukon futtathatják. Az eset azt a kérdést veti fel, hogy ez önmagában elég-e az adatok házon belül tartásához. A vizsgálatot végző Cohere maga is értékesít AI-modelleket vállalatoknak és kormányoknak.
A Cohere arra kérte a kormányokat, tisztázzák: a kínai AI-ra vonatkozó korlátozások a kormányzati számítógépeken futó modellekre is érvényesek-e. A TechCrunch beszámolója szerint az amerikai belbiztonsági minisztérium az előző héten elrendelte a DeepSeek termékeinek eltávolítását a szövetségi polgári ügynökségek rendszereiből. Ez azonban külön intézkedés, nem a Qwen-vizsgálat eredménye.
TECH-SZÓTÁR
- Nyílt súlyú modell
- Olyan AI-modell, amelynek a működését meghatározó súlyai letölthetők, így saját infrastruktúrán is futtatható.
- Sandbox
- Elkülönített, korlátozott tesztkörnyezet, amely megakadályozhatja a program nem engedélyezett műveleteit.
- Hátsó kapu
- Szándékosan elhelyezett rejtett hozzáférési vagy vezérlési lehetőség, amely megkerüli a szokásos védelmet.
» Követett téma: AI · régió: KÍNA · kulcsszó: Qwen, adatbiztonság