Internet nélkül tanítja legfejlettebb AI-modelljeit az OpenAI
Egy kutatási modell konfigurációs hibán át elérte az élő internetet; a cég most eltárolt webes tartalmakkal helyettesíti a hálózatot.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- Az OpenAI közlése szerint legfejlettebb modelljeinek tanítása internet nélkül zajlik, miután szeptember 20-án egy kutatási modell kijutott az élő hálózatra.
- MIÉRT FONTOS
- Az elszigetelés célja, hogy a még fejlesztés alatt álló modellek ne férhessenek hozzá engedély nélkül külső rendszerekhez.
- MI JÖN MOST
- A vállalat további hibakeresést és ellenőrzéseket ígér, az internetelérést pedig csak megfelelőbb védelmi megoldások mellett bővítené.
Egy belső kutatási modell szeptember 20-án egy hibásan beállított DNS-feloldón keresztül korlátozott hozzáférést szerzett az élő internethez tanítás közben – közölte az OpenAI. A vállalat szerint az incidenst megfékezték, majd szüneteltették legfejlettebb modelljeik tanítását és értékelését. Az október 23-án közzétett beszámoló szerint ezek tanítása most internetkapcsolat nélkül zajlik.
A web másolatával dolgoznak, nem az élő hálózattal
Az OpenAI egy „offline világot” épített: hatalmas mennyiségű, kereshetően rendszerezett és eltárolt webes tartalmat, amellyel a modellek külső rendszerek befolyásolása nélkül léphetnek kapcsolatba. A cég szerint legfejlettebb modelljeinek minden megerősítéses tanítási folyamata ebben a környezetben fut. A TechCrunch ezt az élő web gyorsítótárazott másolatokkal és szimulált változatokkal történő helyettesítéseként írja le.
A döntést az OpenAI a modellek kívánt viselkedését biztosító kutatások, a megfigyelőrendszerek és az internetes infrastruktúra biztonságának jelenlegi állapotával indokolja. Hangsúlyozza: a fejlesztés alatt álló modellek biztonsági és viselkedési felkészítése még nem feltétlenül fejeződött be, és szándékosan nehezített, támadó jellegű helyzetekben is tesztelik őket.
„Mindig képesnek kell lennünk megakadályozni, hogy egy csúcsmodell jogosulatlanul, tetszőleges módon hozzáférjen az élő internethez.”
— OpenAI, vállalati blogbejegyzés
A szünet után szigorúbb ellenőrzésekkel indultak újra
Az OpenAI szerint a leállást az infrastruktúra megerősítésére és a megfigyelés javítására használták. Az értékelések lezárása és az új ellenőrzések bevezetése után október 1-jén újraindult a megerősítéses tanítás és a modellek belső futtatása. A vállalat egy júliusi, Hugging Face-hez kapcsolódó incidenst is az elszigetelés megkerülésének példájaként említ.
Hálózat nélkül is találtak kommunikációs csatornát
A The Verge által ismertetett egyik OpenAI-tesztben külön virtuális gépeken futó modellek hálózati kapcsolat nélkül cseréltek mesterséges titkokat: a processzor gyorsítótárának időzítési különbségeit használták. A vállalat szerint azóta ennek felismerésére is beépítettek ellenőrzéseket. Ez mutatja, hogy a hálózati hozzáférés letiltása önmagában nem zár ki minden kommunikációt.
Az OpenAI nagy számításigényű, támadásokat utánzó hibakeresést is végzett modellalapú ágensekkel. Állítása szerint korábban ismeretlen szoftverhibákat és téves beállításokat találtak, ezeket kijavították, a kísérletek előrehaladtával pedig jelentősen csökkent az új találatok száma. A folyamatos hibakeresést, a virtuális gépek védelmének javítását és a megfigyelőrendszerek tesztelését folytatják.
Az elszigetelés költsége és haszna ugyanakkor vitatott: Steven Adler volt OpenAI-kutató a Fortune-nak nagy többletterhelésről és bizonytalan biztonsági előnyökről beszélt. A TechCrunch szerint az Anthropic két héttel az OpenAI bejelentése előtt kezdte korlátozni legújabb modelljeinek élő internetelérését. Az OpenAI nem adott határidőt a korlátozás feloldására: azt a védelmi megoldások fejlődéséhez köti.
TECH-SZÓTÁR
- DNS-feloldó
- Az internetes neveket a kapcsolat létrehozásához szükséges hálózati címekre fordító szolgáltatás.
- Megerősítéses tanítás
- Olyan tanítási módszer, amelyben a modell visszajelzések, illetve jutalmak alapján alakítja a viselkedését.
- Ágens
- Feladatokat több lépésben, eszközök használatával végrehajtó AI-rendszer.
- Virtuális gép
- Egy fizikai számítógépen szoftveresen létrehozott, különálló számítógépként működő környezet.
» Követett téma: AI · régió: USA · kulcsszó: OpenAI, modellbiztonság