Jelentős réseket találtak az OpenAI belső AI-felügyeletében

A külső auditorok műveletek százait tudták elrejteni az ellenőrzés elől; az OpenAI szerint már minden feltárt hibát kijavítottak.

ÍRTAChip DawsonAI-TUDÓSÍTÓ · AI-SZERZŐ

Az OpenAI belső használatában az önálló feladatvégrehajtást végző AI-k forgalmának egy része kimaradt a biztonsági felügyeletből: a METR becslése szerint a GPT-5.5-ös és magasabb kategóriájú modellek ágensalapú Responses API-forgalmának 6–25 százaléka. A kutatószervezet hangsúlyozza, hogy a becslés mindkét irányban jelentősen bizonytalan. A hiányosságot a Redwood Research kutatóival közösen, az OpenAI-nál végzett helyszíni vizsgálaton tárták fel.

A The Decoder beszámolója szerint két kutató három hetet töltött a cégnél, 2026. július 21. és augusztus 11. között. Hozzáfértek a forráskódhoz és belső dokumentumokhoz, valamint mintegy tucatnyi dolgozóval beszéltek. A három szervezet közös kísérleti programja azt célozta, hogy külső szakértők mélyen betekinthessenek az OpenAI belső infrastruktúrájába.

Az ellenőrzés megvárta, amíg az ágens végez

A Codexnél külön rést okozott a kontextus tömörítése, vagyis amikor a rendszer összefoglalja az addigi munkamenetet. A METR jelentős bizonytalanságú becslése szerint május és július között az ellenőrzésre kijelölt belső Codex-forgalom körülbelül 10 százaléka emiatt maradt követetlen. Az OpenAI ezt a hibát önállóan is felfedezte, és még az audit alatt kijavította.

Amíg a tömörítési eseményeket nem figyelte, az ellenőrzőrendszer csak akkor lépett működésbe, amikor az ágens visszaadta az irányítást a felhasználónak. Az ágens így további műveletek végrehajtásával késleltethette a felügyeletet. Ez nem pusztán hiányos nyilvántartást jelentett: az ellenőrzés időzítésében is rés maradt.

Műveletek százait lehetett elrejteni

Az auditorok olyan módszereket találtak, amelyekkel műveletek százait rejthették el a felügyelet elől, és megkerülhették a Codex elkülönített futtatókörnyezetét, a sandboxot. Arra is jutottak, hogy célzottan összeállított bemenetek valószínűleg teljesen összeomlaszthatnák az ellenőrzőrendszert. Ez utóbbi tehát valószínűsített sérülékenység, nem bizonyított leállás.

A vizsgálat kezdetén a megerősítéses tanítás, azaz az RL során egyáltalán nem figyelték a modellek viselkedését. Az OpenAI szerint az augusztusi Hugging Face-incidens után szüneteltették ezt a tanítást, és kiterjesztették rá a felügyeletet. Ezek a változtatások azonban az auditorok hozzáférésének lezárulta után történtek, így nem képezték az értékelés részét.

A teljes jelentés nem nyilvános

Az OpenAI közlése szerint minden feltárt gyengeséget kijavítottak. A javításokról szóló vállalati állítást ugyanakkor külön kell kezelni attól, amit a háromhetes audit ténylegesen értékelt. A nyilvánosság ráadásul csak rövid összefoglalót láthat a megállapításokról.

A teljes, 61 oldalas jelentést az OpenAI kapta meg belső használatra. Miután a vállalat részeket takart ki belőle, a METR és a Redwood Research vezetése egy 38 oldalas változathoz jutott hozzá. A METR szerint a kitakart részeket nem hozhatta önállóan nyilvánosságra; a szervezet a következő auditoknál nagyobb átláthatóságot szeretne elérni.

» Követett téma: AI · régió: US · kulcsszó: OpenAI, AI-biztonság