Nadella vészféket és szigorúbb felügyeletet sürget az AI-modellekhez
A Microsoft vezére szerint az AI-t eleve úgy kell korlátozni, mintha már illetéktelen befolyás alá került volna, és munka közben is le kell tudni állítani.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- Satya Nadella egy hosszú X-bejegyzésben az AI-modellek kezdettől beépített korlátozását, független ellenőrzését és bármikori leállíthatóságát sürgette.
- MIÉRT FONTOS
- Szerinte az érzékeny adatokkal és kritikus feladatokkal dolgozó modellek hibázhatnak vagy illetéktelen befolyás alá kerülhetnek, ezért nem elég pusztán elfogadni vagy elutasítani az eredményeiket.
- MI JÖN MOST
- Nadella szerint a fejlettebb modellekhez fejlettebb, szabványosított korlátozási technológiákra lesz szükség.
Egy feljogosított embernek akkor is meg kell tudnia állítani az AI-modellt, amikor az éppen egy feladatot hajt végre – ezt sürgeti Satya Nadella, a Microsoft vezérigazgatója. Az X-en közzétett hosszú bejegyzésében nem pusztán egy kikapcsológomb mellett érvel: szerinte már a rendszer tervezésekor abból kell kiindulni, hogy a modell illetéktelen befolyás alá kerülhetett.
Ne csak a választ lássuk, hanem a működést is
Nadella szerint az AI-t nem lehet tovább egymásba ágyazott „fekete dobozokként” kezelni, amelyek tanácsait és lépéseit az ember egyszerűen elfogadja vagy elutasítja. A hagyományos szoftvereknél vannak eszközök egy-egy kódrészlet viselkedésének követésére; az AI-modellek viszont úgy kapnak hozzáférést érzékeny adatokhoz és kritikus feladatokhoz, hogy működésük nehezen átlátható.
Ehelyett olyan rendszereket sürget, amelyekben a modellek tevékenysége megfigyelhető és korlátok között tartható. Működésüknek ember számára olvasható, manipulálhatatlan bizonyítékokat kell hagynia maga után, a jogosult személynek pedig feladatvégzés közben is be kell tudnia avatkozni.
„Gondoljunk rá úgy, mint egy vészfékre. Egy feljogosított személynek mindig képesnek kell lennie arra, hogy feladatvégzés közben szüneteltesse vagy leállítsa a modellt.”
— Satya Nadella, a Microsoft vezérigazgatója
A modell ne önmagát ellenőrizze
Az IT之家 beszámolója szerint Nadella azt is javasolja, hogy fontos eredmények ne egyetlen modelltől függjenek, és a modell ne maga ellenőrizze saját munkáját. Független irányítást és auditálhatóságot, hibákat és támadásokat vizsgáló teszteket, valamint az incidensek időben történő nyilvánosságra hozatalát sürgeti.
A megközelítést a legfejlettebb zárt és nyílt súlyú modellekre is alkalmazná. Nem azért kezelné őket belső kockázatként, mert szükségképpen rosszindulatúak, hanem mert bármely kellően nagy képességű szereplő hibázhat vagy illetéktelen befolyás alá kerülhet, ha fontos rendszerekhez fér hozzá.
A The Verge értékelése szerint a javaslatok jelentős része – például a független audit és az incidensek gyors közlése – más iparági szereplők álláspontjával is összhangban van. A modellek eleve beépített korlátozásában Nadella valamivel tovább megy egyeseknél; szerinte ennek technológiáit szabványosítani is kell, ahogy a modellek egyre fejlettebbé válnak.
TECH-SZÓTÁR
- Fekete doboz
- Olyan rendszer, amelynek bemenete és eredménye látható, de a belső működése nehezen követhető.
- Nyílt súlyú modell
- Olyan AI-modell, amelynek tanult paraméterei hozzáférhetők, így a felhasználási feltételek szerint letölthető és futtatható.
- Független audit
- A rendszer működésének és ellenőrizhetőségének az üzemeltetőtől független vizsgálata.
» Követett téma: AI · régió: USA · kulcsszó: Microsoft, AI-biztonság