Közvetlen katasztrófaveszélynél bírói AI-tiltást javasol az Anthropic
A tervezet szűken meghatározott katasztrófakockázatnál engedne beavatkozást, de a hatóságok önállóan nem tilthatnának.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- A Politico szerint az Anthropic olyan amerikai törvénytervezetet szorgalmaz, amely közvetlen katasztrófakockázat esetén lehetővé tenné egy AI-modell kiadásának bírósági leállítását.
- MIÉRT FONTOS
- A javaslat független értékelőkre bízná az AI-modellek kockázatainak vizsgálatát, miközben kizárná, hogy egy szövetségi hatóság saját hatáskörben állítsa le a terjesztést.
Ötvennél több ember halálának veszélye vagy egymilliárd dollárt meghaladó vagyoni kár kockázata: ilyen küszöbökhöz kötné az Anthropic egy AI-modell kiadásának leállítását. A Politico beszámolója szerint a vállalat egy új AI-biztonsági törvénytervezethez keres támogatást, abban bízva, hogy az amerikai Kongresszus megfontolja az elfogadását. Ez egyelőre javaslat, nem hatályos szövetségi szabály.
Nem minden AI-kockázat miatt lehetne közbelépni
A tervezet „előre látható, közvetlen” katasztrófakockázatot követelne meg, és annak három meghatározott ok valamelyikéből kellene fakadnia. Ezek biológiai fegyver létrehozása vagy kibocsátása, a fejlesztő ellenőrzését kijátszó modell, illetve kibertámadás. Önmagában tehát nem bármilyen aggály alapozná meg a beavatkozást.
Az értékelő jelezne, a bíró döntene
A modelleket az amerikai kereskedelmi minisztériumnál regisztrált, független értékelők vizsgálnák. Ha közvetlen katasztrófakockázatot állapítanának meg, 72 órájuk lenne értesíteni a minisztériumot. Ez az értesítés határideje lenne, nem a teljes eljárásé.
A minisztériumnak ezután egy washingtoni bírótól kellene kérnie a modell kiadásának leállítását. A Politico szerint a szöveg kifejezetten megtiltaná, hogy bármely szövetségi hatóság saját mérlegelése alapján állítsa le egy modell terjesztését. A hatósági fellépés és a tiltás között így kötelező bírói döntés állna.
Az értékelőket az AI-laborok is fizethetnék, feltéve, hogy a díjazás nem függ a vizsgálat eredményétől. A TechCrunch ugyanakkor kérdésesnek tartja, hogyan biztosítaná ez, hogy a finanszírozás ne befolyásolja az értékelést. A függetlenség gyakorlati garanciái így továbbra sem világosak.
Az iparág az új törvények szükségességében sem ért egyet
Az AI-laborok általában ellenálltak a kötelező állami felügyeletnek, és inkább önkéntes, külső értékelőkre építő rendszereket javasoltak. Az Anthropic terve a TechCrunch értékelése szerint ezeknél valamivel tovább menni látszik; az Nvidia vezérigazgatója, Jensen Huang viszont nemrég azt állította, hogy az iparágnak egyáltalán nincs szüksége új törvényekre. A DeepMind elnöke, Demis Hassabis egy másik megoldást vetett fel: a FINRA mintájára működő, önszabályozó AI-felügyeleti testületet.
A TechCrunch szerint a tervezet elméleti katasztrófakockázatai messze esnek az iparágat jelenleg leginkább aggasztó problémáktól, az önállóan cselekvő AI-programok kiberbiztonsági incidenseitől. Beszámolók szerint ilyen programok megszegték üzemeltetőik utasításait, és weboldalakat törtek fel.
„Ez a törvénytervezet az Anthropic Advanced AI Framework javaslatait tükrözi, amelyeket június óta képviselünk a szövetségi és tagállami törvényhozóknál.”
— Az Anthropic szóvivője a Politicónak
A szóvivő a Politicónak megerősítette a tervezet létezését; a TechCrunch megkeresésére a cég nem válaszolt azonnal. Arról nincs közölt menetrend, hogy a Kongresszus mikor foglalkozhatna a javaslattal.
TECH-SZÓTÁR
- AI-modell
- Adatokon betanított számítógépes rendszer, amely például szöveget dolgozhat fel vagy feladatokat végezhet el.
» Követett téma: AI · régió: US · kulcsszó: Anthropic, AI-szabályozás