Külső kutatókat enged belső rendszereihez az Anthropic
A METR hat kutatója dolgozói szintű hozzáférést kap, és a cég jóváhagyása nélkül publikálhatja a kockázatokról szóló értékeléseit.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- Az Anthropic dolgozói szintű hozzáférést ad a METR nonprofit szervezet hat kutatójának modelljei, biztonsági gyakorlata és kockázatkezelése vizsgálatához.
- MIÉRT FONTOS
- A külső ellenőrök a belső kockázatértékelő csapatokéhoz hasonló eszközökkel dolgozhatnak, és az Anthropic nem tilthatja meg jelentéseik közzétételét.
- MI JÖN MOST
- A METR saját értékeléseket tesz majd közzé az Anthropic kockázatairól, incidenseiről és működési gyakorlatáról.
Céges laptopot, irodai helyet és a belső kockázatértékelők által használtakhoz nagyjából hasonló eszközöket kap az Anthropicnál hat külső kutató. A vállalat október 15-i, csütörtöki bejelentése szerint a METR munkatársai dolgozói szintű hozzáféréssel vizsgálhatják a modelleket, a biztonsági gyakorlatot és a kockázatkezelést. Saját értékeléseik megjelenését az Anthropic nem vétózhatja meg.
Nem csak kívülről tesztelik a modelleket
A METR az élvonalbeli AI-modelleket tesztelő nonprofit szervezet. Kutatói most nem pusztán egy-egy szűk vizsgálathoz kapnak hozzáférést: az Anthropic saját kockázatértékelő csapataiéhoz közelítő munkafeltételek között dolgozhatnak. A cég célja, hogy csökkenjen a különbség aközött, amit egy külső ellenőr és maga a fejlesztő tud a rendszerekről.
Az Anthropic szerint augusztus vége óta hetente-kéthetente kerülnek nyilvánosságra olyan incidensek, amelyekben AI-ágensek — feladatokat önállóan végrehajtó rendszerek — eltértek az utasításaiktól. Ebben a helyzetben nyitja meg belső működését a külső vizsgálók előtt. A megoldást ahhoz hasonlítja, amikor a felügyeleti szervek állandó ellenőröket helyeznek el a legnagyobb bankoknál.
„Nyilvánosan elszámoltathatók akarunk lenni a döntéseinkért.”
— Anthropic, vállalati blogbejegyzés
Nincs publikálási vétó, de lehet kitakarás
A METR saját értékeléseket közölhet a vállalat kockázatairól, incidenseiről és gyakorlatáról, előzetes vállalati jóváhagyás nélkül. Ez azonban nem jelent korlátlan nyilvánosságot: az Anthropic szűken meghatározott, előre rögzített kategóriákban kérheti információk kitakarását. Ilyenek az ügyféladatok, az ügyvédi titokkal védett információk és a modellek felépítésére vonatkozó részletek.
A hozzáférés és a publikálási jog tehát két külön kérdés. A kutatók belülről vizsgálódhatnak, de a nyilvános jelentésekből bizonyos érzékeny részletek kimaradhatnak; a teljes értékelés megjelentetését ugyanakkor a vállalat közlése szerint nem akadályozhatja meg.
Három szintre osztják a külső ellenőröket
Az Anthropic háromszintű értékelői rendszert épít. Az alsó szinten például a biológiai biztonsággal foglalkozó nonprofit SecureBio végez szűk körű vizsgálatokat, amelyek publikálásához vállalati engedély kell. A középső szint több információt és jóváhagyás nélküli közlési jogot ad. A legfelső szinten egyelőre egyedül a METR áll, dolgozói szintű hozzáféréssel.
A bejelentéssel az Anthropic Dario Amodei vezérigazgató szeptemberi esszéjének ígéretét váltja valóra: külső értékelőket von be az AI-labor belső működésébe. A TechCrunch szerint az OpenAI gyorsan hasonló vállalást tett. A lap arról is beszámolt, hogy az Anthropic, az OpenAI, a Google, a Meta, az Nvidia és az xAI a Fehér Házban létrejött megállapodásban kötelezte el magát a független vizsgálatok mellett.
TECH-SZÓTÁR
- AI-ágens
- Olyan AI-rendszer, amely egy kapott cél érdekében önállóan hajt végre feladatokat.
- Modellarchitektúra
- Az AI-modell belső felépítése, vagyis az alkotóelemek elrendezése és kapcsolódása.
» Követett téma: AI · régió: USA · kulcsszó: független biztonsági vizsgálat