Külön csapatot állít az AI biztonságára a ByteDance, tíz kutatót keres
A Seed a vezető modellfejlesztő csapatokéhoz mérhető erőforrásokat ígér a biztonsági kutatóknak, és független tesztelést is bevonna.
▶ 30 MÁSODPERCBEN
- MI TÖRTÉNT
- A ByteDance AI-kutatóegysége, a Seed önálló biztonsági csapatot hozott létre, és világszerte tíz kutatót keres pekingi, sanghaji és San José-i állásokra.
- MIÉRT FONTOS
- Az egyre önállóbb AI-rendszerek biztonsága a Seed szerint már nem pusztán kockázatkezelési kérdés, hanem széles körű alkalmazásuk feltétele.
- MI JÖN MOST
- A Seed független tesztelést, valamint egyetemekkel és kutatóintézetekkel való együttműködést tervez.
Tíz kutatót toboroz világszerte a ByteDance AI-kutatóegysége, a Seed az új Alignment & Preparedness csapatába. A feladatuk az lesz, hogy az egyre nagyobb képességű modellek biztonságosan, az emberi céloknak megfelelően működjenek. A pekingi, sanghaji és kaliforniai San José-i állásokkal a Seed külön szervezeti egységet épít erre a munkára.
A biztonságot a fejlesztés középpontjába tennék
A Seed 2026. október 14-én, szerdán tette közzé a toborzási felhívást hivatalos WeChat-fiókján. Egy nappal korábban az állami hátterű kínai The Paper arról számolt be, hogy a Seed az első kínai, élvonalbeli AI-modelleket fejlesztő labor, amely önálló biztonsági és alignment-részleget hozott létre. Az alignment itt azt jelenti, hogy a rendszer működését az emberi célokhoz és biztonsági követelményekhez igazítják.
A TikTokot és a Douyint is birtokló ByteDance kutatóegysége hosszú távú befektetést ígér az AI biztonságába. A Seed szerint a modellek képességeinek növekedésével a biztonság és az emberi célokhoz igazodás már nem egyszerűen védőkorlát: olyan alapvető képesség, amely eldönti, hogy egy rendszer széles körben alkalmazható-e. Az új csapatnak a vezető modellfejlesztő csapatokéhoz mérhető számítási kapacitást és kutatási erőforrásokat biztosítanának.
A tanítástól az önálló ágensek teszteléséig
A kutatási program a modellfejlesztés több szakaszára kiterjed. Része lesz a biztonságot célzó tanítás, a sebezhetőségek automatizált keresése, valamint a modellek viselkedését megfigyelő és magyarázó eszközök fejlesztése. Külön tesztkörnyezeteket készítenének az AI-ágenseknek — vagyis az önálló feladatvégzésre képes rendszereknek —, és az újonnan felmerülő kockázatokra is felkészülnének.
A Seed közlése szerint független tesztelést is bevonnának, és egyetemekkel, illetve kutatóintézetekkel működnének együtt. A bejelentett program így nemcsak belső vizsgálatokra építene: külső szereplők is részt kapnának a biztonsági munkában.
Az internethez hozzáférő ágensek növelik a tétet
Kínában és az Egyesült Államokban is egyre nagyobb figyelem irányul az ágensek biztonságára, különösen arra, amikor a fejlesztők önálló internet-hozzáférést adnak nekik. A Seed lépése ritka nyilvános betekintést ad egy nagy kínai AI-fejlesztő kifejezetten az élvonalbeli modellek biztonságára szervezett munkájába. A két ország közben az AI vezető szerepéért versenyez, de a biztonsági korlátokról, kockázatokról és a súlyos AI-incidensek esetén használható kommunikációs csatornákról is tárgyal.
TECH-SZÓTÁR
- Alignment
- Annak biztosítására irányuló munka, hogy az AI az emberi célokkal és biztonsági követelményekkel összhangban működjön.
- AI-ágens
- Olyan AI-rendszer, amely egy cél érdekében több lépésből álló feladatokat is képes önállóan végezni.
» Követett téma: AI · régió: KÍNA · kulcsszó: ByteDance, AI-biztonság