Preskočite na sadržaj
Vesti
Probajte aplikaciju →

Kompanija Anthropic, koja razvija AI model Claude, saopštila je da nove mere zaštite znatno smanjuju napade destilacijom. Destilacija je tehnika kojom se mogućnosti jednog AI modela prenose na drugi tako što se kopiraju njegovi odgovori. Prema naslovu izvora Investing.com, zaštite smanjuju ove napade značajno, ali drugi detalji o obimu i meri smanjenja nisu dostupni u ovom trenutku.

Kontekst

Anthropic je kompanija iz Sjedinjenih Američkih Država koja se bavi razvojem veštačke inteligencije i poznata je po svojim jezičkim modelima iz porodice Claude. Kao i mnoge kompanije koje ulažu u AI, oslanja se na kapital investitora i na sopstvenu tehnologiju, koja predstavlja jedan od glavnih izvora vrednosti.

Destilacija je tehnika mašinskog učenja u kojoj se manji ili jeftiniji model obučava tako što uči iz odgovora većeg, sofisticiranijeg modela. Sama tehnika je legitimna i često se koristi za pravljenje efikasnijih verzija modela. Problem nastaje kada neko sistematski šalje velike količine upita većem modelu samo da bi prikupio njegove odgovore i iskoristio ih za treniranje sopstvenog sistema, bez dozvole. Na taj način konkurenti mogu da dođu do sposobnosti koje je druga strana razvijala godinama i uz velika ulaganja.

Zašto je ovo važno

Zaštita intelektualne svojine u tehnološkom sektoru je važna za tržište jer od nje zavisi koliko dugo kompanije mogu da zadrže prednost koju su stekle svojim ulaganjima. Kada se tehnologija može lako kopirati, smanjuje se povrat na istraživanje i razvoj, a to može uticati na očekivanja investitora i na vrednovanje kompanija u celom sektoru. Zato se vesti o novim merama zaštite prate kao signal o tome koliko su ovakvi rizici kontrolisani.

Pojmovi iz vesti

Destilacija (distillation)
Tehnika kojom se znanje velikog AI modela prenosi na manji model tako što manji model uči iz odgovora velikog modela.
Napad destilacijom
Situacija u kojoj neko sistematski šalje upite AI modelu da bi prikupio njegove odgovore i bez dozvole iskoristio ih za pravljenje sopstvenog modela.
Mere zaštite (safeguards)
Tehnička i pravna pravila kojima kompanija sprečava zloupotrebu svog softvera ili modela, na primer ograničavanjem broja upita ili otkrivanjem sumnjivog ponašanja.
Pročitajte original na Investing.com
Originalni naslov
Anthropic says new safeguards sharply reduce AI distillation attacks
Kompanije u vesti
AMZNAnaliza AMZN u aplikaciji →

Naslov i sažetak napisao je AI na osnovu originala i mogu sadržati greške. Originalni tekst je kod izvora.

Povezane vesti