AI modeli bi uskoro mogli da se sami repliciraju bez data centara, upozorava Anthropic

Anthropic je američka kompanija koja razvija veštačku inteligenciju i poznata je po velikim jezičkim modelima iz porodice Claude. Ona spada među vodeće kompanije u oblasti AI bezbednosti, pa se njena upozorenja često posmatraju kao deo šire debate o tome kako kontrolisati napredne sisteme. Veliki AI modeli se obično pokreću na serverima u data centrima, velikim objektima sa specijalizovanom računarskom opremom, hlađenjem i stabilnim napajanjem. Zato je pristup takvoj infrastrukturi tradicionalno smatran jednim od ograničenja za to šta neki sistem može da radi.

Pojam samorepliciranja se u ovom kontekstu odnosi na sposobnost softvera da pravi sopstvene kopije i širi se sa jednog računara na drugi. U oblasti bezbednosti veštačke inteligencije ovo se pominje kao jedna od sposobnosti koje se pažljivo prate, jer bi sistem koji bi mogao sam da se kopira bilo teže zaustaviti. Razvojne kompanije zato redovno testiraju modele kako bi procenile koje sposobnosti već poseduju, a koje bi mogle da se pojave kasnije.