Globalni nadzorni organ traži više ljudskog nadzora nad agentnom veštačkom inteligencijom

Agentna veštačka inteligencija (AI) predstavlja sisteme koji ne samo da odgovaraju na upite, već mogu samostalno da prate ciljeve, donose odluke i preduzimaju radnje, na primer da obavljaju transakcije ili upravljaju tokovima poslova. Za razliku od klasičnih alata, ovakvi sistemi mogu da deluju brzo i u velikom obimu, pa greške ili neočekivano ponašanje mogu brže da se prenesu na tržište ili na klijente.

Finansijski sektor već godinama koristi algoritme za trgovanje, procenu kreditnog rizika i otkrivanje prevara. Regulatori u ovoj oblasti obično traže da kompanije imaju jasno definisane odgovorne osobe, mehanizme za praćenje i mogućnost da čovek interveniše ili poništi odluku sistema. Ovakvi zahtevi se zasnivaju na principu da odgovornost za finansijske posledice ne može da se prenese na softver.