Umjetna inteligencija (AI) sve više ulazi u naš svakodnevni život, a u financijskom sektoru koristi se kao važan alat za donošenje odluka. Bank of America je nedavno objavio da će svojim financijskim savjetnicima pružiti autonomne AI agente, što bi trebalo poboljšati brzinu trgovanja i osvježiti uvid u tržišne trendove. Međutim, iza ovog marketinga leži zakonska tamna zona koju regulatori još nisu kartirali.
Kako se AI savjetnici koriste?
AI savjetnici nisu samo pasivni alati koji čekaju instrukcije od ljudi. Oni aktivno skeniraju financijske izvještaje, satelitske slike parkirališta Walmarta i sentiment na Redditu kako bi generirali ideje za trgovanje koje često stižu sekunde prije otvaranja tržišta. Financijski savjetnici, koji moraju upravljati više od 200 klijenata, rijetko imaju vremena da obrade logiku AI-a. Umjesto toga, oni kliknu na “prihvaćam” i dobiju komisiju, a zatim se okreću sljedećoj zadaći. AI je postao de-fakto odlučitelj, dok je pravna odgovornost još uvijek smještena na ljudskom nivou.
Tri sloja krivnje
Da bi se razumjela kako se odgovornost gubi, treba se razdvojiti u tri sloja:
- Sloj modela: Vlasnici modela, kao što su OpenAI, Anthropic ili kustodijski kvantni timovi, prodaju osnovni model pod strogi kapacitet odgovornosti. Ugovori ograničavaju štete na cijenu softverskog licence – često ispod 100.000 dolara.
- Sloj banke: Banka fine-tunira model koristeći svoje proprijetarne podatke, ali ne čuva trajni zapisnik svake mikro-izmjene težina. Ako se nešto pođe krivo, institucija tvrdi da je to bila “nepravilna upotreba” od strane savjetnika.
- Sloj savjetnika: Ljudi koji potpisuju trgovačke ugovore preuzimaju fiducijsku dužnost, ali nemaju tehničke sposobnosti da auditiraju model. Klijenti optužuju savjetnika, koji zatim pokazuje gore, banka pokazuje prodavača, a prodavač pokazuje vlasnika modela.
Koji je problem?
Problem je u tome što se pravna odgovornost gubi u prostoru između ljudskog i AI-a. Ako AI savjetnik preporučuje neuspješnu strategiju za opcije ili sintetički ETF eksplodira u lice klijenta, tko će platiti cijenu? Savjetnik koji je kliknuo na “prihvaćam”, banka koja je implementirala model ili nevidljive linije koda koje ljudi ne mogu razumjeti u realnom vremenu?
Zaključak
Umjetna inteligencija je važan alat za financijski sektor, ali njena upotreba mora biti pravilno regulirana kako bi se spriječilo gubitak odgovornosti. Financijske institucije moraju biti transparentne o tome kako koriste AI i kako se odgovornost dijeli. Klijenti moraju biti upoznati s rizicima koji dolaze s AI-om i moraju biti u stanju da razumiju kako se AI koristi.
FAQ
- Koji je problem s AI savjetnicima? Problem je u tome što se pravna odgovornost gubi u prostoru između ljudskog i AI-a.
- Tko plaća cijenu ako AI savjetnik pogreši? Tko će platiti cijenu nije jasno, jer se pravna odgovornost gubi u prostoru između ljudskog i AI-a.
- Kako se može spriječiti gubitak odgovornosti? Financijske institucije moraju biti transparentne o tome kako koriste AI i kako se odgovornost dijeli, a klijenti moraju biti upoznati s rizicima koji dolaze s AI-om.