Većina implementacija umjetne inteligencije u poduzećima do sada je bila usmjerena na pomoćnike kodiranja i botove korisničke službe. Umjesto toga, Morgan Stanley je angažirao agente u jednom od bankovnih procesa koji su najkritičniji za točnost i rokove – usklađivanje dobiti i gubitka (P&L) – i prepolovio posao. Kontraintuitivni dio: do toga je došlo tako što je sustav učinio manje autonomnim, a ne više.
Ljudi ostaju u tijeku, a njihove se odluke iterativno pretvaraju u ponovljiva pravila koja sustav može sam primijeniti.
“Puno je više poput suradnika nego kopilota”, rekao je izvršni direktor Morgan Stanleyja Todd Johnson na nedavnom događaju VB AI Impact. Interni proizvodni agentski sustav, poznat kao FIXR, nadilazi jednostavnost i jednostavnost "gen AI 1.0" zadaci. “Mislimo da je tu prilika za stvarno otključavanje složenijih poslova u organizaciji.”
Sadržaj objave
FIXR iza kulisa
Svakog trgovačkog dana, trgovački deskovi Morgan Stanleyja obavljaju važne poslove oko transakcija kao što su novčane dionice ili dužnička ulaganja.
I, na kraju svakog od tih dana, kontrolori moraju uskladiti dobit i gubitak u sustavima Financije, Risk, Operations i Trade Capture financijskog diva. Svi se ti podaci moraju spojiti i, možda nije iznenađujuće, stotine tisuća atributa često se ne podudaraju.
Obično to znači da kontrolori moraju ručno istražiti svaku neusklađenost (ili “prekid”), donijeti odluke o prilagodbama, a zatim se idealno odjaviti prije nego što broj ode na stol. I sve to dok radite na teškom jutarnjem roku.
Ranije je to moglo potrajati do šest sati za jednu knjigu. Sada FIXR obavlja zadatak za dva do tri sata, rekao je Johnson. Uz otprilike 100 kontrolora koji rade ovaj posao, to čini oko 1500 ušteđenih sati tjedno.
Nakon završetka noćnih izračuna dobiti i gubitka, sustav automatski analizira “prekide” i predlaže rješenja na temelju naučenih pravila. Nekoliko agenata radi zajedno:
-
Jedan tumači prethodne smjernice kako bi razvio odluke za početak dana.
-
Čovjek uči iz ponašanja kontrolora i dokumentira pravila koja primjenjuju.
-
Jedan pretvara ponovljene obrasce u trajnu, automatiziranu logiku.
Tijekom vremena, sustav može automatski ukloniti određene prekide na koje je prije naišao, predložiti rješenja za druga koja su možda manje poznata, zatražiti pomoć kada nije siguran i označiti za ljudsko istraživanje. Kada se stavke više puta rješavaju istom metodom, mogu se stvoriti čvrsta pravila.
Što je najvažnije, ljudi ne napuštaju petlju, već ostaju u njoj, rekao je. Pregledavaju, odobravaju ili ispravljaju svaku preporuku, a zatim vraćaju te odluke kako bi poboljšali sljedeću vožnju. Agent svakodnevno uči od kontrolora što smatra ispravnim, a što pogrešnim i kodificira to znanje dok ponavlja.
“Još uvijek zadržavate taj element ljudske odgovornosti čak i kada počnete automatizirati”, rekao je Johnson. “S vremenom ćete vidjeti sve više i više tih stavki riješenih na automatski način.”
Naglasio je da autonomija zahtijeva veliko povjerenje; poduzeća neće vidjeti povećanje učinkovitosti ako svi provjeravaju sve što agent radi.
Povratna sprega čovjek-agent bila je ključna za rješavanje izazova kontrolirane, izmjerene i ponovljive automatizacije. “Prepoznali smo da će svu tu inteligenciju koja se nalazi u glavi kontrolora biti teško pretočiti u agenta prvog dana”, rekao je Johnson.
Usredotočite se na prvo proces, proširivost
Bilo je ključno prvo uspostaviti procese, prije uključivanja bilo kakve umjetne inteligencije, rekao je Johnson. Njegov tim proveo je “vrlo temeljitu” procjenu procesne inteligencije koja je mapirala i iskopavala tijekove rada kako bi se utvrdilo gdje bi automatizacija bila najkorisnija: Jesu li agenti za odgovor, tradicionalna automatizacija ili jednostavno reinženjering neučinkovit korak?
“Ako prvo to uspijemo riješiti prije nego što problemu dodamo agente, tada ćemo doista transformirati priliku”, rekao je.
Proces odjave dobiti i gubitka bio je pun ručnih koraka prikladnih za automatizaciju, a agenti koji preuzimaju neke od tih dugotrajnih zadataka oslobađaju kontrolere za rad s “više dodane vrijednosti” i “dublje razmatranje rizika”, rekao je.
Međutim, proširivost je bila jednako važna kao i ušteda vremena. Johnsonov tim odabrao je ovaj konkretan slučaj upotrebe usklađivanja dobiti i gubitka jer su stotine kontrolora radile ovaj posao širom svijeta (u Americi, Europi, Aziji).
Dakle, počnite sa slučajem upotrebe, dokažite ga, proširite, “a onda će na kraju transformacija biti dok ovo sve više i više budemo širili u cijeloj organizaciji”, rekao je Johnson.
Deterministički po dizajnu
Johnson je rekao da je tim također namjerno ograničio koliko tijek rada uopće ovisi o prosudbi modela. "Ako imate priliku učiniti stvari vrlo propisanim i ponovljivim, to je jeftinije u smislu potrošnje tokena, više je ponovljivo u smislu kontrola — i neka LLM radi stvari gdje vam nije potrebna takva vrsta determinističkog tijeka rada," rekao je.
Kako sustav vidi više povratnih informacija kontrolera o određenoj vrsti prekida, Morgan Stanley taj obrazac pretvara u fiksno pravilo umjesto da to prepusti modelu.
Ljudi još uvijek posjeduju ponašanje
Zanimljivo (i možda temeljno) pitanje koje se postavlja u osvit agentske ere glasi: Jesu li agenti šifrirani ili digitalni zaposlenici?
Johnson tvrdi da su “vjerojatno pomalo i od jednog i od drugog” i, kao takvi, zahtijevaju nijanse kada se radi o upravljanju i nadzoru. Tehnički timovi i dalje moraju biti odgovorni za održavanje zaštita i zaštitnih ograda poput vatrozida ili enkripcije, na primjer.
Ali postoji nova dinamika oko “elementa izvedbe”: ljudi koji koriste agente odgovorni su za njih jer im to pomaže u poslovnom radu. Na primjer, ako viši kontrolor radi s mlađim kontrolorom, oni se ne odriču odgovornosti samo zato što im netko pomaže, primijetio je Johnson.
“Jedno od naših čvrstih načela u našem upravljanju umjetnom inteligencijom općenito je da uvijek mora postojati ljudska odgovornost, čak i ako postoji određeni stupanj automatizacije”, rekao je.
Ali obično ne postoji “jedna jedina osoba”, a proces je u konačnici kontinuiran. Do ove točke, Johnson se našalio da je jedna “depresivna” stvar u vezi s agentskom umjetnom inteligencijom ta da će zahtijevati stalnu obuku jer se modeli stalno mijenjaju.
“Nikada nećete moći reći: ‘Napravili smo sve evaluacije i testiranja koja smo trebali napraviti. Pustimo to.” Morat ćete imati stalan pogled kako se to s vremenom razvija.”
Morgan Stanley cilja na stvarne bolne točke poduzeća
Iskustvo Morgan Stanleya odražava uzorke koje je VentureBeat otkrio u implementacijama umjetne inteligencije u poduzećima.
U nedavnoj anketi VB Pulse koju je proveo VentureBeat, gotovo tri četvrtine ispitanika izjavilo je da vidi mali ili nikakav ROI od prilagođenog finog podešavanja modela, opisujući "sandbox groblje" AI projekata koji su se pokazali preskupima za održavanje. Ovo sugerira da bi Morgan Stanleyjev pristup prvenstveno procesu kupnje i miješanja mogao biti održiviji od jurnjave za modelima po narudžbi. U anketi je sudjelovalo 87 ispitanika, a nalaze treba smatrati usmjerenima.
Upravljanje se pokazalo kao još jedan čest izazov: 38% ispitanika navelo je nepostojanje jednog odgovornog vlasnika kao svoju najveću prepreku proizvodnji umjetne inteligencije, dok su samo dva od 87 anketiranih poduzeća imala aktivno praćenje i upozoravanje za otkrivanje kvarova modela.