Doba agentske umjetne inteligencije je pred nama – sviđalo se to nama ili ne. Ono što je započelo nevinom šalom pitanja i odgovora s ChatGPT-om 2022. postalo je egzistencijalna rasprava o sigurnosti posla i usponu strojeva.
Nedavno su strahovi od postizanja umjetne opće inteligencije (AGI) postali stvarniji pojavom moćnih autonomnih agenata kao što su Claude Cowork i OpenClaw. Nakon što smo se neko vrijeme igrali s ovim alatima, evo usporedbe.
Prvo, imamo OpenClaw (ranije poznat kao Moltbot i Clawdbot). Premašivši 150.000 GitHub zvjezdica u nekoliko dana, OpenClaw se već implementira na lokalnim računalima s dubinskim pristupom sustavu. Ovo je kao robot “služavka” (Irona za Richie Rich obožavatelji, na primjer) da date ključeve svoje kuće. Ono bi ga trebalo čistiti, a vi mu dajete potrebnu autonomiju da poduzima radnje i upravlja vašim stvarima (datotekama i podacima) kako želi. Cjelokupna svrha je izvršiti zadatak koji je pri ruci — trijaža ulazne pošte, automatski odgovori, vođenje sadržaja, planiranje putovanja i više.
Sljedeći je Googleov Antigravitacijaagent za kodiranje s IDE-om koji ubrzava put od prompta do proizvodnje. Možete interaktivno stvarati cjelovite aplikacijske projekte i mijenjati određene pojedinosti preko pojedinačnih upita. To je kao da imate mlađeg programera koji može ne samo kodirati, već i graditi, testirati, integrirati i popraviti probleme. U stvarnom svijetu, ovo je kao da zaposlite električara: oni su stvarno dobri u određenom poslu i samo im trebate dati pristup određenom predmetu (vašoj električnoj razvodnoj kutiji).
Konačno, imamo moćnog Claudea. Izdanje Anthropicovog Coworka, koji je sadržavao AI agente za automatiziranje pravnih zadataka kao što su pregled ugovora i NDA trijaža, uzrokovalo je oštru rasprodaju dionica pravne tehnologije i softvera kao usluge (SaaS) (naziva se SaaSpocalypse). Claude je ionako bio glavni chatbot; sada s Coworkom, ima znanje o domeni za specifične industrije poput prava i financija. Ovo je kao da unajmite računovođu. Oni poznaju domenu iznutra prema van i mogu ispuniti poreze i upravljati fakturama. Korisnici omogućuju poseban pristup vrlo osjetljivim financijskim detaljima.
Neka ti alati rade za vas
Ključ za postizanje većeg utjecaja ovih alata je davanje veće snage, ali to povećava rizik od zlouporabe. Korisnici moraju vjerovati pružateljima usluga kao što su Anthorpic i Google kako bi osigurali da upiti agenta neće uzrokovati štetu, curiti podatke ili pružiti nepravednu (ilegalnu) prednost određenim dobavljačima. OpenClaw je open-source, što komplicira stvari jer ne postoji središnje upravno tijelo.
Iako su ova tehnološka dostignuća nevjerojatna i namijenjena općem dobru, dovoljna su samo jedan ili dva neželjena događaja da izazovu paniku. Zamislite da agent električar sprži sve vaše kućne strujne krugove spajanjem krive žice. U scenariju agenta, to bi moglo biti ubacivanje netočnog koda, razbijanje većeg sustava ili dodavanje skrivenih nedostataka koji možda neće biti odmah vidljivi. Cowork bi mogao propustiti velike prilike za uštedu kada plaća poreze korisnika; s druge strane, to bi moglo uključivati nezakonite otpise. Claude može učiniti nezamislivu štetu kada ima više kontrole i ovlasti.
Ali usred ovog kaosa, postoji prilika da se stvarno iskoristi. S odgovarajućim zaštitnim ogradama, agenti se mogu usredotočiti na određene radnje i izbjeći donošenje nasumičnih, neobjašnjenih odluka. Načela odgovorne umjetne inteligencije — odgovornost, transparentnost, ponovljivost, sigurnost, privatnost — iznimno su važna. Koraci agenta za bilježenje i ljudska potvrda su apsolutno kritični.
Također, kada agenti rade s toliko različitih sustava, važno je da govore istim jezikom. Ontologija postaje vrlo važna kako bi se događaji mogli pratiti, pratiti i uzeti u obzir. Zajednička ontologija specifična za domenu može definirati „kodeks ponašanja." Ova etika može pomoći u kontroli kaosa. Kada se povežemo sa zajedničkim povjerenjem i okvirom distribuiranog identiteta, možemo izgraditi sustave koji agentima omogućuju obavljanje uistinu korisnog posla.
Kada se pravilno izvede, agentski ekosustav može uvelike rasteretiti ljudsko “kognitivno opterećenje” i omogućiti našoj radnoj snazi obavljanje zadataka visoke vrijednosti. Ljudi će imati koristi kada se agenti bave svakodnevnim stvarima.
Dattaraj Rao je arhitekt za inovacije i istraživanje i razvoj u tvrtki Persistent Systems.
