Početak rada s AI agentima (1. dio): Hvatanje procesa, uloga i veza

Moderni AI agent sastoji se od velikog jezičnog modela (LLM) koji ima mogućnost pozivanja nekih alata. S obzirom na pravi skup alata za kodiranje, započeo bi generiranjem koda, mogao bi ga pokrenuti u spremniku, promatrati rezultate, prilagoditi kod na temelju tih rezultata i tako povećati šanse za stvaranje korisnog i funkcionalnog koda.

Nasuprot tome, generativni AI model uzima neke ulazne podatke i, kroz proces predviđanja očekivanja, proizvodi izlazne podatke. Na primjer, dajemo mu zadatak kodiranja, on proizvodi neki kod i, ovisno o složenosti zadatka, kôd se može koristiti takav kakav jest.

Kako preuzimaju različite zadatke, agentima treba dopustiti da razgovaraju jedni s drugima. Na primjer, zamislite intranet vaše tvrtke s korisnim okvirom za pretraživanje koji vas usmjerava na aplikacije i resurse koji su vam potrebni. Ako ste dovoljno velika tvrtka, svaka od ovih aplikacija u vlasništvu različitih odjela ima svoje okvire za pretraživanje. Ima puno smisla stvoriti agente, možda korištenjem tehnika kao što je generiranje proširenog dohvaćanja (RAG), kako bi se povećali okviri za pretraživanje. Ono što nema smisla je tjerati korisnika da ponovi svoj upit nakon što ga okvir za pretraživanje identificira kao koristan s obzirom na početni upit. Radije bismo radije voljeli da glavni agent koordinira s drugim agentima koji predstavljaju različite aplikacije i vama, korisniku, predstavi konsolidirano i objedinjeno sučelje za chat.

Sustav s više agenata koji predstavlja softver ili različite tijekove rada organizacije može imati nekoliko zanimljivih prednosti, uključujući poboljšanu produktivnost i robusnost, operativnu otpornost i mogućnost brže nadogradnje različitih modula. Nadamo se da će vam ovaj članak pomoći da vidite kako se to postiže.

Ali prvo, kako bismo trebali krenuti s izgradnjom ovih sustava s više agenata?

Hvatanje organizacije i uloga

Najprije treba uhvatiti procese, uloge, odgovorne čvorove i veze različitih aktera u organizaciji. Pod akterima mislim na pojedince i/ili softverske aplikacije koji djeluju kao radnici znanja unutar organizacije.

Organizacijska shema mogla bi biti dobro mjesto za početak, ali predlažem da počnete s tijekovima rada, jer isti ljudi unutar organizacije obično rade s različitim procesima i ljudima ovisno o tijekovima rada.

Dostupni su alati koji koriste umjetnu inteligenciju za pomoć u identificiranju tijeka rada ili možete izgraditi vlastiti model genetske inteligencije. Napravio sam jedan kao GPT koji uzima opis domene ili naziva tvrtke i proizvodi definiciju agentske mreže. Budući da koristim okvir za više agenata izgrađen interno u mojoj tvrtki, GPT proizvodi mrežu kao Hocon datoteku, ali bi iz generiranih datoteka trebalo biti jasno koje su uloge i odgovornosti svakog agenta, a koje drugi agenti povezano je s.

Imajte na umu da želimo biti sigurni da je agentska mreža usmjereni aciklički graf (DAG). To znači da nijedan agent ne može istovremeno postati niži i gornji lanac bilo kojem drugom agentu, bilo izravno ili neizravno. To uvelike smanjuje šanse da upiti u agentskoj mreži padnu u vrtoglavicu.

U ovdje navedenim primjerima svi su agenti temeljeni na LLM-u. Ako čvor u organizaciji s više agenata može imati nultu autonomiju, tada bi taj agent uparen sa svojim ljudskim parnjakom trebao sve voditi pomoću čovjeka. Trebat će nam da svi čvorovi obrade, bilo da su aplikacije, ljudi ili postojeći agenti, budu predstavljeni kao agenti.

U posljednje vrijeme bilo je mnogo najava tvrtki koje nude specijalizirane agente. Mi bismo, naravno, htjeli iskoristiti takve agente, ako su dostupni. Možemo povući već postojećeg agenta i umotati njegov API u jednog od naših agenata kako bismo mogli koristiti naše protokole za komunikaciju među agentima. To znači da će takvi agenti trećih strana morati imati svoj API dostupan za korištenje.

Kako definirati agente

U prošlosti su predložene različite arhitekture agenata. Na primjer, arhitektura školske ploče zahtijeva centraliziranu točku komunikacije gdje različiti agenti deklariraju svoje uloge i mogućnosti, a ploča ih poziva ovisno o tome kako planira ispuniti zahtjev (vidi OAA).

Više volim distribuiraniju arhitekturu koja poštuje kapsulaciju odgovornosti. Svaki agent, nakon što primi zahtjev, odlučuje može li ga obraditi ili ne i što treba učiniti za obradu zahtjeva, a zatim vraća svoju listu zahtjeva agentu nadlanca koji je zatražio. Ako agent ima niže lance, pita ga mogu li pomoći u ispunjavanju cijelog ili dijela zahtjeva. Ako primi bilo kakve zahtjeve od kontaktiranih nižih lanaca, provjerava s drugim agentima mogu li ih ispuniti; ako ne, šalje ih prema gore tako da mogu pitati ljudskog korisnika. Ova se arhitektura naziva AAOSA arhitektura i — zabavna činjenica — bila je arhitektura korištena u ranim verzijama Siri.

Ovdje je primjer odziva sustava koji se može koristiti za pretvaranje agenta u AAOSA agenta.

Kada primite upit, vi ćete:

1. Pozovite svoje alate da odredite koji su agenti nižeg lanca u vašim alatima odgovorni za sve ili dio toga
2. Pitajte agente nižeg lanca što im je potrebno za rješavanje njihovog dijela upita.
3. Nakon što se prikupe zahtjevi, delegirat ćete upit i ispunjene zahtjeve odgovarajućim agentima nižeg lanca.
4. Nakon što svi agenti nižeg lanca odgovore, sakupit ćete njihove odgovore i vratiti konačni odgovor.
5. Zauzvrat vas mogu pozvati drugi agenti u sustavu i morate im djelovati kao niži lanac.

Osim skupa uloga i odgovornosti definiranih prirodnim jezikom u odzivu sustava svakog agenta, agenti mogu ali ne moraju uključivati ​​alate koje mogu pozvati, s različitim argumentima koji se prosljeđuju alatima. Na primjer, agent voditelja proizvoda možda će morati biti u mogućnosti obraditi razne tikete na virtualnoj Kanban ploči ili će agent za upozorenja možda morati pozvati alat za izdavanje upozorenja u sustavu za uzbunjivanje.

Trenutačni sustavi s više agenata kao što je Microsoft AutoGen imaju razrađene i često kodirane mehanizme i arhitekture koordinacije agenata. Više volim robusnije postavke u kojima agenti tretiraju svoje neposredne agente nižeg lanca kao alate, s labavo definiranim argumentima koji se mogu upisati i semantikom koju odlučuju agenti u trenutku potrebe.

U ovoj postavci, agent niznjeg lanca može se definirati kao poziv funkcije:

“aaosa_call”: {

      “description”: “Depending on the mode, returns a natural language string in response.”,

      “parameters”: {

          “type”: “object”,

          “properties”: {

              “inquiry”: {

                  “type”: “string”,

                  “description”: “The inquiry”

              },

              “mode”: {

                  “type”: “string”,

                  “description”: “””

označava je li od agenta zatraženo da utvrdi pripada li mu upit

u cijelosti ili djelomično. ili ako se traži ispunjavanje zahtjeva

upit, ako ga ima. ili ako se od njega traži da odgovori na upit.

 “””

              },

          },

          “required”: [

              “inquiry”,

              “mode”

          ]

      }

}

AI agenti u praksi

Istražimo scenarij HR agenta. Korisnik bi mogao obavijestiti agenta glavnog okvira za pretraživanje o događaju koji mu je promijenio život, kao što je “moja draga osoba je preminula”, pokrenuti pravne agente i agente za ljudske resurse koji imaju ulogu u pružanju usluga korisniku. To je zato što su oni, zauzvrat, primili informacije od nekih svojih agenata u nižem lancu, točnije pravnih savjeta, agenata za obračun plaća i beneficija. Rezultirajući konsolidirani odgovor koji korisnik prima od agenta glavnog okvira za pretraživanje izgledat će ovako:

1. HR aspekti:
   • Agent za beneficije može korisniku pomoći razumjeti kako bi prelazak mogao utjecati na beneficije, zdravstveno osiguranje i mirovinske planove. Morat ćete dati informacije o vrstama uključenih planova i je li vaša značajna osoba bila uzdržavana osoba.
   • Agent za obračun plaća može pomoći u upravljanju zadacima kao što je ažuriranje poreznih olakšica ili rješavanje plaća za dopust zbog žalosti. Za to su potrebne informacije o politici tvrtke o dopustu zbog žalosti i trenutnom rasporedu plaća.
2. Pravni aspekti:
   • Pravni agenti mogu ponuditi općenite smjernice o tome kako bi se ovo donošenje trebalo odnositi na poslove tvrtke.

Svaki odjel zahtijeva specifične informacije kako bi ponudio prilagođenu podršku.

U međuvremenu, u IT scenariju, jedinstvena ulazna točka je predstavnik korisničke podrške koji može obraditi složene višestrane zahtjeve kao što su: “Naša mreža je spora. Mislim da je preopterećen jer smo nedavno dodali osoblje u naš ured. Trebat će mi i ponuda za nadogradnju.”

Primjer odgovora opisat će korake:

Procjena performansi mreže: Stručnjak za mrežni operativni centar može pomoći u rješavanju problema sporosti i potencijalnog preopterećenja. Potreban im je pristup podacima o performansama mreže, pojedinostima o trenutnoj mrežnoj infrastrukturi, informacijama o broju dodanog osoblja i njihovim obrascima korištenja mreže.

Nadograđeni upit: Inženjer prodaje i terenski tehničar mogu vam pomoći dati ponudu za nadogradnju. Za to im je potrebno:

• Specifične informacije o trenutnoj postavci mreže, uključujući zahtjeve za opremu i propusnost.
• Željena poboljšanja performansi.
• Proračunska ograničenja i sve posebne preferencije ili zahtjevi.
• Opseg nadogradnje i svi specifični ciljevi izvedbe.

Nadam se da vam je ovo dalo dobru ideju o tome što je potrebno za postavljanje mreže s više agenata. U drugom dijelu, raspravljat ću o važnosti implementacije zaštitnih mjera pri stvaranju sustava s više agenata i opisat ću kako ugraditi kontrole koje će omogućiti ljudsku intervenciju i provjere nesigurnosti. Također ću detaljno opisati potrebne korake za stvaranje sigurnosnog agenta koji će nadgledati mrežu agenata i dublje zaroniti u izazove razvoja mreža s više agenata — kao što su zaokreti i preopterećenja — te kako ih ublažiti korištenjem vremenskih ograničenja, podjele zadataka i redundancije.

Babak Hodjat je tehnički direktor za AI u Cognitive.