Ontologija je prava ograda: Kako spriječiti agente umjetne inteligencije da pogrešno razumiju vaše poslovanje

Poduzeća ulažu milijarde dolara u AI agente i infrastrukturu za transformaciju poslovnih procesa. Međutim, vidimo ograničeni uspjeh u aplikacijama u stvarnom svijetu, često zbog nemogućnosti agenata da istinski razumiju poslovne podatke, politike i procese.

Iako dobro upravljamo integracijama s tehnologijama poput upravljanja API-jem, protokola konteksta modela (MCP) i drugih, imati agente koji uistinu razumiju “značenje” podataka u kontekstu određenog poslovanja druga je priča. Podaci poduzeća uglavnom su raspoređeni u različite sustave u strukturiranim i nestrukturiranim oblicima i potrebno ih je analizirati poslovnom lećom specifičnom za domenu.

Kao primjer, pojam “kupac” može se odnositi na drugu grupu ljudi u prodajnom CRM sustavu, u usporedbi s financijskim sustavom koji može koristiti ovu oznaku za klijente koji plaćaju. Jedan odjel može definirati “proizvod” kao SKU; drugi može predstavljati kao a "proizvod" obitelj; treći kao marketinški paket.

Podaci o “prodaji proizvoda” stoga variraju u značenju bez dogovorenih odnosa i definicija. Da bi agenti kombinirali podatke iz više sustava, moraju razumjeti različite prikaze. Agenti moraju znati što podaci znače u kontekstu i kako pronaći prave podatke za pravi proces. Štoviše, promjene sheme u sustavima i problemi s kvalitetom podataka tijekom prikupljanja mogu dovesti do više dvosmislenosti i nemogućnosti agenata da znaju kako postupiti kada se takve situacije nađu.

Nadalje, klasifikaciju podataka u kategorije kao što su PII (podaci koji otkrivaju identitet) potrebno je strogo slijediti kako bi se održala usklađenost sa standardima kao što su GDPR i CCPA. To zahtijeva da podaci budu ispravno označeni i da agenti mogu razumjeti i poštovati ovu klasifikaciju. Stoga vidimo da je izrada cool demonstracije pomoću agenata vrlo izvediva – ali stavljanje u proizvodnju rada na stvarnim poslovnim podacima je sasvim druga priča.

Izvor istine temeljen na ontologiji

Izgradnja učinkovitih agentskih rješenja zahtijeva jedinstveni izvor istine temeljen na ontologiji. Ontologija je poslovna definicija pojmova, njihove hijerarhije i odnosa. Definira pojmove s obzirom na poslovne domene, može pomoći u uspostavljanju jedinstvenog izvora istine za podatke i uhvatiti jedinstvena imena polja i primijeniti klasifikacije na polja.

Ontologija može biti specifična za domenu (zdravstvo ili financije) ili specifična za organizaciju na temelju internih struktura. Definiranje ontologije unaprijed oduzima puno vremena, ali može pomoći u standardizaciji poslovnih procesa i postaviti snažne temelje za agentsku umjetnu inteligenciju.

Ontologija se može realizirati korištenjem uobičajenih upitnih formata kao što je triplestore. Složenija poslovna pravila s relacijama s više skokova mogla bi koristiti označene grafove svojstava poput Neo4j. Ovi grafikoni također mogu pomoći poduzećima da otkriju nove odnose i odgovore na složena pitanja. Ontologije poput FIBO (Finance Industry Business Ontology) i UMLS (Unified Medical Language System) dostupne su u javnoj domeni i mogu biti vrlo dobra polazna točka. Međutim, oni se obično moraju prilagoditi kako bi uhvatili specifične pojedinosti poduzeća.

Početak rada s ontologijom

Jednom implementirana, ontologija može biti pokretačka snaga za poslovne agente. Sada možemo potaknuti AI da slijedi ontologiju i upotrijebi je za otkrivanje podataka i odnosa. Ako je potrebno, možemo imati agentski sloj koji služi ključnim detaljima same ontologije i otkriva podatke. Poslovna pravila i politike mogu se implementirati u ovu ontologiju kojih se agenti moraju pridržavati. Ovo je izvrstan način da prizemljite svoje agente i uspostavite zaštitne ograde na temelju stvarnog poslovnog konteksta.

Agenti dizajnirani na ovaj način i podešeni da slijede ontologiju mogu se držati zaštitnih ograda i izbjeći halucinacije koje mogu izazvati veliki jezični modeli (LLM) koji ih pokreću. Na primjer, poslovna politika može definirati da osim ako svi dokumenti povezani sa zajmom nemaju provjerene oznake postavljene na "pravi," status kredita trebao bi biti u stanju “na čekanju”. Agenti mogu zaobići ovo pravilo i utvrditi koji su dokumenti potrebni te izvršiti upite u bazi znanja.

Evo primjera implementacije:

(Originalna slika autora)

Kao što je ilustrirano, imamo strukturirane i nestrukturirane podatke koje je obradio agent za inteligenciju dokumenata (DocIntel) koji popunjava Neo4j bazu podataka na temelju ontologije poslovne domene. Agent za otkrivanje podataka u Neo4j pronalazi i ispituje prave podatke i prosljeđuje ih drugim agentima koji upravljaju izvršavanjem poslovnih procesa. Komunikacija između agenata odvija se popularnim protokolom kao što je A2A (agent to agent). Novi protokol nazvan AG-UI (Agent User Interaction) može pomoći u izradi više generičkih UI zaslona za snimanje rada i odgovora tih agenata.

Ovom metodom možemo izbjeći halucinacije prisiljavanjem agenata da slijede ontološki vođene staze i održavaju klasifikacije podataka i odnose. Štoviše, možemo lako skalirati dodavanjem novih sredstava, odnosa i politika kojima se agenti mogu automatski pridržavati i kontrolirati halucinacije definiranjem pravila za cijeli sustav, a ne za pojedinačne entitete. Na primjer, ako agent halucinira pojedinog ‘kupca’, jer se povezani podaci za haluciniranog ‘kupca’ neće moći provjeriti u otkrivanju podataka, možemo lako otkriti ovu anomaliju i planirati je eliminirati. To pomaže agentskom sustavu da se prilagodi poslovanju i upravlja njegovom dinamičkom prirodom.

Doista, referentna arhitektura poput ove dodaje neke dodatne troškove u otkrivanju podataka i bazama podataka grafova. Ali za veliko poduzeće, dodaje prave zaštitne ograde i daje agentima upute za orkestriranje složenih poslovnih procesa.

Dattaraj Rao je arhitekt za inovacije i istraživanje i razvoj u Postojani sustavi.

Pročitajte više iz našeg gostujući pisci. Ili razmislite o slanju vlastitog posta! Pogledajte naše smjernice ovdje.

Web izvor