Contextual AI pokreće Agent Composer kako bi poslovni RAG pretvorio u AI agente spremne za proizvodnju

U utrci za uvođenjem umjetne inteligencije u poduzeće, mali, ali dobro financirani startup daje hrabru tvrdnju: problem koji koči usvajanje umjetne inteligencije u složenim industrijama nikada nisu bili sami modeli.

Kontekstualni AIdvije i pol godine staru tvrtku iza koje stoje investitori uključujući Bezosove ekspedicije i Bain Capital Venturesu ponedjeljak predstavljen Agent Skladateljplatforma osmišljena kako bi pomogla inženjerima u zrakoplovstvu, proizvodnji poluvodiča i drugim tehnički zahtjevnim poljima da izgrade AI agente koji mogu automatizirati vrstu rada koji zahtijeva veliko znanje i koji se dugo opirao automatizaciji.

Najava stiže u ključnom trenutku za AI poduzeća. Četiri godine nakon što je ChatGPT potaknuo bijes korporativnih AI inicijativa, mnoge su organizacije ostale zaglavljene u pilot programima, boreći se da eksperimentalne projekte prebace u produkciju punog opsega. Glavni financijski službenici i voditelji poslovnih jedinica postaju sve nestrpljiviji s unutarnjim naporima koji su potrošili milijune dolara, ali su donijeli ograničene povrate.

Douwe Kielaizvršni direktor Contextual AI-a, vjeruje da je industrija usredotočena na pogrešno usko grlo. "Model je u ovom trenutku gotovo komodiziran," Kiela je rekao u intervjuu za VentureBeat. "Usko grlo je kontekst — može li AI zapravo pristupiti vašim vlasničkim dokumentima, specifikacijama i institucionalnom znanju? To je problem koji rješavamo."

Zašto umjetna inteligencija u poduzećima stalno pada i što je generiranje proširenog pretraživanja trebalo popraviti

Da shvatim što Kontekstualni AI pokušava, pomaže razumjeti koncept koji je postao središnji za razvoj moderne umjetne inteligencije: generiranje prošireno dohvaćanjem ili KRPICA.

Kada veliki jezični modeli poput onih iz OpenAI, Googleili antropski generiraju odgovore, oslanjaju se na znanje ugrađeno tijekom obuke. Ali to znanje ima granični datum i ne može uključivati ​​vlasničke dokumente, tehničke specifikacije i institucionalno znanje koje čini krvotok većine poduzeća.

RAG sustavi pokušavaju to riješiti dohvaćanjem relevantnih dokumenata iz vlastitih baza podataka tvrtke i njihovim unosom u model zajedno s pitanjem korisnika. Model tada može temeljiti svoj odgovor na stvarnim podacima tvrtke, umjesto da se oslanja isključivo na svoju obuku.

Kiela je pomogao pri uvođenju ovog pristupa dok je bio znanstvenik-istraživač u Facebook AI istraživanje a kasnije kao voditelj istraživanja na Lice koje grliutjecajna AI tvrtka otvorenog koda. Ima doktorat znanosti. s Cambridgea i radi kao pomoćni profesor simboličkih sustava na Sveučilištu Stanford.

Ali rani RAG sustavi, priznaje Kiela, bili su sirovi.

"Rani RAG bio je prilično sirov – zgrabite standardni retriver, spojite ga na generator, nadajte se najboljem," rekao je. "Pogreške nastale kroz cjevovod. Halucinacije su bile uobičajene jer generator nije bio uvježban da ostane uzemljen."

Kad je Kiela osnovana Kontekstualni AI lipnja 2023. krenuo je u sustavno rješavanje ovih problema. Tvrtka je razvila ono što naziva a "unificirani kontekstni sloj" — skup alata koji se nalaze između podataka tvrtke i njezinih AI modela, osiguravajući da prave informacije dođu do modela u pravom formatu u pravo vrijeme.

Pristup je zaslužio priznanje. Prema studiji slučaja Google Clouda, Contextual AI postigao je najveća izvedba na Googleovoj referentnoj točki FACTS za utemeljene rezultate otporne na halucinacije. Tvrtka je fino podesila Meta Llama modele otvorenog koda na platformi Vertex AI Google Clouda, posebno se fokusirajući na smanjenje sklonosti AI sustava da izmišljaju informacije.

Unutar Agent Composer, platforme koja obećava pretvoriti složene inženjerske tijekove rada u minute rada

Agent Skladatelj proširuje postojeću platformu Contextual AI s mogućnostima orkestracije — sposobnošću koordinacije višestrukih AI alata kroz više koraka kako bi se dovršili složeni tijek rada.

Platforma nudi tri načina za stvaranje AI agenata. Korisnici mogu započeti s unaprijed izgrađenim agentima dizajniranim za uobičajene tehničke tijekove rada kao što su analiza uzroka ili provjera usklađenosti. Oni mogu opisati tijek rada prirodnim jezikom i omogućiti sustavu da automatski generira arhitekturu radnog agenta. Ili mogu graditi od nule koristeći vizualno povuci i ispusti sučelje koje ne zahtijeva kodiranje.

Ono što razlikuje Agent Composer od konkurentskih pristupa, kaže tvrtka, je njegova hibridna arhitektura. Timovi mogu kombinirati stroga, deterministička pravila za korake s visokim ulozima – provjere usklađenosti, provjeru valjanosti podataka, prolaze za odobrenje – s dinamičkim obrazloženjem za istraživačku analizu.

"Za vrlo kritične tijekove rada korisnici mogu odabrati potpuno determinističke korake za kontrolu ponašanja agenta i izbjegavanje neizvjesnosti," rekla je Kiela.

Platforma također uključuje ono što tvrtka naziva "optimizacija agenta jednim klikom," koji uzima povratne informacije korisnika i automatski prilagođava rad agenta. Svaki korak agentovog procesa zaključivanja može se revidirati, a odgovori dolaze s citatima na razini rečenice koji pokazuju točno odakle su informacije potekle u izvornim dokumentima.

Od osam sati do 20 minuta: što prvi korisnici kažu o performansama platforme u stvarnom svijetu

Kontekstualni AI kaže da su prvi kupci izvijestili o značajnom poboljšanju učinkovitosti, iako tvrtka priznaje da te brojke dolaze iz samoprijavljivanja korisnika, a ne neovisne provjere.

"Oni dolaze izravno iz korisničkih procjena, koje su aproksimacije tijekova rada u stvarnom svijetu," rekla je Kiela. "Brojke su sami prijavili naši korisnici dok opisuju scenarij prije i poslije usvajanja kontekstualne umjetne inteligencije."

Navedeni rezultati su ipak zapanjujući. Napredni proizvođač smanjio je analizu uzroka s osam sati na 20 minuta automatiziranjem analize podataka senzora i korelacije dnevnika. Tvrtka za posebne kemikalije smanjila je istraživanje proizvoda sa sati na minute koristeći agente koji pretražuju patente i regulatorne baze podataka. Proizvođač opreme za testiranje sada generira kod za testiranje u minutama umjesto u danima.

Keith Schaub, potpredsjednik tehnologije i strategije u Advantesttvrtka za opremu za testiranje poluvodiča, ponudila je podršku. "Kontekstualna umjetna inteligencija bila je važan dio naših napora transformacije umjetne inteligencije," rekao je Schaub. "Tehnologija je uvedena u više timova u Advantestu i odabranim krajnjim kupcima, čime se značajno štedi vrijeme na zadacima u rasponu od generiranja testnog koda do tijeka rada klijentskog inženjeringa."

Ostali kupci tvrtke uključuju Qualcommpoluvodički div; ShipBobtehnološki omogućen logistički pružatelj koji tvrdi da je postigao 60 puta brže rješavanje problema; i Nvidiaproizvođač čipova čiji grafički procesori pokreću većinu AI sustava.

Vječna dilema poduzeća: trebaju li tvrtke graditi vlastite AI sustave ili kupovati s polica?

Možda i najveći izazov Kontekstualni AI lica nisu konkurentski proizvodi, već instinkt među inženjerskim organizacijama da izgrade vlastita rješenja.

"Najveća zamjerka je ‘sami ćemo to izgraditi’" Kiela je priznala. "Neki timovi pokušavaju. Zvuči uzbudljivo za učiniti, ali izuzetno je teško to učiniti dobro u velikom broju. Mnogi naši klijenti započeli su s “uradi sam” i otkrili da i dalje otklanjaju pogreške u cjevovodima za dohvaćanje umjesto da rješavaju stvarne probleme 12-18 mjeseci kasnije."

Alternativa — gotova rješenja — predstavlja svoje probleme, tvrdi tvrtka. Takvi se alati brzo postavljaju, ali se često pokažu nefleksibilnima i teško ih je prilagoditi za specifične slučajeve uporabe.

Agent Skladatelj pokušava zauzeti sredinu, nudeći platformski pristup koji kombinira unaprijed izgrađene komponente s opsežnim mogućnostima prilagodbe. Sustav podržava modele OpenAI, Anthropic i Google, kao i vlastiti Grounded Language Model Contextual AI, koji je posebno obučen da ostane vjeran dohvaćenom sadržaju.

Cijene počinju od 50 USD mjesečno za samoposluživanje, s prilagođenim poslovnim cijenama za veće implementacije.

"Opravdanje za financijske direktore zapravo je povećanje produktivnosti i njihovo brže dovođenje do proizvodnje s njihovim AI inicijativama," rekla je Kiela. "Svaki tehnički tim bori se da zaposli vrhunske inženjerske talente, tako da je povećanje produktivnosti postojećih timova veliki prioritet u ovim industrijama."

Put pred nama: koordinacija s više agenata, akcije pisanja i utrka za izgradnju složenih AI sustava

Gledajući unaprijed, Kiela je istaknula tri prioriteta za nadolazeću godinu: automatizacija tijeka rada sa stvarnim radnjama pisanja u sustavima poduzeća umjesto samo čitanja i analiziranja; bolja koordinacija između više specijaliziranih agenata koji rade zajedno; i bržu specijalizaciju kroz automatsko učenje iz proizvodnih povratnih informacija.

"Složeni učinak je ovdje bitan," rekao je. "Svaki dokument koji unesete, svaki povratni krug koji zatvorite, ta se poboljšanja gomilaju. Tvrtke koje sada grade ovu infrastrukturu bit će teško uhvatiti."

Tržište umjetne inteligencije u poduzećima i dalje je žestoko konkurentno, s ponudama velikih pružatelja usluga oblaka, etabliranih dobavljača softvera i niza startupa koji jure za istim klijentima. Hoće li se klađenje Kontekstualne umjetne inteligencije na kontekst umjesto modela isplatiti ovisi o tome hoće li poduzeća dijeliti Kielin stav da su ratovi temeljnih modela manje važni od infrastrukture koja ih okružuje.

Ali postoji određena ironija u pozicioniranju tvrtke. Godinama je AI industrija fiksirana na izgradnju sve većih, sve moćnijih modela – ulažući milijarde u utrku za opću umjetnu inteligenciju. Kontekstualna umjetna inteligencija daje tiši argument: da za većinu poslova u stvarnom svijetu magija nije u modelu. To je znati gdje tražiti.

Web izvor