Rješavanje kvara umjetne inteligencije: tri promjene koje poduzeća trebaju napraviti sada

Nedavno izvješća o stopama neuspjeha projekata umjetne inteligencije postavili su neugodna pitanja za organizacije koje mnogo ulažu u umjetnu inteligenciju. Velik dio rasprava bio je usredotočen na tehničke čimbenike kao što su točnost modela i kvaliteta podataka, ali nakon gledanja pokretanja desetaka AI inicijativa, primijetio sam da su najveće prilike za poboljšanje često kulturne, a ne tehničke prirode.

Interni projekti koji se bore imaju zajedničke probleme. Na primjer, inženjerski timovi grade modele koje voditelji proizvoda ne znaju koristiti. Znanstvenici koji se bave podacima izrađuju prototipove koje operativni timovi teško održavaju. A AI aplikacije ostaju neiskorištene jer ljudi za koje su napravljene nisu sudjelovali u odlučivanju što zapravo znači “korisno”.

Nasuprot tome, organizacije koje postižu značajnu vrijednost pomoću umjetne inteligencije otkrile su kako stvoriti pravu vrstu suradnje između odjela i uspostavile zajedničku odgovornost za rezultate. Tehnologija je bitna, ali jednako je bitna i organizacijska spremnost.

Evo tri prakse koje sam primijetio, a koje se bave kulturnim i organizacijskim preprekama koje mogu spriječiti uspjeh umjetne inteligencije.

Proširite AI pismenost izvan inženjerstva

Kada samo inženjeri razumiju kako AI sustav funkcionira i za što je sposoban, suradnja se prekida. Voditelji proizvoda ne mogu procijeniti kompromise koje ne razumiju. Dizajneri ne mogu stvoriti sučelja za mogućnosti koje ne mogu artikulirati. Analitičari ne mogu potvrditi rezultate koje ne mogu protumačiti.

Rješenje nije u tome da svi postanu podatkovni znanstvenici. Pomaže svakoj ulozi razumjeti kako se umjetna inteligencija primjenjuje na njihov specifični posao. Voditelji proizvoda trebaju shvatiti koje su vrste generiranog sadržaja, predviđanja ili preporuka realne s obzirom na dostupne podatke. Dizajneri moraju razumjeti što AI zapravo može učiniti kako bi mogli dizajnirati značajke koje će korisnicima biti korisne. Analitičari moraju znati koji rezultati umjetne inteligencije zahtijevaju ljudsku provjeru, a koji se mogu povjeriti.

Kada timovi dijele ovaj radni rječnik, AI prestaje biti nešto što se događa u inženjerskom odjelu i postaje alat koji cijela organizacija može učinkovito koristiti.

Uspostavite jasna pravila za autonomiju umjetne inteligencije

Drugi izazov uključuje saznanje gdje umjetna inteligencija može djelovati sama, a gdje je potrebno ljudsko odobrenje. Mnoge organizacije idu u krajnosti, bilo usko grlo svake odluke umjetne inteligencije kroz ljudski pregled ili dopuštajući sustavima umjetne inteligencije da rade bez zaštitnih ograda.

Ono što je potrebno je jasan okvir koji definira gdje i kako AI može djelovati autonomno. To znači unaprijed uspostaviti pravila: može li AI odobriti rutinske promjene konfiguracije? Može li preporučiti ažuriranja sheme, ali ih ne implementirati? Može li primijeniti kod u scenskim okruženjima, ali ne iu proizvodnji?

Ta bi pravila trebala uključivati ​​tri elementa: revizibilnost (možete li pratiti kako je AI donio svoju odluku?), ponovljivost (možete li ponovno stvoriti put odluke?), i uočljivost (mogu li timovi pratiti ponašanje umjetne inteligencije dok se događa?). Bez tog okvira ili usporavate do točke u kojoj AI ne pruža nikakvu prednost ili stvarate sustave koji donose odluke koje nitko ne može objasniti ili kontrolirati.

Izradite višefunkcionalne knjige

Treći korak je kodificiranje načina na koji različiti timovi zapravo rade sa sustavima umjetne inteligencije. Kada svaki odjel razvije vlastiti pristup, dobivate nedosljedne rezultate i suvišan trud.

Višefunkcionalne knjige za igru ​​najbolje funkcioniraju kada ih timovi razvijaju zajedno, umjesto da su nametnute odozgo. Ove knjige odgovaraju na konkretna pitanja kao što su: Kako testirati preporuke umjetne inteligencije prije nego što ih stavimo u proizvodnju? Koja je naša zamjenska procedura kada automatizirana implementacija ne uspije – predaje li se ljudskim operaterima ili prvo isprobati drugačiji pristup? Tko treba biti uključen kada poništimo odluku umjetne inteligencije? Kako ćemo uključiti povratne informacije za poboljšanje sustava?

Cilj nije dodati birokraciju. Osigurava da svi razumiju kako se umjetna inteligencija uklapa u njihov postojeći posao i što učiniti kada rezultati ne odgovaraju očekivanjima.

Kretanje naprijed

Tehnička izvrsnost u umjetnoj inteligenciji i dalje je važna, ali poduzeća koja pretjerano indeksiraju performanse modela, a ignoriraju organizacijske čimbenike, postavljaju se pred izazove koje je moguće izbjeći. Uspješne implementacije umjetne inteligencije koje sam vidio tretiraju kulturnu transformaciju i tijek rada jednako ozbiljno kao i tehničku implementaciju.

Pitanje nije je li vaša AI tehnologija dovoljno sofisticirana. Važno je je li vaša organizacija spremna raditi s njim.

Adi Polak direktor je za zagovaranje i razvoj iskustva programera u Confluentu.

Web izvor