Upoznajte svog AI revizora: Kako ova nova radna uloga prati ponašanje modela

Pratite ZDNET: Dodajte nas kao željeni izvor na Googleu.

Ključni podaci ZDNET-a za van

• AI revizori obavljaju iste funkcije kao financijski revizori, ali za AI output.
• Trenutačno samo osiguranje kvalitete provjerava točnost i održivost umjetne inteligencije.
• AI revizori trebaju i AI stručnost i poslovno znanje.

Neumorni uspon umjetne inteligencije (AI) stvara novu ulogu za poslovne i tehnološke stručnjake: AI revizor. Ova uloga nevjerojatno podsjeća na ulogu financijskih revizora, s velikom iznimkom: AI revizori nadziru i izvješćuju o ponašanju AI transakcija, a ne o novčanim transakcijama.

Također: Kako uspon izvornog softvera AI-ja može malim i srednjim poduzećima dati snagu na razini poduzeća

Takva uloga nije mogla doći u bolje vrijeme. AI je sada sveprisutan, ali često je prožet lošom kvalitetom podataka, pomicanjem modela, pristranostima, halucinacijama, nepravilnostima i drugim problemima. Profesionalci moraju razumjeti koje uloge imaju budućnost u svijetu umjetne inteligencije — i da je upravljanje umjetnom inteligencijom više od isključivo tehničke uloge. Revizori umjetne inteligencije neće biti samo tehnički nadzornici; morat će osigurati točnost i održivost umjetne inteligencije u skladu sa zakonom, etikom, sigurnošću i znanošću o ponašanju. Naime, procesi koje nadziru AI revizori potpuno su isti kao i zadaci financijskih revizora, koji su uključeni u uzorkovanje, testiranje i certifikaciju.

Osiguravanje da je AI odgovoran i pouzdan

U svojim stalnim procjenama popisa poslova, ZipRecruiter procjene da revizori umjetne inteligencije zarađuju godišnje plaće između 50.000 i 81.000 dolara, pri čemu oni s najvećim primanjima zarađuju 105.500 dolara diljem SAD-a.

Trenutačno AI revizori postoje u vrlo rudimentarnom obliku, prema Zoharu Bronfmanu, suosnivaču i izvršnom direktoru Pecan.aikoji je pratio nastanak ove relativno nove pozicije. “Trenutno ne postoji strukturirana uloga posvećena reviziji etičkog ili društveno prihvatljivog ponašanja.”

Također: Jaz kodiranja umjetne inteligencije: Zašto stariji razvojni programeri postaju brži dok juniori vrte svoje kotače

Najbliža uloga revizoru umjetne inteligencije sada se vidi unutar timova zaduženih za pregled ponašanja modela umjetne inteligencije, ali njihov je rad sličniji osiguranju kvalitete, rekao je Bronfman. Recenzije pokrivaju “rezultate, izvanredne vrijednosti i rubne slučajeve te procese obuke za reviziju svojstava unosa podataka, točnosti i predvidljivosti.”

Revizori umjetne inteligencije uložit će više zuba kako bi osigurali da je AI odgovorna i pouzdana. Uloge AI auditora vjerojatno će biti mješavina različitih funkcija:

• Inženjerski nadzor: To podrazumijeva “brigu da se modeli razvijaju, obučavaju i održavaju u skladu s prihvatljivim inženjerskim i tehnološkim standardima”, rekao je Bronfman.
• Praćenje ponašanja: AI revizor će potvrditi da je ponašanje AI modela “predvidljivo i vidljivo, i da su sve radnje modela – kao što su integracija, API, MCP, RAG – sljedive i zabilježene.” Revizor će se također pobrinuti da model “djeluje samo unutar unaprijed odobrenih zaštitnih ograda i ne pokušava se integrirati u izvore podataka za koje nema autorizaciju, vjerodajnice ili potrebu za njima.”
• Pojačanje zaštitne ograde: Ovdje revizor ima zadatak “osigurati da model ili agent ne pokušava petljati s vlastitim izvornim kodom”, rekao je Bronfman. To također uključuje “testiranje hoće li model postati skitnica pod određenim brzim uvjetima.” Revizor će također provesti istragu incidenta i pozvati vlasnika modela na odgovornost.

Također: agenti umjetne inteligencije su brzi, opušteni i izvan kontrole, otkriva studija MIT-a

Bronfman je ukazao na neke hipotetske primjere koje bi revizor AI tražio i aktivno radio na sprječavanju:

• Neovlaštena upotreba alata ili pristup sustavu: To se može sastojati od AI agenta koji “pokušava promijeniti vjerodajnice za prijavu, pristupa osjetljivim podacima bez odgovarajućeg ovlaštenja ili prodrijeti u softver kritične infrastrukture izvan svog odobrenog opsega”, rekao je Bronfman.
• Skrivena pristranost: To je posebno zabrinjavajuće u donošenju financijskih odluka, osobito u domenama kao što su kreditno bodovanje, pozajmljivanje, zapošljavanje ili osiguranje.
• Netransparentno donošenje odluka: To bi moglo biti problematično unutar zdravstvenih ustanova. “Na primjer, lažni agent koji optimizira troškove ili učinkovitost mogao bi depriorizirati resurse za kritično bolesnog pacijenta”, rekao je Bronfman. “Sve odluke koje uključuju moralnu prosudbu moraju ostati pod ljudskom vlašću.”

AI revizorske tvrtke trećih strana

Poslovi revizije AI neće se naći samo u poduzećima. Baš kao što se organizacije obično oslanjaju na vanjske financijske revizore, postojat će mnoge uloge unutar revizorskih tvrtki treće strane za umjetnu inteligenciju. “Neovisni revizori treće strane pružaju strukturirani nadzor i sprječavaju sukobe interesa”, rekao je Bronfman. Revizijski standardi i kodeksi ponašanja umjetne inteligencije mogli bi čak biti podržani “od strane tijela poput UN-a ili koalicije velikih država, gdje će implementacija zahtijevati stalne revizije ponašanja i obaveznu transparentnost.”

Također: Anthropic je umirovio popularni AI model i sada blogira na Substacku

Kako bi prešli u ovu vrstu uloge, budući revizori AI-a “morat će duboko razumjeti AI i kako algoritam radi kako bi identificirali gdje su zamke i testirali kako može zakazati”, rekao je Bronfman. “Timovi za reviziju umjetne inteligencije trebali bi biti multidisciplinarni i uključivati ​​stručnjake za pravo, etiku, sigurnost, bihevioralne znanosti i političku teoriju, koji se kontinuirano udružuju i provode bihevioralno uzorkovanje u različitim domenama.”