Neželjene posljedice: rezultati izbora u SAD-u najavljuju nepromišljeni razvoj umjetne inteligencije

Pro-poslovni stav novoizabranog predsjednika Donalda Trumpa navodi mnoge na pretpostavku da će njegova administracija favorizirati one koji razvijaju i plasiraju AI i druge napredne tehnologije. Njegova stranka platforma ima malo toga za reći o AI. Međutim, naglašava politički pristup usmjeren na ukidanje propisa o umjetnoj inteligenciji, posebno ciljajući na ono što su opisali kao “radikalne lijeve ideje” unutar postojećih izvršnih naredbi odlazeće administracije. Nasuprot tome, platforma je podržavala razvoj umjetne inteligencije usmjeren na poticanje slobode govora i “ljudskog procvata”, pozivajući na politike koje omogućuju inovacije u umjetnoj inteligenciji, dok se protive mjerama za koje se smatra da koče tehnološki napredak.

Rani pokazatelji temeljeni na imenovanjima na vodeće državne položaje naglašavaju ovaj smjer. Međutim, razvija se šira priča: rješenje intenzivne rasprave o budućnosti umjetne inteligencije.

Intenzivna rasprava

Otkako se ChatGPT pojavio u studenom 2022., vodi se žestoka rasprava između onih u području umjetne inteligencije koji žele ubrzati razvoj umjetne inteligencije i onih koji ga žele usporiti.

Poznato je da je u ožujku 2023. potonja grupa predložila šestomjesečnu pauzu AI u razvoju najnaprednijih sustava, upozoravajući otvoreno pismo da AI alati predstavljaju “duboke rizike za društvo i čovječanstvo”. Ovo pismo, koje je predvodio Institut budućnosti života potaknut je OpenAI-jevim izdanjem GPT-4 velikog jezičnog modela (LLM), nekoliko mjeseci nakon lansiranja ChatGPT-a.

Pismo je prvobitno potpisalo više od 1000 tehnoloških vođa i istraživača, uključujući Elona Muska, suosnivača Applea Stevea Wozniaka, predsjedničkog kandidata 2020. Andrewa Yanga, podcastera Lexa Fridmana i pionire umjetne inteligencije Yoshua Bengia i Stuarta Russella. Broj potpisnika pisma na kraju je narastao na više od 33.000. Zajedno su postali poznati kao “doomers”, izraz kojim se izražava njihova zabrinutost zbog mogućih egzistencijalnih rizika od umjetne inteligencije.

Nisu se svi složili. Generalni direktor OpenAI-ja Sam Altman nije potpisao. Kao ni Bill Gates i mnogi drugi. Njihovi razlozi zašto to nisu učinili bili su različiti, iako su mnogi izrazili zabrinutost zbog moguće štete od umjetne inteligencije. To je dovelo do mnogih razgovora o mogućnosti da AI podivlja, što dovodi do katastrofe. Za mnoge u području umjetne inteligencije postalo je moderno govoriti o svojim procjena vjerojatnosti propastičesto se naziva jednadžba: p(propast). Ipak, rad na razvoju umjetne inteligencije nije zastao.

Za zapisnik, moj p(doom) u lipnju 2023. bio je 5%. To bi moglo izgledati malo, ali nije bila nula. Osjećao sam da su glavni laboratoriji umjetne inteligencije bili iskreni u svojim naporima da strogo testiraju nove modele prije puštanja u promet i da su osigurali značajne zaštitne ograde za njihovu upotrebu.

Mnogi promatrači zabrinuti zbog opasnosti od umjetne inteligencije procijenili su egzistencijalne rizike višima od 5%, a neki su ih ocijenili mnogo višima. Istraživač sigurnosti AI-ja Roman Yampolskiy ocijenio je vjerojatnost AI-ja okončati čovječanstvo na preko 99%. To je rekao, a studija objavljeno početkom ove godine, mnogo prije izbora i predstavljajući stajališta više od 2700 istraživača umjetne inteligencije, pokazalo je da je “medijan predviđanja za izuzetno loše ishode, kao što je izumiranje ljudi, bio 5%.” Biste li se ukrcali u avion da postoji 5% šanse da se sruši? Ovo je dilema s kojom se suočavaju istraživači i kreatori politike AI.

Mora ići brže

Drugi su otvoreno odbacivali brige oko umjetne inteligencije, ukazujući umjesto toga na ono što su vidjeli kao veliku prednost tehnologije. Među njima su Andrew Ng (koji je osnovao i vodio projekt Google Brain) i Pedro Domingos (profesor računalnih znanosti i inženjerstva na Sveučilištu Washington i autor knjige “Glavni algoritam”). Umjesto toga, tvrdili su da je AI dio rješenja. Kao što je naveo Ng, doista postoje egzistencijalne opasnosti, poput klimatskih promjena i budućih pandemija, a umjetna inteligencija može biti dio načina na koji se one rješavaju i ublažavaju.

Ng je tvrdio da razvoj umjetne inteligencije ne bi trebao biti pauziran, već bi trebao ići brže. Ovaj utopijski pogled na tehnologiju ponovili su i drugi koji su zajednički poznati kao “efektivni akceleratoristi” ili skraćeno “e/acc”. Tvrde da tehnologija, a posebno umjetna inteligencija, nije problem, već rješenje većine, ako ne i svih, svjetskih problema. Akcelerator pokretanja Y kombinator Izvršni direktor Garry Tan, zajedno s drugim istaknutim čelnicima iz Silicijske doline, uključio je pojam “e/acc” u svoja korisnička imena na X kako bi pokazao usklađenost s vizijom. Reporter Kevin Roose u New York Timesu uhvatio bit ovih akceleratora govoreći da imaju “pristup samo na plin, bez kočenja”.

Podskup bilten od prije nekoliko godina opisao je principe koji stoje u osnovi učinkovitog akceleranizma. Evo sažetka koji nude na kraju članka, plus komentar izvršnog direktora OpenAI-ja Sama Altmana.

AI ubrzanje naprijed

Ishod izbora 2024. može se smatrati prekretnicom, stavljajući akceleranističku viziju u poziciju da oblikuje američku politiku umjetne inteligencije u sljedećih nekoliko godina. Na primjer, novoizabrani predsjednik nedavno je imenovao tehnološkog poduzetnika i investitora rizičnog kapitala Davida Sacksa za “cara umjetne inteligencije”.

Sacks, glasni kritičar regulacije umjetne inteligencije i zagovornik tržišno vođenih inovacija, donosi svoje iskustvo ulagača u tehnologiju u ovu ulogu. On je jedan od vodećih glasova u industriji umjetne inteligencije i velik dio onoga što je rekao o umjetnoj inteligenciji u skladu je s akceleratorističkim stajalištima izraženim na nadolazećoj stranačkoj platformi.

Kao odgovor na izvršnu naredbu AI-ja Bidenove administracije 2023., Sacks cvrkutao: “Politička i fiskalna situacija u SAD-u beznadno je slomljena, ali kao država imamo jednu prednost bez premca: vrhunsku inovaciju u umjetnoj inteligenciji koju pokreće potpuno slobodno i neregulirano tržište za razvoj softvera. To je upravo završilo.” Dok se količina utjecaja koju će Sacks imati na politiku umjetne inteligencije tek treba vidjeti, njegovo imenovanje signalizira pomak prema politikama koje favoriziraju samoregulaciju industrije i brze inovacije.

Izbori imaju posljedice

Sumnjam da je većina birača prilikom glasanja mnogo razmišljala o implikacijama politike umjetne inteligencije. Ipak, na vrlo opipljiv način, akceleratoristi su pobijedili kao posljedicu izbora, potencijalno potisnuvši one koji zagovaraju oprezniji pristup savezne vlade kako bi ublažila dugoročne rizike umjetne inteligencije.

Dok akceleracionisti crtaju put naprijed, ulozi ne mogu biti veći. Ostaje za vidjeti hoće li ovo doba donijeti napredak bez premca ili nenamjernu katastrofu. Kako se razvoj umjetne inteligencije ubrzava, potreba za informiranim javnim diskursom i budnim nadzorom postaje sve važnija. Način na koji ćemo se snalaziti u ovoj eri definirat će ne samo tehnološki napredak nego i našu zajedničku budućnost.

Kao protuteža nedostatku djelovanja na saveznoj razini, moguće je da će jedna ili više država donijeti različite propise, što se već donekle dogodilo u Kalifornija i Colorado. Na primjer, prijedlozi zakona o sigurnosti umjetne inteligencije u Kaliforniji usredotočeni su na zahtjeve transparentnosti, dok se Colorado bavi diskriminacijom umjetne inteligencije pri zapošljavanju, nudeći modele za upravljanje na državnoj razini. Sada će sve oči biti uprte u dobrovoljno testiranje i samonametnute zaštitne ograde u Anthropicu, Googleu, OpenAI-u i drugim razvijačima AI modela.

Ukratko, pobjeda akceleratorista znači manje ograničenja za inovacije umjetne inteligencije. Ova povećana brzina doista može dovesti do bržih inovacija, ali također povećava rizik od neželjenih posljedica. Sada revidiram svoj p(doom) na 10%. Što je tvoje?

Gary Grossman je EVP tehnološke prakse u Edelman i globalno vodstvo Edelman AI Centra izvrsnosti.