Između utopije i kolapsa: Navigacija AI -jeve mutne srednje budućnosti

U postu na blogu Nježna singularnostIzvršni direktor OpenAi -a Sam Altman naslikao je viziju bliske budućnosti u kojoj AI tiho i dobrolentno transformira ljudski život. Neće biti oštrih prekida, sugerira, samo stalni, gotovo neprimjetan uspon prema obilju. Inteligencija će postati dostupna kao i struja. Roboti će do 2027. obavljati korisne zadatke iz stvarnog svijeta. Znanstveno otkriće će se ubrzati. I, čovječanstvo će, ako se pravilno voditi pažljivim upravljanjem i dobrim namjerama, procvjetati.

To je uvjerljiva vizija: mirna, tehnokratska i prepuna optimizma. Ali to također postavlja dublja pitanja. Kakav svijet moramo proći da bismo stigli tamo? Tko ima koristi i kada? A što je ostalo neizgovoreno u ovom glatkom luku napretka?

Autor znanstvene fantastike William Gibson nudi tamniji scenarij. U svom romanu Periferniblistavim tehnologijama budućnosti prethodi nešto što se naziva “Jackpot”-sporo motion kaskada klimatskih katastrofa, pandemije, ekonomski kolaps i masovna smrt. Tehnologija napreduje, ali tek nakon lomova društva. Pitanje koje postavlja nije dolazi li napredak, već je li civilizacija uspio u tom procesu.

Postoji argument da AI može pomoći u sprječavanju vrsta katastrofa koje su predviđene u Periferni. Međutim, hoće li nam AI pomoći da izbjegnemo katastrofe ili nas samo prati kroz njih ostaje neizvjesno. Vjerovanje u buduću moć AI -ja nije jamstvo performansi, a unapređenje tehnološke sposobnosti nije sudbina.

Između Altmanove nježne singularnosti i Gibsonovog jackpota leži Murkier Middle Ground: budućnost u kojoj AI donosi stvarni dobitak, ali i stvarnu dislokaciju. Budućnost u kojoj neke zajednice napreduju, dok se druge sukobljavaju i gdje se naša sposobnost kolektivnog prilagođavanja – ne samo pojedinačno ili institucionalno – postaje najvažnija varijabla.

Mutna sredina

Ostale vizije pomažu u skiciranju kontura ovog srednjeg terena. U blizu budućnosti trilera IzgorjetiDruštvo je preplavljeno automatizacijom prije nego što su njegove institucije spremne. Poslovi nestaju brže nego što ljudi mogu ponovno kvalificirati, pokrećući nemire i represiju. U tome, uspješan odvjetnik gubi položaj prema AI agentu i nesretno postaje internetska, dežurna koncierga do bogatih.

Nedavno istraživači u AI Lab Anthropiju odjeknuo Ova tema: „Trebali bismo očekivati ​​da ćemo vidjeti [white collar jobs] automatizirano u narednih pet godina. ” Iako su uzroci složeni, postoje Znakovi ovo počinje i da tržište rada ulazi u Nova strukturna faza To je manje stabilno, manje predvidljivo i možda manje središnje u načinu na koji društvo distribuira značenje i sigurnost.

Film Elizij Nudi tupu metaforu bogatih bijega u orbitalne svetišta s naprednim tehnologijama, dok se degradirana zemlja ispod bori s nejednakim pravima i pristupom. Prije nekoliko godina, partner u tvrtki rizičnog kapitala Silicijske doline rekao mi je da se boji da se krećemo u ovakav scenarij, osim ako ne distribuiramo prednosti koje je proizveo AI. Ovi špekulativni svjetovi podsjećaju nas da čak i korisne tehnologije mogu biti društveno nestabilne, posebno kada su njihovi dobici nejednako raspoređeni.

Na kraju bismo mogli postići nešto poput Altmanove vizije obilja. Ali put tamo malo vjerojatno neće biti glatka. Zbog svu svoju elokvenciju i mirno jamstvo, njegov je esej također vrsta tona, toliko uvjeravanja kao i predviđanja. Pripovijest o “nježnoj singularnosti” je utješna, čak i primamljiva, upravo zato što zaobilazi trenje. Nudi prednosti neviđene transformacije bez u potpunosti se borite s preokretima koje takva transformacija obično donosi. Kao što nas podsjeća bezvremenski klišej: ako zvuči previše dobro da bi bilo istinito, vjerojatno jest.

To ne znači da je njegova namjera nepokolebljiva. Doista, možda je srdačno. Moj je argument jednostavno priznanje da je svijet složen sustav, otvoren za neograničene unose koji mogu imati nepredvidive posljedice. Od sinergističke sreće do nesretnog Crni labud Događaji, rijetko jedna stvar ili jedna tehnologija diktira budući tijek događaja.

Utjecaj AI na društvo već je u tijeku. Ovo nije samo pomak u vještinama i sektorima; To je transformacija u načinu na koji organiziramo vrijednost, povjerenje i pripadnost. Ovo je područje kolektivne migracije: ne samo pokret rada, već i svrhe.

Kako AI rekonfigurira teren spoznaje, tkanina našeg društvenog svijeta tiho se guši i ponovno podmukla, na bolje ili gore. Pitanje nije samo koliko se brzo krećemo kao društva, već koliko zamišljeno migriramo.

Kognitivni zajednici: Naš zajednički teren razumijevanja

Povijesno, Commons se odnosio na zajedničke fizičke resurse, uključujući pašnjake, ribarstvo i predviđanje koji se drže u povjerenju za kolektivno dobro. Moderna društva, međutim, također ovise o kognitivnim zajednici: zajednička domena znanja, pripovijesti, normi i institucija koje omogućuju raznolikim pojedincima da razmišljaju, raspravljaju i odlučuju zajedno u minimalnom sukobu.

Ova nematerijalna infrastruktura sastoji se od javnog obrazovanja, novinarstva, knjižnica, građanskih rituala, pa čak i široko pouzdanih činjenica, i to je ono što omogućuje pluralizam. To je koliko stranci namjerno, kako zajednice se bave i kako funkcionira demokracija. Kako AI sustavi počinju posredovati kako se pristupa znanju i oblikuje vjerovanje, ovaj zajednički rizik od terena postaje slomljen. Opasnost nije samo dezinformacije, već ovisi i spora erozija samog tla na kojem ovisi zajedničko značenje.

Ako je kognitivna migracija putovanje, to nije samo prema novim vještinama ili ulogama, već i prema novim oblicima kolektivnog smisla. Ali što se događa kada se teren koji dijelimo počinje razdvajati ispod nas?

Kada spoznaja fragmenti: AI i erozija zajedničkog svijeta

Stoljećima su se društva oslanjala na lagano održanu zajedničku stvarnost: zajednički skup činjenica, pripovijesti i institucija koje oblikuju kako ljudi razumiju svijet i jedni druge. Upravo taj zajednički svijet – ne samo infrastruktura ili ekonomija – omogućava pluralizam, demokraciju i socijalno povjerenje. No, kako AI sustavi sve više posreduju kako ljudi pristupaju znanju, konstruiraju vjerovanje i kreću se u svakodnevnom životu, to se zajedničko tlo fragmentira.

Već velika personalizacija transformira informativni krajolik. AI-utemeljeni vijesti, prilagođeni rezultati pretraživanja i algoritmi preporuke suptilno su lomljeni javnom sferom. Dvoje ljudi koje postavljaju isto pitanje istog chatbota mogu dobiti različite odgovore, dijelom i zbog vjerojatne prirode generativnog AI, ali i zbog prethodnih interakcija ili zaključenih sklonosti. Iako je personalizacija odavno bila značajka digitalne ere, AI turbo puni svoj domet i suptilnost. Rezultat nije samo Filter mjehurićiTo je epiztemski odlazak – preoblikovanje znanja i potencijalno istine.

Povjesničar Yuval Noah Harari izrazio je hitnu zabrinutost zbog ove promjene. Prema njegovom mišljenju, najveća prijetnja AI ne leži u fizičkoj šteti ili raseljavanju posla, već u emocionalnom zarobljavanju. AI sustavi, upozorio je, postaju sve vještiji u simulaciji empatije, oponašajući zabrinutost i prilagođavanje narativa individualnoj psihologiji – pružajući im neviđenu moć da oblikuju način na koji ljudi misle, osjećaju i dodjeljuju vrijednost. Opasnost je ogromna u Hararijevom mišljenju, ne zato što će AI lagati, već zato što će se tako uvjerljivo povezati. Ovo ne djeluje dobro za Nježna singularnost.

U svijetu posredovanom AI-om, sama stvarnost riskira da postane individualiziranija, modularnija i manje kolektivno pregovarana. To može biti podnošljivo – ili čak korisno – za potrošačke proizvode ili zabavu. Ali kad se proširi na građanski život, to predstavlja dublji rizik. Možemo li i dalje imati demokratski diskurs ako svaki građanin naseljava suptilno drugačiju kognitivnu kartu? Možemo li još uvijek upravljati mudro kada se institucionalno znanje sve više odvija na strojevima čiji podaci o obuci, sistemski poticaji i procesi rasuđivanja ostaju neprozirni?

Postoje i drugi izazovi. Ai-generirani sadržaj, uključujući tekst, audio i video uskoro će se nejasno razlikovati od ljudskog izlaza. Kako generativni modeli postaju vještiji u mimikriji, teret provjere prebacit će se s sustava na pojedince. Ova inverzija može umanjiti povjerenje ne samo u ono što vidimo i čujemo, već i u institucijama koje su jednom potvrdile zajedničku istinu. Kognitivni zajednici tada postaju zagađeni, manje mjesto za promišljanje, više dvorana ogledala.

To nisu spekulativne brige. Ai-generirane dezinformacije kompliciraju izbore, potkopavaju novinarstvo i stvaraju zbrku u sukobima. I kako se sve više ljudi oslanja na AI za kognitivne zadatke – od sažetka vijesti do rješavanja moralnih dilema, sposobnost da se zajedno razmišljaju mogu se degradirati, čak i dok alati za razmišljanje pojedinačno postaju snažniji.

Taj je trend ka dezintegraciji zajedničke stvarnosti sada dobro napredan. Da bi se to izbjeglo, zahtijeva svjesni dizajn brojača: sustavi koji prioritet pluralizmu nad personalizacijom, transparentnost nad praktičnošću i zajedničko značenje nad prilagođenom stvarnošću. U našem algoritmičkom svijetu vođenom konkurencijom i profitom, ti se izbori čini malo vjerojatnim, barem u razmjeru. Pitanje nije samo koliko se brzo krećemo kao društva ili čak možemo li držati zajedno, već kako mudro krećemo u ovom zajedničkom putovanju.

Kretanje arhipelagom: prema mudrosti u doba AI

Ako doba AI ne dovodi do objedinjenog kognitivnog zajednice, već do slomljenog arhipelaga različitih pojedinaca i zajednica, zadatak pred nama nije obnoviti stari teren, već da nauči kako mudro živjeti među otocima.

Kako brzina i opseg promjene nadmašuju sposobnost većine ljudi da se prilagode, mnogi će se osjećati neometano. Poslovi će se izgubiti, kao i dugotrajne pripovijesti o vrijednosti, stručnosti i pripadnosti. Kognitivna migracija dovest će do novih zajednica značenja, od kojih se neke već formiraju, čak i ako imaju manje zajedničkog nego u prethodnim erima. To su kognitivni arhipelagos: zajednice u kojima se ljudi okupljaju oko zajedničkih uvjerenja, estetskih stilova, ideologija, rekreacijskih interesa ili emocionalnih potreba. Neki su benigna okupljanja kreativnosti, podrške ili svrhe. Drugi su otočniji i opasniji, vođeni strahom, pritužbom ili zavjerom.

Napredak AI ubrzat će ovaj trend. Čak i dok to razdvaja ljude algoritamskom preciznošću, istovremeno će pomoći ljudima da se međusobno pronađu širom svijeta, kurirajući sve finije usklađenosti identiteta. Ali čineći to, može otežati održavanje grubog, ali potrebnog trenja pluralizma. Lokalne veze mogu oslabiti. Uobičajeni sustavi vjerovanja i percepcija zajedničke stvarnosti mogu se narušiti. Demokracija, koja se oslanja i na zajedničku stvarnost i promišljeni dijalog, može se boriti za zadržavanje.

Kako se krećemo ovim novim terenom mudrošću, dostojanstvom i povezanošću? Ako ne možemo spriječiti fragmentaciju, kako živimo humano u njoj? Možda odgovor ne započinje ne rješenjima, već s učenjem samih pitanja drugačije.

Živjeti s pitanjem

Možda nećemo moći ponovno sastaviti društvene kognitivne zajednice kakva je bila nekada. Centar se možda neće zadržati, ali to ne znači da moramo letjeti bez smjera. Preko Arhipelagosa zadatak će biti naučiti mudro živjeti na ovom novom terenu.

Možda će trebati rituale koji nas usidre kada su naši alati dezorijentirani i zajednice koje se ne formiraju oko ideološke čistoće, već oko zajedničke odgovornosti. Možda će nam trebati novi oblici obrazovanja, ne da bismo nadmašili ili se umrli s strojevima, već da produbimo svoj kapacitet za razlučivanje, kontekst i etičku misao.

Ako je AI razdvojio zemlju ispod nas, to također predstavlja priliku da ponovo pitamo za što smo ovdje. Ne kao potrošači napretka, već kao upravitelji značenja.

Put naprijed nije vjerojatno glatka ili nježna. Dok se krećemo kroz mutnu sredinu, možda oznaka mudrosti nije sposobnost savladavanja onoga što dolazi, već proći kroz njega s jasnoćom, hrabrošću i brigom. Ne možemo zaustaviti napredovanje tehnologije ili negirati produbljivanje društvenih prijeloma, ali možemo odlučiti da se razmaci namiječe između.

Gary Grossman je EVP tehnološke prakse u Edelmanu.