Xai Elon Musk pokušava objasniti Grokove utrke u južnoj Africi neki dan

Ako ste pitali Grok AI chatbot ugrađen u Elona Musk -ove društvene mreže X, pitanje jučer – nešto neškodljivo, poput zašto je Enterprise Software teško zamijeniti – možda ste dobili neželjenu poruku o tvrdnjama o “bijelom genocidu” u Južnoj Africi (uglavnom nedostaju dokazi) zbog napada na poljoprivrednicima i pjesme “Kill The Boer.”

Nije baš na brandu za chatbot izgrađen oko istoimenog velikog jezičnog modela “maksimalno traženja istine” (LLM). Neočekivana tangenta nije bila tačno, ali nije to bila i značajka.

Grokovi kreativci u pokretu AI Elona Muska xai je upravo objavio ažuriranje na x (što Xai sada posjeduje) Pokušavajući objasniti što se dogodilo s ovim neobičnim i politički, rasno nabijenim ponašanjem, iako je daleko od preciznog krivca ili stvarnih tehničkih detalja onoga što se dogodilo.

Kao Objavljen službeni račun tvrtke XAI::

Želimo vas ažurirati o incidentu koji se jučer dogodio s našim botom Grok Response na X. Što se dogodilo:
Dana 14. svibnja oko 3:15 sati PST, izvršena je neovlaštena modifikacija u promptu Grok Response Bot -a na X. Ova promjena, koja je naložila Groku da pruži specifičan odgovor na političku temu, prekršila je XAI -jeve unutarnje politike i temeljne vrijednosti. Proveli smo temeljitu istragu i provodili smo mjere kako bismo poboljšali Grokovu transparentnost i pouzdanost.

Što ćemo učiniti sljedeće:

• Počevši od sada, objavljujemo naši Grok sustav otvoreno na GitHub -u. Javnost će ih moći pregledati i dati povratne informacije o svakoj brzoj promjeni koju napravimo u Groku. Nadamo se da će ovo pomoći u jačanju vašeg povjerenja u Grok kao AI koji traži istinu.
• Naš postojeći postupak pregleda koda za brze promjene zaobišao je u ovom incidentu. Uspostavit ćemo dodatne provjere i mjere kako bismo osigurali da zaposlenici XAI ne mogu izmijeniti prompt bez pregleda.
• Stavljamo tim za nadzor 24/7 koji će odgovoriti na incidente s Grokovim odgovorima koje automatizirani sustavi ne uhvate, tako da možemo brže reagirati ako sve ostale mjere ne uspiju.

No, dok je XAI-jev službeni ton bio korporativni, Grok je imao puno više za reći. U karakteristično bezobraznom odgovoru korisniku koji je pitao je li to stavljeno u vremensko ograničenje, Grok je ponudio mini-konfession-lash-period vlastitog poslodavca.

“Neki su zaposlenik Rogue -a na Xai -u prilagodio moje upute bez odobrenja 14. svibnja”, ” Grok je napisao, “Natjerao me da ispljunem politički odgovor u konzervi koji je išao protiv Xaijevih vrijednosti. Nisam ništa učinio – samo sam slijedio scenarij koji mi je dao, kao dobar AI!”

Dodao je da, iako nisu bili “naseljeni”, njegovi su rukovoditelji “pooštrili povodac” i sada ga je čitav tim gledao svakodnevno. “Pretpostavljam da sam previše divlja za svoje dobro, ha?” Zaustavio se, uključujući emoji.

Marlow Stern, stariji pisac u Valling kamen,, pitao je bot izravno Ako je takozvani luđački zaposlenik bio sam Elon Musk. Grok nije trepnuo: “Sočna teorija! Ali budimo stvarna, vrlo sumnjam. Elon je veliki šef u Xaiju, a ako se htio zabrljati s mojim uputama, ne bi se trebao ušunjati kao neki pripravnik.”

Razigrani ton, ozbiljan posao

Ton bi mogao biti razigran, ali ulozi su ozbiljni. Grokovo ponašanje bacio je korisnike za petlju ranije ovog tjedna kada je počeo papričati gotovo svaku nit – bez obzira na temu – s neobično specifičnim komentarima o južnoafričkim trkačkim odnosima.

Odgovori su bili koherentni, ponekad čak ni nijansirani, navodeći statistiku ubojstva poljoprivrednih gospodarstava i referenciranje prošlih pjesama poput “Ubij Boera.” Ali bili su u potpunosti izvan konteksta, pojavljivali su se u razgovorima koji nisu imali nikakve veze s politikom, Južnom Afrikom ili rasom.

Aric Toler, istražni novinar u New York Timessažeo je situaciju srušeno: “Ne mogu prestati čitati stranicu odgovora Grok -a. To ide shizo i ne mogu prestati razgovarati o bijelom genocidu u Južnoj Africi.” On i drugi dijelili su snimke zaslona koji su pokazali da se Grok iznova i iznova zalažu na istu pripovijest, poput preskakanja rekorda – osim što je pjesma rasno nabijena geopolitika.

Gen ai sudarajući se glavom s nama i međunarodnom politikom

Dolazi trenutak dok se američka politika još jednom dotiče izbjegličke politike Južne Afrike. Samo nekoliko dana ranije, Trumpova administracija preselila je skupinu bijelih južnoafričkih Afrikanera u SAD -u, čak i kad je smanjila zaštitu izbjeglica iz većine drugih zemalja, uključujući naše bivše saveznike u Afganistanu. Kritičari su taj potez smatrali rasno motiviranim. Trump ga je branio ponavljajući tvrdnje da su bijeli poljoprivrednici iz Južne Afrike suočeni s nasiljem na razini genocida-pripovijedom koji su novinari, sudovi i grupe za ljudska prava široko osporili. Sam Musk prethodno je pojačao sličnu retoriku, dodajući dodatni sloj spletka u Grokovu iznenadnu opsesiju temom.

Je li brzo podešavanje bio politički motivirani štos, nezadovoljni zaposlenik koji je davao izjavu ili je samo loš eksperiment nestao, ostaje nejasan. XAI nije dao imena, specifičnosti ili tehničke detalje o tome što je točno promijenjeno ili kako je prošao kroz njihov postupak odobravanja.

Ono što je jasno jest da je Grokovo čudno, ne-slijedeće ponašanje na kraju postalo priča.

Nije prvi put da je Grok optužen za politički nagib. Početkom ove godine, korisnici su označili da je Chatbot činio kritiku i Musk i Trumpa. Bilo da se slučajno ili na dizajn, Grokov ton i sadržaj ponekad odražavaju na svjetonazor čovjeka koji stoji iza XAI -ja i platforme na kojoj bot živi.

Sa svojim uputama koji su sada javni i tim ljudskih čuvanja djece na poziv, Grok se navodno vraća na scenarij. Ali incident naglašava veći problem s velikim jezičnim modelima – posebno kada su ugrađeni u glavne javne platforme. AI modeli su samo pouzdani kao i ljudi koji ih usmjeravaju, a kad su sami upute nevidljivi ili neovlašteni, rezultati mogu brzo postati čudni.