Zašto je umjetna inteligencija i prokletstvo i blagoslov za softver otvorenog koda – prema programerima

Pratite ZDNET: Dodajte nas kao željeni izvor na Googleu.

Ključni podaci ZDNET-a za van

• Ako se pravilno koristi, umjetna inteligencija, kao i Anthropic i Mozilla, može pomoći otvorenom kodu.
• Ako se loše koristi, kao s Googleom i FFmpegom, AI šteti otvorenom kodu.
• Linux koristi AI za rješavanje mnogih dosadnih, ali potrebnih zadataka.

Nedavno su se pojavile sjajne vijesti o umjetnoj inteligenciji i otvorenom kodu: Anthropicov Claude Opus 4.6 AI pomaže u čišćenju Firefoxovog otvorenog koda. Prema Mozillamatična tvrtka Firefoxa, Anthropicov tim Frontier Red pronašao je više bugova visoke ozbiljnosti u Firefoxu u samo dva tjedna nego što ljudi obično prijavljuju u dva mjeseca. Mozilla je objavila: “Ovo je jasan dokaz da je analiza velikih razmjera uz pomoć umjetne inteligencije snažan novi dodatak sigurnosti kutija za inženjerski alat.”

Također: umjetna inteligencija postaje zastrašujuće dobra u pronalaženju skrivenih softverskih grešaka – čak i u desetljećima starom kodu

To je super, zar ne? Pravo!? Pa, ne tako brzo. Postoji još jedna tamnija strana upotrebe umjetne inteligencije u softveru otvorenog koda. Daniel Stenberg, kreator popularnog programa za prijenos podataka otvorenog koda sklupčatiistaknuo je da je njegov projekt preplavljen lažna sigurnosna izvješća pisana umjetnom inteligencijom koji održavatelje utapaju u besmislen posao.

Mozilla zna za ovaj problem. Brian Grinstead, istaknuti Mozilla inženjer, i Christian Holler, Mozilla glavni softverski inženjer, napisali su: “Izvješća o bugovima potpomognuta umjetnom inteligencijom imaju različite rezultate i skepticizam je zaslužen. Previše prijava značilo je lažno pozitivne rezultate i dodatno opterećenje za projekte otvorenog koda.”

Također: 7 AI tehnika kodiranja koje koristim za isporuku stvarnih, pouzdanih proizvoda – brzo

Možeš to ponoviti. Na FOSDEM 2026 u Bruxellesu, Belgija, Stenberg je rekao da će do početka 2025. otprilike jedan od šest sigurnosnih izvještaja cURL-u bili valjani. To je zato što je “u stara vremena, znate, netko zapravo uložio puno vremena [in] sigurnosno izvješće. Ovdje je bilo ugrađeno trenje, ali sada nema nikakvog napora u tome. Brane su otvorene. Pošalji to.”

Stenberg je rekao: “Stopa je sada također porasla; više je jedan od 20 ili jedan od 30, to je točno.” Ovaj porast je trijažu izvješća o sigurnosnim greškama pretvorio u “izvješćivanje o terorizmu”, oduzimajući vrijeme, pažnju — i “volju za životom” – od sedmeročlanog sigurnosnog tima projekta. Upozorio je da ova buka pojačana umjetnom inteligencijom ne gubi samo volonterski trud, već također riskira širi lanac opskrbe softverom: ako održavatelji postanu otupjeli na ova neželjena izvješća, propustit će se stvarne ranjivosti u kodu.”

Također: Je li Perplexityjevo novo računalo sigurnija verzija OpenClaw-a? Kako radi

Doista, prošlog ljeta Stenberg je napisao: “Moramo smanjiti količinu pijeska u stroju. Moramo učiniti nešto da drastično smanjite iskušenje za korisnike da podnose izvješća niske kvalitete.” Rezultat? Stalno je dolazilo više blata nego ikad, pa je odlučio zatvori cURL-ovu nagradu za izvješća o sigurnosnim greškama: “Dosegnut je prag. Učinkovito smo podvrgnuti DDoS-u. Da možemo, naplatili bismo im ovo gubljenje vremena.”

Ovaj trend se ne može nastaviti. Volonteri vode većinu projekata otvorenog koda, čak i one kritične za misiju, uglavnom na škripcu. Nemaju vremena ni resursa za kopanje po stotinama izvješća o greškama AI-ja.

Srećom, Anthropic je zauzeo drugačiji pristup, izvijestila je Mozilla: “Anthropicov tim stupio je u kontakt s inženjerima Firefoxa nakon što je Claude koristio za identificiranje sigurnosnih grešaka u našem JavaScript stroju. Što je najvažnije, njihova izvješća o greškama uključivala su minimalne slučajeve testiranja koji su našem sigurnosnom timu omogućili da brzo provjeri i reproducira svaki problem. U roku od nekoliko sati, inženjeri naše platforme počeli su ispravljati popravke, a mi smo započeli tijesnu suradnju s Anthropicom kako bismo primijenili istu tehniku na ostale kodne baze preglednika.”

Tako bi AI i open-source trebali raditi zajedno. Međutim, brinem se da će ovaj pristup u budućnosti biti iznimka, a ne pravilo. Vidite, ovaj suradnički pristup zahtijevao je pravi rad ljudi koji koriste AI. Prečesto popravke otvorenog koda proizvode neiskusni ili lijeni programeri koji pokušavaju ubaciti svoj kod u projekte otvorenog koda. Oprostite ljudi, to ne ide tako.

Najgore, neke tvrtke koriste umjetnu inteligenciju za ispisivanje točnih, ali glupih izvješća o pogreškama na malim projektima. Na primjer, Google je nedavno otkrio brojne manje sigurnosne probleme u FFmpegu. Ovaj projekt koriste svi, od vašeg televizora do weba i šire, za reprodukciju video i audio medijskih datoteka i strujanja.

Također: dobio sam 4 godine razvoja proizvoda u 4 dana za 200 dolara, i još uvijek sam zapanjen

Dakle, koliko su male ove bube? Jedan je greška u reprodukciji u prvih 10 do 20 sličica Rebel Assault 2, igre iz 1995. godine. FFmpeg tim se oslanja na volonterske napore i nema resurse da se bavi ovakvim glupostima. I što je najvažnije, ni Google ne rješava probleme niti plaća popravke grešaka.

AI i Linux

To ne znači da u pravim rukama AI ne može biti od velike pomoći otvorenom kodu. Kao što je Linus Torvalds, tvorac Linuxa i Gita, rekao u Linux Foundation’s Open Source Summit Korea 2025: “Imamo ljude koji puno rade na korištenju umjetne inteligencije, kako bi pomogli održavateljima da se nose s protokom zakrpa i pozadinskih zakrpa za stabilne verzije i sličnim stvarima.”

Nekoliko tjedana kasnije, Torvalds je rekao da, iako mrzi hype o umjetnoj inteligenciji, on “jako vjeruje u AI kao alat”. Točnije, on je “mnogo manje zainteresiran za AI za pisanje koda”, a mnogo više uzbuđen zbog “AI kao alata koji pomaže u održavanju koda, uključujući automatiziranu provjeru zakrpa i pregled koda prije nego što promjene dođu do njega.”

To ne znači da Torvalds neće koristiti AI za pisanje koda. Zapravo, iskorišten je Googleov Antigravity LLM za vibecode svoj program za igračke AudioNoisekoji koristi za stvaranje “nasumičnih digitalnih audio efekata” koristeći svoj “nasumični dizajn gitarske pedale”.

Također: 10 tajni ChatGPT Codexa koje sam naučio tek nakon 60 sati programiranja u paru s njim

U cijeloj Linux zajednici već postoji dogovor o nekim načinima na koje bi se AI trebala koristiti. Sasha Levin, Nvidijin ugledni inženjer i održavatelj stabilnog kernela, izjavio je da se o ljudskoj odgovornosti ne može pregovarati. Kada se koristi umjetna inteligencija potreban je neki oblik objave, a održavatelji će sami odlučiti kako koristiti alate umjetne inteligencije.

Osim toga, Levin je otkrio da je već javio LLM u dva najnezahvalnija posla u projektu: identificiranje backportova i sigurnosne popravke. AI se sada koristi u AUTOSELsustav koji identificira zakrpe kernela za vraćanje u stabilna izdanja i Linuxov interni CVE tijek rada. Ovo povezivanje eliminira mnogo zamornog posla.

Torvalds je također rekao kako vjeruje da se LLM-ovi trebaju tretirati kao sljedeći korak u evoluciji prevoditelja, a ne kao zamjena za ljude. Usporedio je usvajanje umjetne inteligencije s prelaskom s asemblera na jezike više razine. Ova promjena je u početku bila kontroverzna, ali je na kraju prihvaćena kao način da se programeri oslobode mukotrpnog rada, kao što je pisanje šablona ili pedantno sastavljanje poruka predaje na drugom jeziku.

Odgovorno kodiranje

Dan Williams, Intelov stariji glavni inženjer i održavatelj kernela, složio se da se AI pokazala korisnom za pregled koda i poboljšanje produktivnosti. Međutim, upozorio je: “Držim razgovore o karijeri u srednjim školama i kažem im da je najvažnija stvar koju možete naučiti u školi, a to ćete i iskoristiti, ‘pokazati svoj rad’.” I osjećam da je umjetna inteligencija ultimativna, ‘Ne moram pokazati svoj rad jer mi je umjetna inteligencija rekla da je ispravan’.”

Williams je u pravu, a taj nedostatak odgovornosti nije od pomoći. Kako su nedavno primijetile ugledna inženjerka IBM-a Phaedra Boinodiris i Rachel Levy, izvršna direktorica Akademije za znanost podataka i umjetnu inteligenciju Državnog sveučilišta Sjeverne Karoline, AI pismenost je neophodna u budućnostia to znači puno više od pukog znanja kako pisati upute za LLM. Učenici moraju naučiti osnove i svi moraju biti dobrodošli za stolom kada se odlučuje kako uspješno koristiti AI u otvorenom kodu ili drugdje.

Jedna važna referenca dolazi od Stormyja Petersa, voditelja strategije otvorenog koda za AWS, koji je u govoru na nedavnoj konferenciji rekao Summit članova Zaklade Linux“Brinuo sam se da AI bi ubio softver otvorenog koda jer bih generirao ovaj kod ili ovaj zahtjev za povlačenjem tako brzo da u njemu ne bih vidio nikakvu vrijednost. Zašto bih trošio svoje vrijeme gurajući ga uzvodno kada ga bilo tko može jednostavno generirati na zahtjev?”

Također: 10 stvari koje bih volio znati prije nego što povjerim Claude Codeu da napravi moju iPhone aplikaciju

Takva se situacija nije pokazala u stvarnosti. Kao što je Peters objasnio, “Ono što se zapravo dogodilo je da ljudi podnose svu prljavštinu koju stvaraju iz umjetne inteligencije.”

Dok su koderi potpomognuti umjetnom inteligencijom možda željeli učiniti nešto dobro — “stvarno je brzo, pa bih trebao, i korisno je, pa bih tome trebao pridonijeti” — nema nastavka jer ti ljudi ne razumiju što je AI proizvela: “Ono što se događa je da nije moje i ne znam kako to održavati. Pa ako me je itko zamolio da to pojednostavim ili obranim, ja ne mogu, a vjerojatno i održavatelj projekt također ne može lako shvatiti što se događa.”

Ovakvo stanje nije dobro. Što je još gore, dokazi sugeriraju da programeri jesu 19% sporije s kodiranjem omogućenim AI zbog vremena utrošenog na ponovni pregled i analizu koda. U međuvremenu, druga istraživanja sugeriraju to Kod generiran umjetnom inteligencijom obično ima 1,7 puta više problema.

Također: agenti umjetne inteligencije su brzi, opušteni i izvan kontrole, otkriva studija MIT-a

Unatoč tome, Peters i drugi voditelji otvorenog koda s kojima sam razgovarao, da, čak i Stenberg, misle da umjetna inteligencija može biti vrlo korisna za otvoreni kod.

Moramo pažljivo koristiti AI i razmotriti kako mijenja tehnologiju otvorenog koda. Korišteni inteligentno i uz pravi napor, kao što to rade Anthropic i Mozilla, AI i otvoreni kod mogu stvoriti prekrasno prijateljstvo. Ali ako ne obratimo takvu pozornost, čeka nas prava zbrka.