U posljednje dvije godine, tvrtke su pokušavale uklopiti velike jezične modele (LLM) u podršku, analitiku, razvoj i internu automatizaciju kao nikada prije.
Uz sve veće prihvaćanje tehnologije umjetne inteligencije, još jedan trend dobiva na zamahu — kibernetički kriminalci iskorištavaju nepovezanost između pretpostavki o LLM-ovima i njihovih stvarnih karakteristika.
U 2025. i 2026. nekoliko neovisnih izvora istaknulo je isti trend: Brzo ubrizgavanje ostaje jedan od najutjecajnijih i naširoko dokazanih vektora napada na LLM sustave. The OWASP LLM Top 10 (2025) navodi brzo ubacivanje kao LLM01, identificirajući ga kao najkritičniju kategoriju ranjivosti specifičnih za LLM, za drugo uzastopno izdanje. OWASP-ov poredak odražava činjenicu da se LLM-ovi još uvijek bore s pouzdanim odvajanjem uputa od podataka, što ih čini podložnima manipulaciji kroz vješto izrađene unose.
CrowdStrike 2026 Izvješće o globalnoj prijetnji — izgrađeno na prvim obavještajnim podacima preko više od 280 praćenih protivnika — dokumentirano je da su akteri prijetnji ubacili zlonamjerne upite u legitimne generativne alate umjetne inteligencije u više od 90 organizacija u 2025. Zatim su te injekcije upotrijebili za generiranje naredbi koje su ukrale vjerodajnice i kriptovalute. U izvješću je to jasno navedeno: "Upiti su novi zlonamjerni softver." Protivnici s omogućenom umjetnom inteligencijom povećali su svoj ukupni opseg napada za 89% u odnosu na prethodnu godinu, s brzim ubrizgavanjem koje djeluje i kao ulazna točka i kao množitelj sile.
Incidenti u stvarnom svijetu ilustriraju operativni učinak. U kolovozu 2024. istraživači u PromptArmoru otkrio je ranjivost brzog ubrizgavanja u Slack AI koja je napadaču omogućila eksfiltraciju podataka iz privatnih Slack kanala kojima nisu imali pristup — uključujući API ključeve koji se dijele u privatnim razvojnim kanalima — postavljanjem zlonamjerne upute u javni kanal ili ugradnjom u učitani dokument.
U lipnju 2025. istraživači u Aim Security otkrio EchoLeak (CVE-2025-32711, CVSS 9.3), prvo dokumentirano iskorištavanje brze injekcije bez klika protiv proizvodnog AI sustava, ciljajući na Microsoft 365 Copilot. Slanjem jedne izrađene e-pošte, bez potrebe za interakcijom korisnika, napadač bi mogao natjerati Copilot da pristupi internim datotekama i prenese njihov sadržaj poslužitelju kojim napadač upravlja.
Obje ranjivosti bili zakrpani. Ovi incidenti naglašavaju činjenicu da promptno ubrizgavanje nije teoretska slabost, već praktična, ponovljiva prijetnja koju organizacije moraju riješiti dok postavljaju sustave umjetne inteligencije u velikim razmjerima.
Tehnike brzog ubacivanja prošle su kroz velike evolucije tijekom posljednjih godina, sada ciljajući na arhitekturu s više agenata, cjevovode generiranja s proširenim dohvaćanjem (RAG), usmjerivače modela i mogućnosti dugoročne memorije.
Sadržaj objave
eizazov poduzeća: Previše povjerenja
Poduzeća postavljaju LLM-ove za obradu uputa, sažimanje informacija i pokretanje automatiziranih radnih procesa, no LLM-ovima je teško reći:
-
jaupute iz podataka
-
jainformacije iz konteksta
-
Context iz metapodataka
-
User intent iz metapodataka
To stvara priliku za napadače da manipuliraju i utječu na ponašanje modela, bilo izravno ili neizravno.
Moderno brzo ubrizgavanje
Brzo ubrizgavanje među modelima
Korištenje LLM-a uobičajena je praksa među poduzećima. Napadači kvare izlaz određenog modela, dobro znajući da će drugi modeli obrađivati sadržaj. Dakle, korupcija se širi kroz sve AI sustave.
Trovanje lanca opskrbe RAG-om
Anapadači stvaraju zlonamjerne informacije — dokumentaciju, blog članke, GitHub README. Zatim čekaju dok se ove zlonamjerne informacije ne unesu u RAG cjevovode poduzeća, a zatim ih koriste kao vektor napada.
Otmica agenta
AI agenti su evoluirali do točke u kojoj mogu slati e-poštu, modificirati infrastrukturu oblaka, izvršavati isječke koda i komunicirati s internim korporativnim sustavima. Potrebna je samo jedna uputa da se agenti ponašaju drugačije na štetan način.
Napadi prekoračenja konteksta
Uz pomoć kontekstnih prozora od milijun tokena, napadači postavljaju zlonamjerni kod unutar dokumenta i nadaju se da će LLM naići na njega i izvršiti ga, čime će nadjačati sve prethodne upute.
Trovanje memorije
Zbog implementacije dugoročne memorije u LLM-ovima, napadači mogu ubaciti upute koje trajno rekonfiguriraju njihovo stanje.
Manipulacija modelom-usmjerivačem
Poduzeća sve više koriste model usmjerivača za odabir između više LLM-ova. Napadači šalju upite koji usmjeravaju na najslabiji ili najmanje zaštićeni model.
Zašto je ovo važno za poslovne vođe
Brzo ubrizgavanje nije teoretski problem. Izravno utječe na:
-
Csustavi okrenuti korisnicima (chatbotovi, agenti za podršku)
-
jainterni kopiloti (alati za razvojne programere, sigurnosni pomoćnici)
-
Atijekovi rada automatizacije (ticketing, operacije u oblaku, HR procesi)
-
Data upravljanje (RAG cjevovodi, baze znanja)
Rizik više nije ograničen na "manekenka je rekla nešto što ne bi trebala."
U 2026., promptno ubrizgavanje može:
-
Tnamjestiti neovlaštene radnje
-
Leak osjetljive podatke
-
Cporemetiti interne tijekove rada
-
Manipulirati analitiku
-
Alter poslovne logike
-
Compromise multi-agent sustavi
Površina napada dramatično se proširila.
Što bi poduzeća sada trebala učiniti
1. Ograničite dopuštenja modela
Ograničite ono što model može učiniti, a ne samo ono što bi trebao učiniti.
2. Segmentirajte nepouzdan sadržaj
Tretirajte sve vanjske podatke — uključujući RAG izvore — kao potencijalno neprijateljske.
3. Pratite pozivanje alata
Zahtijevati ljudsko odobrenje za radnje s velikim utjecajem.
4. Potvrdite porijeklo sadržaja
Osigurajte da RAG cjevovodi ne gutaju zatrovani vanjski sadržaj.
5. Očvrsnite modelne glodalice
Spriječite napadače da forsiraju usmjeravanje na slabije modele.
6. Tretirajte LLM kao nepouzdane komponente
Ova promjena načina razmišljanja temelj je moderne sigurnosti umjetne inteligencije.
Zaključak
Brzo ubacivanje ostaje najučinkovitiji način kompromitiranja AI sustava poduzeća jer iskorištava temeljni način na koji LLM interpretira tekst. Dok organizacije budu tretirale LLM-ove kao nepouzdane tumače — a ne kao autonomne donositelje odluka — brzo ubrizgavanje nastavit će dominirati krajolikom prijetnji umjetne inteligencije.
Julie Brunias je sigurnosni arhitekt AI.