9. rujna 2026.

Penetracijsko testiranje umjetne inteligencije i LLM-ova u 2026.: nova površina napada

Sigurnost umjetne inteligencije i LLM-ova

Umjetna inteligencija nije promijenila samo alate. Promijenila je metu.

Veći dio proteklog desetljeća penetracijsko testiranje imalo je stabilnu kartu: web aplikacije, API-je, mreže, korisničke račune u oblaku i ljude. U 2026. na toj se karti pojavio novi teritorij koji raste brže od svih dosadašnjih: veliki jezični model (LLM) te aplikacije, agenti i procesi izgrađeni oko njega. Gotovo svaka tvrtka s kojom razgovaramo ove je godine dodala neku značajku umjetne inteligencije, chatbot za podršku, asistenta za dokumente, interni copilot povezan sa stvarnim sustavima. Svaki od njih nova su vrata, a većinu njih nikada nije testirao netko tko razmišlja kao napadač.

Istodobno, umjetna inteligencija mijenja i način na koji se samo testiranje provodi. Isti modeli koji stvaraju ovu novu površinu napada mogu se okrenuti i usmjeriti protiv nje, analizirajući aplikaciju, povezujući nalaze i reproducirajući prosudbu stručnjaka u mjeri koju nijedan ljudski tim ne bi mogao dostići. Ovaj članak razmatra obje strane te promjene, kao i ono što Obventum i naša sestrinska tvrtka ReactiveZero sa sjedištem u Nizozemskoj grade zbog nje.

Nova površina napada: kako se LLM sustavi zapravo probijaju

Osiguravanje jezičnog modela nije isto što i osiguravanje tradicionalne aplikacije, a upravo je tretiranje na taj način mjesto gdje većina timova pogriješi. Model ne izlaže fiksni skup ulaza i izlaza koje možete popisati. Slijedi upute napisane običnim jezikom, i upravo je to problem. Propusti koje najčešće pronalazimo, i koji nanose najviše štete, svrstavaju se u nekoliko obrazaca:

  • Ubacivanje uputa (prompt injection). Upute skrivene unutar web stranice, dokumenta, e-poruke ili tiketa podrške koje model pročita i posluša kao da dolaze od njegova vlasnika. Kada model može i poduzimati radnje, ubacivanje prestaje biti tekstualni trik i postaje daljinsko upravljanje.
  • Zaobilaženje zaštitnih ograda (jailbreak). Pažljivo oblikovani ulazi koji provedu model oko njegovih sigurnosnih pravila, otkrivajući njegov sistemski prompt, interne politike ili sadržaj koji mu je izričito rečeno da zadrži.
  • Otkrivanje osjetljivih podataka. Modeli koji iznose podatke iz treninga, spremljeni kontekst ili informacije jednog korisnika drugome, često zato što aplikacija vjeruje modelu da će čuvati granice koje nikada nije bio dizajniran provoditi.
  • Nesigurni agenti i uporaba alata. Najbrže rastući rizik od svih. Kada LLM dobije alate, mogućnost pregledavanja weba, izvršavanja koda, upita nad bazom podataka ili slanja pošte, jedna ubačena uputa može premjestiti novac, izvući podatke ili prodrijeti u internu infrastrukturu.
  • Trovanje dohvaćanja i lanca opskrbe. Iskrivljavanje dokumenata koje asistent dohvaća, ili modela i dodataka trećih strana o kojima ovisi, tako da je napad ugrađen davno prije nego što je ijedan prompt poslan.

Ovi se propusti blisko poklapaju s OWASP Top 10 za LLM aplikacije i izravno su povezani s problemima koje testiramo već godinama. Agent povezan s bazom podataka i dalje je, u srži, problem kontrole pristupa i ubacivanja, ista vrsta ranjivosti koju lovimo u testiranju sigurnosti aplikacija i API-ja. Zato provjera umjetne inteligencije pripada ofenzivnom sigurnosnom timu, a ne isključivo timu za znanost o podacima.

Zašto je automatizirano penetracijsko testiranje konačno realno

Godinama je "automatizirano penetracijsko testiranje" bilo skener ranjivosti sa samouvjerenim imenom. Skeneri pronalaze poznate potpise. Ne razumiju poslovanje, ne povezuju tri nalaza niske ozbiljnosti u jedan kritični put, niti prepoznaju da se krajnja točka koja se ponaša točno onako kako je zamišljena i dalje može zloupotrijebiti. Pravo testiranje zahtijeva prosudbu, a prosudbu su moderni modeli upravo počeli pokazivati.

Sposoban model može čitati aplikaciju onako kako to čini tester: postaviti hipotezu, isprobati je, promotriti rezultat i prilagoditi se, a zatim objasniti nalaz i njegov korijenski uzrok jezikom na koji programer može djelovati. Ne umara se, ne preskače dosadne krajnje točke u šestom satu i može istodobno slijediti stotine putova. Nije zamjena za vještog čovjeka, najbolji rezultati i dalje dolaze iz zajedničkog rada modela i stručnjaka, ali potpuno mijenja ekonomiku pokrivenosti.

Što gradimo: penetracijsko testiranje kao usluga pokretano umjetnom inteligencijom

Ovo je dio koji jedva čekamo podijeliti. Obventum i ReactiveZero uložili su u ozbiljnu infrastrukturu kako bi to napravili kako treba: četiri NVIDIA DGX sustava, koji rade u našem vlastitom okruženju, posvećena treniranju i pokretanju lokalnog ofenzivnog sigurnosnog modela. Odabrali smo lokalni hardver umjesto javne usluge umjetne inteligencije iz jednog razloga iznad svih, povjerljivosti. Naš rad dotiče najosjetljivije sustave i nalaze naših klijenata, i ništa od toga nikada ne bi smjelo napustiti našu kontrolu ni biti iskorišteno za treniranje tuđeg modela. Na našem vlastitom DGX klasteru, podaci ostaju kod nas.

Na toj infrastrukturi treniramo model i gradimo platformu oko njega: penetracijsko testiranje kao uslugu koju će klijenti moći pokretati sami, na zahtjev, svaki put kada objave promjenu, umjesto da čekaju jedno zakazano testiranje jednom godišnje. U svom trenutnom opsegu platforma je osmišljena da pokrije:

  • Testiranje web aplikacija iz svake perspektive: white box s punim izvornim kodom i vjerodajnicama, grey box s djelomičnim znanjem i black box bez ičega osim same mete, kako biste svoje sustave vidjeli onako kako ih vide programeri, insajderi i vanjski napadači.
  • Testiranje infrastrukture u svakom okruženju: on-premise, u oblaku i hibridno, pokrivajući mreže, identitete i konfiguracije koje sve drže na okupu.
  • Zadatke obrnutog inženjeringa: rastavljanje binarnih datoteka i firmvera kako bismo razumjeli kako se doista ponašaju i gdje se mogu slomiti.

Želimo biti jasni o tome gdje se ovo nalazi: platforma je u beta fazi i trenutačno se aktivno testira. Svaki se rezultat provjerava prema istom standardu kao i naš ručni rad, jer je nalaz kojem ne možete vjerovati gori od nikakvog nalaza, a ljudski stručnjak pregledava ono što sustav proizvede prije nego što išta stigne do klijenta. Ovako vjerujemo da umjetna inteligencija pripada sigurnosti: proširujući ono što pouzdan tim može pokriti, nikada tiho ne zamjenjujući samo povjerenje.

Što to znači za vašu organizaciju

Iz svega ovoga slijede dvije stvari. Prvo, ako je vaše poslovanje ove godine uvelo značajke umjetne inteligencije, njih moraju testirati ljudi koji razumiju i model i napadača, prije nego što taj korisni asistent s pristupom bazi podataka postane najlakši put u vašu tvrtku. Drugo, kontinuirana i automatizirana pokrivenost uskoro će postati realno očekivanje, a ne luksuz, i organizacije koje je rano prihvate pronalazit će i ispravljati propuste dok njihova konkurencija čeka reviziju sljedeće godine.

Ako biste željeli da vaše značajke umjetne inteligencije procijenimo već danas, ili želite rani pristup beta platformi dok je otvaramo, rado ćemo razgovarati. Istražite naše usluge penetracijskog testiranja, pročitajte više na blogu ili nam se javite putem kontakt stranice. Površina napada brzo se mijenja. Namjeravamo joj ostati korak ispred, i pomoći vama da učinite isto.

Kontaktirajte nas

Imate pitanje ili želite ponudu? Javite nam se izravno i odgovorit ćemo unutar jednog radnog dana.

✉ luka.bayer@obventum.com☎ +385 91 890 1992

Pročitajte druge blogove

Ostanite informirani uz naše najnovije članke o zaštiti imovine, sigurnosnim trendovima i najboljim praksama.

Besplatni uvodni razgovor, bez obveze

Recite nam koje sustave imate. Mi ćemo vam reći kako bismo ih testirali.

Kratak razgovor s jednim od osnivača u kojem dogovaramo opseg, a zatim ponuda za taj opseg. Razgovarate s testerom, a ne s prodajnim timom.

Dogovorite besplatni uvodni razgovor