Utorak, 17. studenoga 2026.
Prijava Newsletter
Freelance Hrvatska Kalkulator plaće 2026
Uncategorized

EU AI Act objašnjenje: Što trebaju znati hrvatske tvrtke 2027.

EU AI Act je prva sveobuhvatna regulativa o umjetnoj inteligenciji na svijetu, na snazi od kolovoza 2024., koja klasificira AI sustave prema riziku i postavlja pravila za razvoj i uporabu AI-ja u EU-u.

EU AI Act objašnjenje počinje činjenicom da je Uredba (EU) 2024/1689 o umjetnoj inteligenciji prva sveobuhvatna pravna regulativa o AI-ju na globalnoj razini. Stupila je na snagu 1. kolovoza 2024., a njezine obveze se postupno primjenjuju do kolovoza 2028. Ova regulativa ne odnosi se samo na tehnološke tvrtke – svaka organizacija u Hrvatskoj koja koristi AI alate za zapošljavanje, kreditno bodovanje, automatsko ocjenjivanje ili generiranje sadržaja mora razumjeti svoje obveze.

Zašto je EU AI Act donesen?

Europska unija prepoznala je da većina AI sustava ne predstavlja značajan rizik i može pridonijeti rješavanju društvenih izazova. Međutim, regulativa je bila nužna iz triju ključnih razloga:

  • Upravljanje rizicima: Određeni AI sustavi stvaraju rizike koji zahtijevaju jasna pravila kako bi se spriječili nepoželjni ishodi
  • Transparentnost odluka: Često je nemoguće utvrditi zašto je AI sustav donio određenu odluku, što otežava procjenu je li netko nepravedno diskriminiran, primjerice u procesu zapošljavanja ili pri odobravanju kredita
  • Nedostatnost postojećeg zakonodavstva: Postojeći propisi, uključujući GDPR, pružaju određenu zaštitu ali nisu dostatni za specifične izazove koje donosi umjetna inteligencija

Prema službenoj dokumentaciji Europske komisije, cilj Akta je poboljšati funkcioniranje unutarnjeg tržišta, promicati ljudima okrenutu i pouzdanu umjetnu inteligenciju, zaštititi zdravlje, sigurnost i temeljna prava te poticati inovacije.

Kako funkcionira klasifikacija prema riziku?

EU AI Act ne primjenjuje jedinstvena pravila na sve AI sustave. Umjesto toga, koristi pristup temeljen na riziku koji dijeli sve AI sustave u četiri kategorije s različitim zahtjevima:

Neprihvatljiv rizik – potpuno zabranjeno

Određene prakse umjetne inteligencije su potpuno zabranjene od veljače 2025. godine. Ovo uključuje:

  • Sustave za socijalno bodovanje građana poput kineskog modela
  • Upotrebu biometrijske identifikacije u stvarnom vremenu na javnim prostorima (s vrlo uskim iznimkama za ozbiljne kaznene radnje)
  • AI koji primjenjuje manipulativne ili obmanjujuće tehnike s ciljem narušavanja slobodne volje
  • Iskorištavanje ranjivosti povezanih s dobi, invaliditetom ili socio-ekonomskim statusom
  • Prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama (osim medicinskih razloga ili istraživanja)
  • Generiranje intimnih slika bez pristanka

Visok rizik – strogo regulirano

Ovo je najznačajnija kategorija za hrvatske tvrtke. Visokorizični AI sustavi su dopušteni, ali podliježu strogim obvezama. Sustavi visokog rizika uključuju:

Područje primjene Primjeri Rok za usklađenje
Zapošljavanje i selekcija AI za screening životopisa, procjenu kandidata, nadzor radnika 2. prosinca 2027.
Financijske usluge Kreditno bodovanje, procjena kreditne sposobnosti 2. prosinca 2027.
Obrazovanje Automatsko ocjenjivanje, sustavi za upis 2. prosinca 2027.
Kritična infrastruktura AI u upravljanju energijom, vodom, prometom 2. prosinca 2027.
Medicinski uređaji AI u dijagnostici, planiranju terapije 2. kolovoza 2028.
Kazneni progon Prediktivno policijsko djelovanje, procjena rizika recidivizma 2. prosinca 2027.

Važna napomena: izvorno predviđen rok od 2. kolovoza 2026. za visokorizične sustave iz Priloga III pomaknut je na 2. prosinca 2027. prema izmjenama iz Digitalnog omnibusa (Uredba EU 2026/1744) usvojenog u lipnju 2026.

Ograničen rizik – obveze transparentnosti

AI sustavi s ograničenim rizikom moraju poštovati pravila transparentnosti:

  • Chatbotovi: Korisnici moraju biti obaviješteni da komuniciraju s umjetnom inteligencijom, ne s osobom
  • Deepfake sadržaj: AI-generirane slike, audio ili video moraju biti jasno označeni
  • Sustavi za prepoznavanje emocija: Izvan zabranjenih konteksta, moraju postojati jasne obavijesti o njihovoj uporabi

Ove obveze vrijede od kolovoza 2025. godine.

Minimalan rizik – nereguliran

Većina AI sustava spada u ovu kategoriju: spam filteri, AI u videoigrama, sustavi za preporuku sadržaja. Nema obvezujućih zahtjeva, ali Komisija potiče dobrovoljne kodekse ponašanja.

Što su modeli opće namjene (GPAI)?

Od kolovoza 2025. primjenjuju se posebna pravila za GPAI modele poput GPT-4, Claude ili Gemini. Svi pružatelji GPAI modela moraju:

  • Osigurati tehničku dokumentaciju na zahtjev AI Ureda i nacionalnih tijela
  • Pružiti informacije i dokumentaciju pružateljima AI sustava koji koriste njihov model
  • Postupati u skladu s autorskim pravima EU-a
  • Objaviti sažetak sadržaja korištenog za trening modela

Pružatelji GPAI modela otvorenog koda moraju se pridržavati samo autorskih prava i objave podataka o treningu, osim ako njihov model predstavlja sistemski rizik. Svi modeli koji predstavljaju sistemski rizik – otvoreni ili zatvoreni – moraju također provoditi evaluacije modela, procjene i ublažavanje rizika, pratiti i prijavljivati ozbiljne incidente te osigurati zaštitu kibernetičke sigurnosti.

Tko u Hrvatskoj mora postupati prema EU AI Actu?

Akt se primjenjuje na tri skupine subjekata:

  • Pružatelji (providers): Organizacije koje razvijaju AI sustave namijenjene stavljanju na tržište ili u uporabu u EU-u, neovisno o tome jesu li sa sjedištem u EU-u ili trećoj zemlji
  • Korisnici (deployers): Pravne ili fizičke osobe, javna tijela ili agencije koje koriste AI sustav u profesionalnom svojstvu – ne odnosi se na krajnje korisnike
  • Pružatelji GPAI modela: Organizacije koje razvijaju modele opće namjene, bez obzira na lokaciju, ako se njihov model koristi u EU-u

Praktični primjeri za hrvatske tvrtke

Banka s AI kreditnim bodovanjem: Visokorizični sustav. Mora provesti procjenu sukladnosti, voditi tehničku dokumentaciju, osigurati mogućnost ljudskog nadzora nad odlukama i omogućiti objašnjenje odluke klijentu. Rok: 2. prosinca 2027.

Tvrtka s AI alatom za screening životopisa: Visokorizični AI u domeni zapošljavanja. Nije bitno je li alat kupljen od dobavljača ili razvijen interno – korisnik (deployer) ima svoje obveze neovisno o pružatelju. Mora osigurati ljudski nadzor, voditi evidenciju o korištenju, i omogućiti kandidatima objašnjenje odluka.

E-commerce s chatbotom: Ograničen rizik. Mora jasno označiti da korisnici razgovaraju s AI-jem, ne s osobom. Nema procjene sukladnosti, ali transparentnost nije opcijska.

Marketinška agencija koja koristi AI za generiranje slika: Ako stvara sadržaj koji može biti realistična imitacija stvarnosti (deepfake), mora ga označiti. Ako je očito sintetičan, nema dodatnih obveza.

Koje su ključne obveze za visokorizične sustave?

Pružatelji visokorizičnih AI sustava moraju ispuniti sljedeće zahtjeve prije stavljanja sustava na tržište:

  • Upravljanje rizicima: Uspostaviti sustav za identifikaciju, procjenu i ublažavanje rizika tijekom cijelog životnog ciklusa
  • Upravljanje podacima: Osigurati kvalitetne, relevantne i reprezentativne podatke za trening; dokumentirati postupke obrade podataka
  • Tehnička dokumentacija: Pripremiti sveobuhvatnu dokumentaciju koja opisuje dizajn, razvoj i performanse sustava
  • Transparentnost: Dizajnirati sustav tako da korisnici razumiju kako on funkcionira i koje odluke donosi
  • Ljudski nadzor: Omogućiti učinkovit ljudski nadzor kako bi se smanjili rizici za zdravlje, sigurnost i temeljna prava
  • Točnost, robusnost i kibernetička sigurnost: Sustav mora biti pouzdan, otporan na greške i zaštićen od neovlaštenog pristupa
  • Sustav za upravljanje kvalitetom: Uspostaviti dokumentirane politike, postupke i resurse
  • Procjena sukladnosti: Provesti prije stavljanja na tržište
  • Registracija: Unijeti sustav u EU bazu podataka
  • Praćenje nakon stavljanja na tržište: Kontinuirano pratiti performanse i prijavljivati ozbiljne incidente

Korisnici (deployeri) visokorizičnih sustava imaju manje obveza, ali moraju osigurati ljudski nadzor, pratiti rad sustava, zadržavati zapise i prijavljivati ozbiljne incidente. U određenim slučajevima moraju i provesti procjenu utjecaja na temeljna prava.

Kako se pripremiti: praktični koraci za hrvatske tvrtke

Korak 1: Inventarizacija AI sustava (odmah)

Napravite popis svih AI alata koje vaša organizacija koristi ili razvija. Uključite sve – od chatbotova na web stranici do sustava za automatsko ocjenjivanje ili analizu životopisa. Dokumentirajte svrhu svakog sustava, izvore podataka i način donošenja odluka.

Korak 2: Klasifikacija prema riziku (do lipnja 2027.)

Za svaki identificiran sustav odredite kategoriju rizika. Fokusirajte se na visokorizične sustave – to su prioritet. Koristite službenu listu iz Priloga III Uredbe ili alate poput AI Act Compliance Checkera.

Korak 3: Imenovanje odgovorne osobe (do rujna 2027.)

Odredite osobu ili tim odgovoran za usklađivanje s AI Aktom. Može biti iz pravnog, IT ili compliance odjela, ali mora razumjeti i tehnologiju i regulativu. Osigurajte da ta osoba ima pristup svim AI sustavima i ovlasti za implementaciju potrebnih promjena.

Korak 4: Priprema dokumentacije (do studenog 2027.)

Za visokorizične sustave pripremite tehničku dokumentaciju koja uključuje opis sustava, podatke o treningu, mjere upravljanja rizicima, testiranja performansi i kibernetičku sigurnost. Ovo je najzahtjevniji dio – planirajte dovoljno vremena.

Korak 5: Implementacija ljudskog nadzora (do studenog 2027.)

Andrea Matić
AutorAndrea Matić

Urednica portala Freelance.hr. Piše o plaćama, poreznim i radnim pravima te osobnim financijama u Hrvatskoj, s ciljem da složene teme objasni jednostavno i s provjerenim, aktualnim podacima.

AM

Andrea Matić

Urednica portala Freelance.hr. Piše o plaćama, poreznim i radnim pravima te osobnim financijama u Hrvatskoj, s ciljem da složene teme objasni jednostavno i s provjerenim, aktualnim podacima.

Povezani članci