Prijeđite na sadržaj
L&L Synergy
Stupite u kontakt

Početna stranicaAkt o umjetnoj inteligencijiKategorije rizika

Kategorije rizika u Aktu o umjetnoj inteligenciji AI Act high risk: kako Akt razvrstava AI, od zabranjenih do primjena bez posebnih rizika.

Akt o umjetnoj inteligenciji uređuje AI prema riziku za zdravlje, sigurnost i temeljna prava. Većina primjena u tvrtkama pripada najnižoj razini. Presudno je za što koristite AI, a ne koji program koristite.

Najvažnije ukratko Razvrstane tipične primjene

Stanje u listopadu 2026, provjereno prema tekstu uredbe. Opće informacije, ne pravni savjet.

Četiri razine

  • Neprihvatljiv rizik

    Zabranjene prakse prema Art. 5. Od 2. veljače 2025.

  • Visok rizik

    AI kao sigurnosna komponenta reguliranih proizvoda (Prilog I.) ili u osjetljivim područjima (Prilog III.), Art. 6. Stroge obveze za dobavljače i subjekte koji uvode sustav od 2. prosinca 2027., odnosno 2. kolovoza 2028.

  • Ograničen rizik

    Obveze transparentnosti prema Art. 50 za chatbotove, sadržaje koje generira AI, deepfake sadržaje i prepoznavanje emocija. Od 2. kolovoza 2026.

  • Minimalan rizik

    Sve ostalo, primjerice nacrti tekstova, prijevodi, filtri neželjene pošte ili analize. Ovdje Uredba ponajprije zahtijeva AI pismenost (Art. 4).

Sama Uredba ne govori o četiri kategorije rizika. Ta je podjela uobičajeno pojednostavnjenje njezine strukture. Za AI modele opće namjene vrijede posebna pravila (poglavlje V.) koja se ponajprije odnose na njihove dobavljače.

Zabranjene AI prakse prema Art. 5

  • Subliminalne, manipulativne ili obmanjujuće tehnike koje mogu bitno utjecati na odluke i prouzročiti štetu.
  • Iskorištavanje ranjivosti zbog dobi, invaliditeta te društvenog ili gospodarskog položaja.
  • Društveno bodovanje: ocjenjivanje ljudi prema ponašanju ili osobnosti, uz nepovoljan položaj u drugim kontekstima.
  • Predviđanje kaznenih djela isključivo na temelju profiliranja ili osobina ličnosti.
  • Neciljano prikupljanje slika lica s interneta ili videonadzora za baze podataka o licima.
  • Prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama, osim iz medicinskih ili sigurnosnih razloga.
  • Biometrijska kategorizacija radi zaključivanja o podrijetlu, političkom mišljenju, članstvu u sindikatu, vjeri, spolnom životu ili spolnoj orijentaciji.
  • Daljinska biometrijska identifikacija u stvarnom vremenu na javnim prostorima radi kaznenog progona, uz uske iznimke.
  • Od 2. prosinca 2026.: AI koji generira seksualizirane prikaze prepoznatljivih osoba bez njihove privole ili generira prikaze seksualnog zlostavljanja djece.

Za tvrtke je posebno važno: prepoznavanje emocija kod zaposlenika zabranjeno je. Kod korisnika nije zabranjeno, ali smatra se visokorizičnim AI‑jem (Prilog III. br. 1) i mora se objaviti njegova uporaba (Art. 50 Abs. 3).

Prilog III. Gdje se AI smatra visokorizičnim.

Osam područja u kojima se AI sustavi smatraju visokorizičnima. Za tvrtke su ponajprije važni ljudski potencijali i osnovne usluge.

  1. Biometrija

    Daljinska biometrijska identifikacija, kategorizacija i prepoznavanje emocija, ako zabrana već ne vrijedi.

  2. Kritična infrastruktura

    Sigurnosne komponente u kritičnoj digitalnoj infrastrukturi, cestovnom prometu te opskrbi vodom, plinom, toplinskom i električnom energijom.

  3. Obrazovanje

    Pristup i upis, ocjenjivanje ishoda učenja, nadzor ispita.

  4. Zapošljavanje i ljudski potencijali

    Ciljano prikazivanje oglasa za posao, pregledavanje i ocjenjivanje prijava, odluke o napredovanju, otkazu i raspodjeli zadataka, nadzor radne uspješnosti i ponašanja.

    Za mnoge tvrtke najvažnije područje

  5. Osnovne usluge

    Provjera kreditne sposobnosti, rizik i cijena životnog i zdravstvenog osiguranja, pristup javnim uslugama, hitni pozivi.

    Važno za financijski sektor i osiguranje

  6. Kazneni progon

    Primjerice procjena dokaza ili rizika da osoba postane žrtva kaznenog djela.

  7. Migracije, azil i granična kontrola

    Primjerice provjera zahtjeva i procjena rizika.

  8. Pravosuđe i demokratski procesi

    Potpora pri sudskim odlukama i utjecaj na izbore.

Prilog I. dodatno obuhvaća AI kao sigurnosnu komponentu proizvoda koji već podliježu propisima EU-a o proizvodima, primjerice medicinske proizvode, igračke ili dizala.

Kontaktirajte nas

Iznimka iz Art. 6 Abs. 3

Sustav iz Priloga III. nije visokorizičan ako ne predstavlja znatan rizik. To je, primjerice, slučaj kada obavlja samo usko ograničen postupovni zadatak, poboljšava rezultat već dovršene ljudske aktivnosti, prepoznaje obrasce odlučivanja bez zamjene ljudske procjene ili obavlja samo pripremni zadatak.

Profiliranje fizičkih osoba uvijek ostaje visokorizično. Dobavljači koji se pozivaju na iznimku moraju dokumentirati svoju procjenu (Art. 6 Abs. 4).

Razvrstane tipične primjene

  • Priprema ponuda, izvješća ili e-pošte uz AI: u pravilu minimalan rizik.
  • Automatsko izdvajanje podataka iz računa, otpremnica ili ugovora: u pravilu minimalan rizik.
  • Chatbot na web-stranici: obveza transparentnosti, ljudi moraju prepoznati da pišu AI‑ju.
  • Prethodno razvrstavanje ili ocjenjivanje prijava za posao uz AI: visok rizik prema Prilogu III. br. 4, obveze od 2. prosinca 2027.
  • Analiza radne uspješnosti zaposlenika uz AI: visok rizik; prepoznavanje emocija na radnom mjestu zabranjeno je.
  • Kontrola kvalitete u proizvodnji bez veze sa sigurnošću: od paketa Digital Omnibus izričito se ne smatra sigurnosnom komponentom (Art. 6 Abs. 1a).

Razvrstavanje ovisi o konkretnoj uporabi. Ovaj popis ne zamjenjuje provjeru pojedinačnog slučaja.

Kako Vam pomažemo

  • Razvrstavanje primjena

    S Vama prolazimo kroz to gdje i za što AI radi u Vašoj tvrtki te razvrstavamo svaku primjenu. Više o AI savjetovanju.

  • Priprema tima

    U Vašem pravilniku o uporabi AI‑ja bilježimo kada primjena postaje osjetljiva i kome se Vaši zaposlenici tada obraćaju.

Za visokorizične primjene dodatno preporučujemo pravnu provjeru konkretnog slučaja.

Dodatne teme o Aktu o umjetnoj inteligenciji

Česta pitanja o kategorijama rizika

Koje kategorije rizika postoje u aktu EU AI Act?

Uobičajena je podjela na četiri razine: neprihvatljiv rizik (zabranjeno), visok rizik, ograničen rizik uz obveze transparentnosti i minimalan rizik. Uz to postoje posebna pravila za AI modele opće namjene.

Što Akt o umjetnoj inteligenciji ubraja u zabranjene prakse?

Među ostalim manipulativne tehnike, iskorištavanje ranjivosti, društveno bodovanje, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama, neciljano prikupljanje slika lica i određeni biometrijski postupci (Art. 5). Od 2. prosinca 2026. dodaju se zabrane seksualiziranih deepfake sadržaja bez privole.

Što je visokorizični AI?

AI koji služi kao sigurnosna komponenta reguliranog proizvoda (Prilog I.) ili se koristi u jednom od osam područja iz Priloga III., primjerice pri odabiru zaposlenika ili provjeri kreditne sposobnosti (Art. 6).

Jesu li opći AI programi za razgovor visokorizični?

Ne sami po sebi. Ovisi o tome za što se koriste. Tko takav program, primjerice, koristi za ocjenjivanje prijava za posao, može ući u visokorizično područje.

Od kada vrijede obveze za visokorizični AI?

Nakon paketa Digital Omnibus od 2. prosinca 2027. za Prilog III. i od 2. kolovoza 2028. za Prilog I.

Niste sigurni kako razvrstati svoje AI primjene?

Napišite nam koje primjene koristite ili planirate. Javit ćemo Vam se osobno, besplatno i bez obveze.

Kontaktirajte nas

Pročitajte više

Pregled Akta o umjetnoj inteligenciji AI savjetovanje za poduzeća