Preskoči na vsebino
L&L Synergy
Stopite v stik z nami

DomovAkt o umetni inteligenciRazredi tveganja

Razredi tveganja po Aktu o umetni inteligenci AI Act high risk: kako akt razvršča AI od prepovedane do nekritične uporabe.

Akt o umetni inteligenci ureja AI glede na tveganje za zdravje, varnost in temeljne pravice. Večina uporab v podjetjih sodi v najnižjo stopnjo. Odločilno je, za kaj uporabljate AI, ne pa, kateri program uporabljate.

Najpomembnejše na kratko Razvrstitev tipičnih uporab

Stanje oktobra 2026, preverjeno glede na besedilo uredbe. Splošne informacije, ne pravno svetovanje.

Štiri stopnje

  • Nesprejemljivo tveganje

    Prepovedane prakse po Art. 5. Od 2. februarja 2025.

  • Visoko tveganje

    AI kot varnostna komponenta reguliranih izdelkov (Priloga I) ali na občutljivih področjih (Priloga III), Art. 6. Stroge obveznosti za ponudnike in uvajalce od 2. decembra 2027 oziroma 2. avgusta 2028.

  • Omejeno tveganje

    Obveznosti glede preglednosti po Art. 50 za klepetalne robote, vsebine, ustvarjene z AI, globoke ponaredke in prepoznavanje čustev. Od 2. avgusta 2026.

  • Minimalno tveganje

    Vse drugo, na primer osnutki besedil, prevodi, filtri za neželeno pošto ali analize. Tu uredba zahteva predvsem pismenost na področju AI (Art. 4).

Uredba sama ne govori o štirih razredih tveganja. Ta razdelitev je običajna poenostavitev njene zgradbe. Za modele AI za splošne namene veljajo posebna pravila (poglavje V), ki zadevajo predvsem njihove ponudnike.

Prepovedane prakse AI po Art. 5

  • Tehnike pod pragom zavestnega zaznavanja ter manipulativne ali zavajajoče tehnike, ki lahko bistveno vplivajo na odločitve in povzročijo škodo.
  • Izkoriščanje ranljivosti zaradi starosti, invalidnosti ali socialnega ali ekonomskega položaja.
  • Družbeno točkovanje: ocenjevanje ljudi glede na vedenje ali osebnost, z neugodnimi posledicami v drugih okoliščinah.
  • Napovedovanje kaznivih dejanj zgolj na podlagi profiliranja ali osebnostnih lastnosti.
  • Neselektivno zajemanje slik obrazov s spleta ali iz videonadzora za zbirke podatkov o obrazih.
  • Prepoznavanje čustev na delovnem mestu in v izobraževalnih ustanovah, razen iz zdravstvenih ali varnostnih razlogov.
  • Biometrična kategorizacija za sklepanje o poreklu, političnem mnenju, članstvu v sindikatu, veroizpovedi, spolnem življenju ali spolni usmerjenosti.
  • Biometrična identifikacija na daljavo v realnem času na javnih mestih za namene kazenskega pregona, z ozkimi izjemami.
  • Od 2. decembra 2026: AI, ki ustvarja seksualizirane upodobitve prepoznavnih oseb brez privolitve ali upodobitve spolnih zlorab otrok.

Za podjetja je posebej pomembno: prepoznavanje čustev pri zaposlenih je prepovedano. Pri strankah ni prepovedano, vendar šteje za visokotvegano AI (Priloga III št. 1) in ga je treba razkriti (Art. 50 Abs. 3).

Priloga III Kje AI velja za visokotvegano.

Osem področij, na katerih so sistemi AI razvrščeni kot visokotvegani. Za podjetja so pomembne predvsem kadrovske zadeve in osnovne storitve.

  1. Biometrija

    Biometrična identifikacija na daljavo, kategorizacija in prepoznavanje čustev, če niso že prepovedani.

  2. Kritična infrastruktura

    Varnostne komponente v kritični digitalni infrastrukturi, cestnem prometu ter oskrbi z vodo, plinom, toploto in električno energijo.

  3. Izobraževanje

    Dostop in sprejem, ocenjevanje učnih dosežkov, nadzor pri izpitih.

  4. Zaposlovanje in kadrovske zadeve

    Ciljno objavljanje zaposlitvenih oglasov, pregledovanje in ocenjevanje prijav za zaposlitev, odločitve o napredovanju, odpovedi in razporejanju nalog, spremljanje delovne uspešnosti in vedenja.

    Za številna podjetja najpomembnejše področje

  5. Osnovne storitve

    Preverjanje kreditne sposobnosti, tveganje in cena pri življenjskem in zdravstvenem zavarovanju, dostop do javnih storitev in prejemkov, klici v sili.

    Pomembno za finančništvo in zavarovalništvo

  6. Kazenski pregon

    Na primer ocenjevanje dokazov ali tveganja, da nekdo postane žrtev kaznivega dejanja.

  7. Migracije, azil in nadzor meja

    Na primer preverjanje vlog in ocenjevanje tveganj.

  8. Pravosodje in demokratični procesi

    Podpora pri sodnih odločitvah in vplivanje na volitve.

Priloga I dodatno zajema AI kot varnostno komponento izdelkov, za katere že veljajo predpisi EU o izdelkih, na primer medicinskih pripomočkov, igrač ali dvigal.

Stopite v stik z nami

Izjema v Art. 6 Abs. 3

Sistem iz Priloge III ni visokotvegan, če ne predstavlja znatnega tveganja. Tako je na primer, če opravlja le ozko omejeno postopkovno nalogo, izboljša rezultat že zaključene človeške dejavnosti, prepoznava vzorce odločanja, ne da bi nadomestil človeško presojo, ali prevzame le pripravljalno nalogo.

Profiliranje fizičnih oseb vedno ostaja visokotvegano. Ponudniki, ki se sklicujejo na izjemo, morajo svojo oceno dokumentirati (Art. 6 Abs. 4).

Razvrstitev tipičnih uporab

  • Priprava ponudb, poročil ali e-pošte z AI: praviloma minimalno tveganje.
  • Samodejno branje podatkov iz računov, dobavnic ali pogodb: praviloma minimalno tveganje.
  • Klepetalni robot na spletni strani: obveznost glede preglednosti, ljudje morajo vedeti, da si pišejo z AI.
  • Predhodno razvrščanje ali ocenjevanje prijav za zaposlitev z AI: visoko tveganje po Prilogi III št. 4, obveznosti od 2. decembra 2027.
  • Analiza delovne uspešnosti zaposlenih z AI: visoko tveganje; prepoznavanje čustev na delovnem mestu je prepovedano.
  • Nadzor kakovosti v proizvodnji brez povezave z varnostjo: od digitalnega omnibusa izrecno ne šteje za varnostno komponento (Art. 6 Abs. 1a).

Razvrstitev je odvisna od konkretne uporabe. Ta seznam ne nadomešča preverjanja posameznega primera.

Kako Vam pomagamo

  • Razvrstitev uporab

    Skupaj z Vami pregledamo, kje in za kaj se AI uporablja v Vašem podjetju, ter razvrstimo vsak primer uporabe. Več o svetovanju o AI.

  • Priprava ekipe

    V Vašem pravilniku o AI določimo, kdaj uporaba postane občutljiva in na koga naj se Vaši zaposleni takrat obrnejo.

Za visokotvegano uporabo dodatno priporočamo pravni pregled posameznega primera.

Druge teme o Aktu o umetni inteligenci

Pogosta vprašanja o razredih tveganja

Katere razrede tveganja poznamo pri aktu EU AI Act?

Običajna je razdelitev na štiri stopnje: nesprejemljivo tveganje (prepovedano), visoko tveganje, omejeno tveganje z obveznostmi glede preglednosti in minimalno tveganje. Poleg tega veljajo posebna pravila za modele AI za splošne namene.

Kaj po Aktu o umetni inteligenci sodi med prepovedane prakse?

Med drugim manipulativne tehnike, izkoriščanje ranljivosti, družbeno točkovanje, prepoznavanje čustev na delovnem mestu in v izobraževalnih ustanovah, neselektivno zbiranje slik obrazov in določeni biometrični postopki (Art. 5). Od 2. decembra 2026 se pridružijo prepovedi seksualiziranih globokih ponaredkov brez privolitve.

Kaj je visokotvegana AI?

AI, ki je varnostna komponenta reguliranega izdelka (Priloga I) ali se uporablja na enem od osmih področij iz Priloge III, na primer pri izbiri kadrov ali preverjanju kreditne sposobnosti (Art. 6).

Ali so splošni programi za klepet z AI visokotvegani?

Sami po sebi ne. Odvisno je od namena uporabe. Kdor tak program na primer uporablja za ocenjevanje prijav za zaposlitev, lahko preide na področje visokega tveganja.

Od kdaj veljajo obveznosti za visokotvegano AI?

Po digitalnem omnibusu od 2. decembra 2027 za Prilogo III in od 2. avgusta 2028 za Prilogo I.

Niste prepričani, kako razvrstiti Vaše primere uporabe AI?

Napišite nam, katere rešitve uporabljate ali načrtujete. Osebno se Vam oglasimo, brezplačno in neobvezujoče.

Stopite v stik z nami

Preberite več

Pregled Akta o umetni inteligenci Svetovanje o AI za podjetja