Vpliv Akta o umetni inteligenci (EU AI Act) na javna naročila: zahteve in standardne pogodbene klavzule

Javna ustanova kupuje UI za izbor kandidatov, pomoč uporabnikom ali analizo podatkov. Pred pogodbo mora določiti namen, odgovornost za delovanje in dokazila izvajalca. Ista tehnologija lahko pri drugačni uporabi sodi v drugo kategorijo tveganja.

Akt o UI je neposredno veljavna uredba EU, kar ne pomeni takojšnje uporabe vseh določb. Pri načrtovanju oktobra 2026 je treba upoštevati spremembo z Uredbo (EU) 2026/1744. [4] [5]

Pravne vloge: Ponudnik v primerjavi z uporabnikom po Aktu o UI

Po 3. členu ponudnik sistema razvije sistem UI ali naroči njegov razvoj ter ga pod svojim imenom ali znamko da na trg ali v uporabo, odplačno ali brezplačno. Izbrani izvajalec ni samodejno ponudnik sistema; lahko je distributer ali integrator. Uvajalec uporablja sistem pod svojo pristojnostjo; javna ustanova pogosto izpolnjuje to vlogo. [6]

Po 25. členu lahko postane ponudnik, če bistveno spremeni že dan visokotvegan sistem, ki ostane visokotvegan, ali spremeni namen drugega sistema tako, da ta postane visokotvegan. Posebej je treba presoditi tudi uporabo lastnega imena ali znamke. Vsaka nastavitev ne pomeni spremembe vloge. [7]

Kdaj je sistem UI opredeljen kot visokotvegan?

Po 6. členu in Prilogi III so lahko visokotvegane na primer:

1. Presoja upravičenosti do bistvenih prejemkov in storitev javne pomoči, vključno z zdravstvom, ter njihovo dodeljevanje, zmanjšanje, odvzem ali izterjava.
2. Sprejem v izobraževanje, ocenjevanje rezultatov, določanje ravni ali zaznavanje prepovedanega vedenja pri preverjanju znanja.
3. Filtriranje in izbor kandidatov, določene zaposlitvene odločitve in ocenjevanje uspešnosti.
4. Podpora sodni razlagi dejstev in prava ter posebej navedene policijske in migracijske uporabe. Vsaka pomoč pri upravnem odločanju ne sodi sem.
5. Varnostne komponente kritične digitalne infrastrukture, cestnega prometa ter oskrbe z vodo, plinom, toploto ali elektriko. [8]

Seznam ni popoln. Ozka izjema iz 6. člena, odstavek 3, je lahko relevantna, če ni pomembnega tveganja za zdravje, varnost ali temeljne pravice in je izpolnjen eden navedenih postopkovnih/pripravljalnih pogojev; profiliranje fizičnih oseb je v tem okviru vedno visokotvegano. Pri proizvodih iz Priloge I skupaj preverite oba pogoja 6. člena, odstavek 1, in pojasnila 1a–1c. [9]

Obvezne zahteve za visokotvegane sisteme UI (poglavje III)

Veljavne zahteve za visokotvegane sisteme vključujejo:

• Obvladovanje tveganj (9. člen): dokumentiran, ponavljajoč se proces v življenjskem ciklu. [10]
• Kakovost podatkov (10. člen): reprezentativnost, ustrezne statistične lastnosti, čim večje zmanjšanje napak in vrzeli ter obravnava škodljivih pristranskosti relevantnih učnih, validacijskih in testnih podatkov. To ni absolutno jamstvo odsotnosti pristranskosti; pri sistemih brez učenja modelov s podatki preverite pravilo testnih podatkov. [11]
• Dokumentacija in preglednost (11., 13. člen): informacije za presojo skladnosti in pravilno uporabo. [12]
• Beleženje in človeški nadzor (12., 14. člen): ustrezna sledljivost, razlaga rezultatov, po potrebi neupoštevanje ali razveljavitev ter varna prekinitev. Ne neomejena zahteva po nespremenljivem beleženju vsakega dogodka. [13]
• Točnost, robustnost, kibernetska varnost (15. člen) ter veljavno ugotavljanje skladnosti, izjava EU in oznaka CE (16., 43., 47.–48. člen). [14]

Kdaj? Oddelki 1–3 poglavja III, razen 6. člena, odstavek 5, veljajo od 2. decembra 2027 za Prilogo III in od 2. avgusta 2028 za Prilogo I. Za obstoječe sisteme velja tudi prehodni 111. člen, za nekatere proizvode pa posebna pravila področja uporabe iz 2. člena. Odlog ne ustavi že veljavnih prepovedi, preglednosti ali varstva podatkov. 42. člen Direktive 2014/24/EU zahteva enak dostop pri specifikacijah; funkcionalni opis je ena dovoljenih metod. [15] [2] [16]

Obveznosti javnih naročnikov po 26. in 27. členu

Ob uporabi pravil za visokotvegan sistem ima uvajalec naslednje naloge:

1. Ocena učinka na temeljne pravice (27. člen): osebe javnega prava jo izvedejo pred prvo uporabo sistema po 6. členu, odstavek 2, razen kritične infrastrukture iz točke 2 Priloge III. To ni splošna obveznost za vsak visokotvegan proizvodni sistem. Ocena obravnava uporabo, prizadete, tveganja, nadzor in ukrepe; ob spremembah se posodobi, rezultati se praviloma sporočijo. Lahko se sklicuje na relevantne dele ocene varstva podatkov, brez samodejne nadomestitve. [17]
2. Uporaba in nadzor (26. člen): ustrezni tehnični/organizacijski ukrepi, usposobljene in pooblaščene osebe ter relevantni in reprezentativni vhodni podatki, kadar jih uvajalec nadzoruje. [18]
3. Dnevniki, tveganja, incidenti: samodejni dnevniki pod njegovim nadzorom se praviloma hranijo vsaj šest mesecev, ob upoštevanju drugačnega veljavnega prava. Tveganje po 26. členu, odstavek 5, zahteva obvestilo brez odlašanja in ustavitev uporabe; resen incident ima posebno zaporedje takojšnjega obveščanja. Vsak netočen rezultat ne sproži samodejno istega postopka. [19]

Vzorčne pogodbene klavzule Evropske komisije (EU Model Contractual Clauses)

Public Buyers Community ob podpori Komisije je objavila MCC-AI-High-Risk, prilagodljive MCC-AI-Light in komentar. Uporaba je prostovoljna. Tudi lažjo različico uporabite sorazmerno, po potrebi le delno. [3]

Vzorci dajejo pogoje, značilne za UI, za dokumentacijo, podatke, preverjanje in sodelovanje pri pojasnjevanju rezultatov. Niso celotna pogodba: komentar zahteva ločeno ureditev splošnih pravic intelektualne lastnine, prevzema, plačil, rokov, veljavnega prava in odgovornosti. Pravica uporabe podatkovnih zbirk ni lastništvo celotnega modela ali izvorne kode. [20]

Vzorec iz leta 2025 uskladite s spremembo iz leta 2026. UI za splošne namene zahteva posebno prilagoditev; sam prevzem ne zagotavlja skladnosti. [5] [20]

Praktična priporočila za naročnike in ponudnike

Naročniki: dokumentirajte namen in tveganje, opredelite vloge in zahteve ob dobavi/uporabi ter izberite sorazmerne klavzule. Uredite dokumentacijo, človeški nadzor, dostop do dnevnikov, spremembe in incidente. CE in izjavo o skladnosti zahtevajte po veljavnem režimu, ne samodejno za vsako UI. Posebej uredite intelektualno lastnino, podatke, odgovornost in izstop. [21] [20]

Ponudniki na razpisu: določite vlogo ponudnika sistema, integratorja ali distributerja in pripravite dokazljiv načrt skladnosti. Preverite podatkovne pravice, dokumentacijo in nadzorne/dnevniške funkcije. Dogovorite dostop, podporo in odgovornost, ki jih lahko dejansko zagotovite. [22] [20]

Utolsó szakmai felülvizsgálat: 2026-10-10