Utjecaj Akta o umjetnoj inteligenciji (EU AI Act) na javnu nabavu: zahtjevi i standardne ugovorne klauzule

Javna ustanova kupuje AI za izbor kandidata, pomoć korisnicima ili analizu podataka. Prije ugovora mora utvrditi svrhu, odgovornost za rad i dokaze koje traži od dobavljača. Ista tehnologija pri drugoj uporabi može pripadati drugoj kategoriji rizika.

Akt o AI-ju izravno je primjenjiva uredba EU-a, što ne znači neposrednu primjenu svih odredaba. Planiranje u listopadu 2026. mora uzeti u obzir izmjenu Uredbom (EU) 2026/1744. [4] [5]

Uloge prema Aktu o AI-ju: Pružatelj naspram subjekta koji uvodi sustav

Prema članku 3. pružatelj razvija ili naručuje razvoj AI sustava i pod svojim imenom ili žigom stavlja ga na tržište ili u uporabu, uz naknadu ili besplatno. Odabrani ponuditelj nije automatski pružatelj; može biti distributer ili integrator. Subjekt koji uvodi sustav koristi ga u okviru svoje nadležnosti; javna ustanova često ima tu ulogu. [6]

Prema članku 25. može postati pružatelj ako bitno izmijeni već plasiran visokorizični sustav koji ostaje visokorizičan ili promijeni namjenu drugog sustava tako da on postane visokorizičan. Zasebno treba razmotriti i uporabu vlastitog imena ili žiga. Ne znači svaka konfiguracija promjenu uloge. [7]

Kada je sustav AI-ja u javnom sektoru visokorizičan?

Prema članku 6. i Prilogu III. visokorizične mogu biti, primjerice:

1. Procjena prava na ključne naknade i usluge javne pomoći, uključujući zdravstvo, te njihovo dodjeljivanje, smanjenje, ukidanje ili povrat.
2. Upis u obrazovanje, vrednovanje rezultata, određivanje razine ili otkrivanje zabranjenog ponašanja na ispitima.
3. Filtriranje i izbor kandidata, određene radne odluke i ocjena uspješnosti.
4. Pomoć sudskom tumačenju činjenica i prava te zasebno navedene policijske i migracijske primjene. Nije svaka pomoć pri upravnom odlučivanju uključena.
5. Sigurnosne komponente kritične digitalne infrastrukture, cestovnog prometa i opskrbe vodom, plinom, toplinom ili električnom energijom. [8]

Popis nije potpun. Uska iznimka članka 6. stavka 3. može biti relevantna ako nema značajnog rizika za zdravlje, sigurnost ili temeljna prava i ispunjen je jedan od navedenih postupovnih/pripremnih uvjeta; profiliranje fizičkih osoba u tom je okviru uvijek visokorizično. Za proizvode iz Priloga I. zajedno provjerite oba uvjeta članka 6. stavka 1. i pojašnjenja 1a–1c. [9]

Obvezni zahtjevi za visokorizične sustave AI-ja (Poglavlje III.)

Primjenjivi zahtjevi za visokorizične sustave uključuju:

• Upravljanje rizicima (čl. 9.): dokumentiran ponavljajući proces tijekom životnog ciklusa. [10]
• Kvaliteta podataka (čl. 10.): reprezentativnost, odgovarajuća statistička svojstva, što veće smanjenje pogrešaka i nedostataka te rješavanje štetnih pristranosti relevantnih podataka za treniranje, validaciju i testiranje. Nema apsolutnog jamstva nepristranosti; za sustave bez treniranja modela podacima provjerite pravilo testnih podataka. [11]
• Dokumentacija i transparentnost (čl. 11., 13.): informacije za ocjenu usklađenosti i pravilnu uporabu. [12]
• Bilježenje i ljudski nadzor (čl. 12., 14.): odgovarajuća sljedivost, tumačenje rezultata, njihovo zanemarivanje ili izmjena kada treba i sigurno zaustavljanje. Ne neograničena obveza neizmjenjivog zapisivanja svakog događaja. [13]
• Točnost, robusnost, kibernetička sigurnost (čl. 15.) te primjenjivo ocjenjivanje sukladnosti, izjava EU-a i oznaka CE (čl. 16., 43., 47.–48.). [14]

Kada? Odjeljci 1.–3. poglavlja III., osim članka 6. stavka 5., primjenjuju se od 2. prosinca 2027. za Prilog III. i od 2. kolovoza 2028. za Prilog I. Za postojeće sustave vrijedi i prijelazni članak 111., a za neke proizvode posebna pravila područja primjene iz članka 2. Odgoda ne obustavlja već primjenjive zabrane, transparentnost ili zaštitu podataka. Članak 42. Direktive 2014/24/EU zahtijeva jednak pristup u specifikacijama; funkcionalni opis jedna je od dopuštenih metoda. [15] [2] [16]

Obveze javnih naručitelja prema člancima 26. i 27.

Pri primjeni pravila za visokorizični sustav subjekt koji ga uvodi ima sljedeće zadaće:

1. Procjena učinka na temeljna prava (čl. 27.): tijela javnog prava provode je prije prve uporabe sustava iz članka 6. stavka 2., osim kritične infrastrukture iz točke 2. Priloga III. Nije opća obveza za svaki visokorizični proizvodni sustav. Analizira uporabu, pogođene osobe, rizike, nadzor i mjere; ažurira se pri promjenama i rezultati se u pravilu prijavljuju. Može upućivati na relevantne dijelove procjene zaštite podataka, bez automatske zamjene. [17]
2. Uporaba i nadzor (čl. 26.): odgovarajuće tehničke/organizacijske mjere, osposobljene i ovlaštene osobe te relevantni i reprezentativni ulazni podaci kada su pod njegovom kontrolom. [18]
3. Zapisi, rizici, incidenti: automatski zapisi pod njegovom kontrolom u pravilu se čuvaju najmanje šest mjeseci, uz drugačije primjenjivo pravo. Rizik iz članka 26. stavka 5. zahtijeva obavijest bez odgode i obustavu uporabe; ozbiljan incident ima poseban redoslijed hitnog obavješćivanja. Ne aktivira svaki netočan rezultat automatski isti postupak. [19]

Standardne ugovorne klauzule Europske komisije (EU Model Contractual Clauses)

Public Buyers Community uz potporu Komisije objavila je MCC-AI-High-Risk, prilagodljivu MCC-AI-Light i komentar. Uporaba je dobrovoljna. I lakšu verziju primijenite razmjerno, ponekad samo djelomično. [3]

Predlošci daju uvjete specifične za AI u dokumentaciji, podacima, provjerama i suradnji pri objašnjavanju rezultata. Nisu potpuni ugovori: komentar navodi da opća prava intelektualnog vlasništva, preuzimanje, plaćanje, rokove, mjerodavno pravo i odgovornost treba zasebno urediti. Pravo uporabe skupova podataka nije vlasništvo cijelog modela ili izvornog koda. [20]

Predložak iz 2025. uskladite s izmjenom iz 2026. AI opće namjene zahtijeva posebnu prilagodbu; samo preuzimanje ne jamči usklađenost. [5] [20]

Praktični savjeti za naručitelje i ponuditelje

Naručitelji: dokumentirajte namjenu i rizik, utvrdite uloge i zahtjeve pri isporuci/uporabi te odaberite razmjerne klauzule. Uredite dokumentaciju, ljudski nadzor, pristup zapisima, promjene i incidente. CE i izjavu o sukladnosti tražite prema primjenjivom režimu, ne automatski za svaki AI. Zasebno uredite intelektualno vlasništvo, podatke, odgovornost i izlazak iz ugovora. [21] [20]

Ponuditelji: razjasnite ulogu pružatelja, integratora ili distributera i pripremite dokaziv plan usklađenosti. Provjerite prava na podatke, dokumentaciju i nadzorne/zapisne funkcije. Ugovorite pristup, podršku i odgovornost koje možete stvarno osigurati. [22] [20]

Utolsó szakmai felülvizsgálat: 2026-10-10