Auswirkungen des EU AI Act auf das Vergaberecht: Anforderungen und Standardvertragsklauseln

Eine öffentliche Einrichtung kauft KI für Bewerberauswahl, Nutzerunterstützung oder Datenanalyse. Vor dem Vertrag muss sie Zweck, Betriebsverantwortung und verlangte Nachweise klären. Dieselbe Technik kann bei anderer Nutzung einer anderen Risikokategorie angehören.

Der AI Act ist eine unmittelbar geltende EU-Verordnung; das bedeutet keine sofortige Anwendung aller Vorschriften. Bei Planungen im Oktober 2026 ist die Änderung durch Verordnung (EU) 2026/1744 bereits zu berücksichtigen. [4] [5]

Rollenverteilung nach dem AI Act: Anbieter und Betreiber

Nach Artikel 3 entwickelt ein Anbieter ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen oder eigener Marke in Verkehr oder nimmt es in Betrieb, entgeltlich oder unentgeltlich. Der Zuschlagsempfänger ist nicht automatisch Anbieter; er kann Händler oder Integrator sein. Ein Betreiber verwendet das System in eigener Verantwortung; öffentliche Einrichtungen übernehmen häufig diese Rolle. [6]

Nach Artikel 25 kann ein Betreiber zum Anbieter werden, wenn er ein bereits vermarktetes Hochrisikosystem wesentlich verändert und dieses hochriskant bleibt oder den Zweck eines anderen Systems so ändert, dass es hochriskant wird. Auch die Verwendung des eigenen Namens oder der eigenen Marke ist gesondert zu prüfen. Nicht jede Konfiguration bewirkt einen Rollenwechsel. [7]

Wann gilt ein KI-System im öffentlichen Sektor als Hochrisiko-System?

Nach Artikel 6 und Anhang III können beispielsweise folgende Anwendungen hochriskant sein:

1. Prüfung des Anspruchs auf grundlegende öffentliche Unterstützungsleistungen und Dienste einschließlich Gesundheitsversorgung sowie Gewährung, Kürzung, Entzug oder Rückforderung.
2. Bildungszulassung, Bewertung von Lernergebnissen, Festlegung des Bildungsniveaus oder Prüfung unzulässigen Verhaltens bei Tests.
3. Bewerberfilterung und Auswahl, bestimmte Personalentscheidungen und Leistungsbewertung.
4. Unterstützung gerichtlicher Tatsachen- und Rechtsauslegung sowie gesondert aufgeführte Strafverfolgungs- und Migrationsanwendungen. Nicht jede administrative Entscheidungshilfe gehört dazu.
5. Sicherheitskomponenten kritischer digitaler Infrastruktur, des Straßenverkehrs sowie der Wasser-, Gas-, Wärme- oder Stromversorgung. [8]

Die Liste ist nicht vollständig. Die enge Ausnahme des Artikels 6 Absatz 3 kann greifen, wenn kein erhebliches Gesundheits-, Sicherheits- oder Grundrechtsrisiko besteht und eine der genannten Verfahrens-/Vorbereitungsbedingungen erfüllt ist; Profiling natürlicher Personen bleibt in diesem Zusammenhang stets hochriskant. Bei Produkten nach Anhang I sind beide Voraussetzungen des Artikels 6 Absatz 1 und die Präzisierungen 1a–1c gemeinsam zu prüfen. [9]

Gesetzliche Vorgaben für Hochrisiko-KI-Systeme (Kapitel III)

Zu den anwendbaren Hochrisikoanforderungen gehören:

• Risikomanagement (Art. 9): dokumentierter, wiederkehrender Lebenszyklusprozess. [10]
• Datenqualität (Art. 10): Repräsentativität, geeignete statistische Eigenschaften, soweit möglich Verringerung von Fehlern und Lücken sowie Umgang mit schädlichen Verzerrungen relevanter Trainings-, Validierungs- und Testdaten. Keine absolute Garantie völliger Verzerrungsfreiheit; bei Systemen ohne datenbasiertes Modelltraining ist die Testdatenregel zu prüfen. [11]
• Dokumentation und Transparenz (Art. 11, 13): Informationen zur Konformitätsprüfung und richtigen Nutzung. [12]
• Protokollierung und menschliche Aufsicht (Art. 12, 14): angemessene Rückverfolgbarkeit, Interpretation, erforderlichenfalls Nichtverwendung oder Übersteuerung von Ergebnissen und sicheres Unterbrechen. Keine unbegrenzte Pflicht zur unveränderbaren Erfassung jedes Ereignisses. [13]
• Genauigkeit, Robustheit, Cybersicherheit (Art. 15) sowie die jeweils anwendbare Konformitätsbewertung, EU-Erklärung und CE-Kennzeichnung (Art. 16, 43, 47–48). [14]

Ab wann? Kapitel III Abschnitte 1–3, ausgenommen Artikel 6 Absatz 5, gelten für Anhang III ab 2. Dezember 2027 und für Anhang I ab 2. August 2028. Für vorhandene Systeme sind auch Artikel 111 und für bestimmte Produkte die besonderen Anwendungsregeln des Artikels 2 maßgeblich. Der Aufschub setzt bereits anwendbare Verbote, Transparenz- oder Datenschutzpflichten nicht aus. Artikel 42 der Richtlinie 2014/24/EU verlangt gleichen Zugang in den Spezifikationen; funktionale Anforderungen sind eine zulässige Methode. [15] [2] [16]

Pflichten öffentlicher Auftraggeber nach Art. 26 und 27

Bei Anwendung der Hochrisikovorschriften treffen Betreiber folgende Aufgaben:

1. Grundrechte-Folgenabschätzung (Art. 27): Einrichtungen des öffentlichen Rechts erstellen sie vor dem ersten Einsatz eines Systems nach Artikel 6 Absatz 2, ausgenommen kritische Infrastruktur nach Anhang III Nummer 2. Keine allgemeine Pflicht für jedes hochriskante Produktsystem. Untersucht werden Nutzung, Betroffene, Risiken, Aufsicht und Maßnahmen; bei Änderungen ist zu aktualisieren, Ergebnisse sind grundsätzlich zu melden. Auf passende Teile einer Datenschutz-Folgenabschätzung darf verwiesen werden, sie ersetzt die Prüfung nicht automatisch. [17]
2. Nutzung und Aufsicht (Art. 26): geeignete technische/organisatorische Maßnahmen, kompetente und befugte Aufsichtspersonen sowie relevante, repräsentative Eingabedaten, soweit unter eigener Kontrolle. [18]
3. Protokolle, Risiken, Vorfälle: Automatische Protokolle unter eigener Kontrolle sind grundsätzlich mindestens sechs Monate aufzubewahren, vorbehaltlich abweichenden anwendbaren Rechts. Ein Risiko nach Artikel 26 Absatz 5 verlangt unverzügliche Information und Nutzungsaussetzung; für schwerwiegende Vorfälle gilt eine eigene sofortige Meldeabfolge. Nicht jedes ungenaue Ergebnis löst automatisch dasselbe Verfahren aus. [19]

Standardvertragsklauseln der Europäischen Kommission (EU Model Contractual Clauses)

Die von der Kommission unterstützte Public Buyers Community veröffentlichte MCC-AI-High-Risk, anpassbare MCC-AI-Light und einen Kommentar. Ihre Nutzung ist freiwillig. Auch die leichte Fassung ist verhältnismäßig und gegebenenfalls nur teilweise einzusetzen. [3]

Die Muster bieten KI-spezifische Bedingungen etwa zu Dokumentation, Daten, Kontrolle und Mitwirkung bei der Erklärung von Ergebnissen. Sie sind kein vollständiger Vertrag: Laut Kommentar müssen allgemeine IP-Rechte, Abnahme, Zahlung, Fristen, anwendbares Recht und Haftung gesondert geregelt werden. Nutzungsrechte an Datensätzen sind kein Eigentum am gesamten Modell oder Quellcode. [20]

Stimmen Sie die Muster von 2025 mit der Rechtsänderung von 2026 ab. KI mit allgemeinem Verwendungszweck erfordert besondere Anpassung; bloße Übernahme garantiert keine Konformität. [5] [20]

Handlungsempfehlungen für Auftraggeber und Bieter

Auftraggeber: Dokumentieren Sie Zweck und Risiko, bestimmen Sie Rollen und Anforderungen zum Liefer-/Nutzungszeitpunkt und wählen Sie verhältnismäßige Klauseln. Regeln Sie Dokumentation, menschliche Aufsicht, Protokollzugang, Änderungen und Vorfälle. Verlangen Sie CE und Konformitätserklärung nach dem anwendbaren Rechtsregime, nicht automatisch für jede KI. Regeln Sie IP, Daten, Haftung und Ausstieg gesondert. [21] [20]

Bieter: Klären Sie Ihre Rolle als Anbieter, Integrator oder Händler und erstellen Sie einen belegbaren Konformitätsplan. Prüfen Sie Datenrechte, Dokumentation sowie Aufsichts- und Protokollfunktionen. Vereinbaren Sie Zugang, Unterstützung und Haftung, die Sie tatsächlich leisten können. [22] [20]

Utolsó szakmai felülvizsgálat: 2026-10-10