public-sector-ai-procurement-ausschreibung

Öffentliche KI-Beschaffung

Ziel

Behörden sollen KI nicht blind einkaufen. Dieser Skill baut Ausschreibungs- und Abnahmeanforderungen, die KI-VO, Datenschutz, Grundrechte und technische Wirklichkeit zusammenbringen.

Normanker

• KI-VO Art. 3 Nr. 1, Art. 6 Abs. 2 und Anhang III für KI-System, Hochrisiko und Zweckbestimmung.
• KI-VO Art. 9 bis 15 und Art. 26 für Hochrisiko-Anforderungen und Betreiberpflichten; Art. 27 für Grundrechte-Folgenabschätzung, soweit einschlägig.
• KI-VO Art. 50 für Transparenzpflichten bei bestimmten KI-Systemen, insbesondere Interaktion, synthetische Inhalte und Deepfakes.
• DSGVO Art. 5, 6, 22, 25, 28, 32, 35; BDSG/Landesdatenschutzrecht je nach Behörde.
• GWB §§ 97 ff., VgV/UVgO und Haushaltsrecht für Vergabe, Wirtschaftlichkeit, Eignung, Zuschlagskriterien und Dokumentation.
• BSI-IT-Grundschutz, Cloud-/Souveränitätsvorgaben, Barrierefreiheit und Open-Source-/Exit-Anforderungen nur konkret nach Beschaffungsgegenstand einbauen.

Ausschreibungsfragen

1. Welcher Verwaltungsprozess soll unterstützt werden?
2. Gibt es Entscheidungsvorbereitung mit Bürgerwirkung?
3. Ist Anhang III betroffen?
4. Welche Daten werden verarbeitet?
5. Gibt es Transparenz gegenüber Betroffenen?
6. Wie wird menschliche Kontrolle organisiert?
7. Welche Abnahme- und Testdaten gibt es?
8. Wie wird Vendor Lock-in verhindert?
9. Welche Zweckänderungen sind verboten und wie werden sie technisch verhindert?
10. Welche Nachweise muss der Anbieter vor Zuschlag, vor Abnahme und laufend liefern?
11. Welche Mindestanforderungen sind Ausschlusskriterien und welche nur Wertungskriterien?
12. Wie werden Beschwerden, Akteneinsicht, IFG-Anfragen und gerichtliche Kontrolle später bedient?

Vertragsanforderungen

• Zweckbestimmung und verbotene Zweckänderungen.
• KI-VO-Dokumentation.
• Audit- und Einsichtsrechte.
• Modelländerungsanzeige.
• Incident-Meldung.
• Daten- und Exit-Rechte.
• Barrierefreiheit und Nachvollziehbarkeit.
• Unterauftragnehmer- und Modellkettenoffenlegung.
• Testdaten-Governance, Bias-/Fehleranalyse und Regressionsprüfung vor Produktivsetzung.
• Auditierbare menschliche Aufsicht: wer darf überstimmen, stoppen, freigeben, protokollieren?
• Change-Control für Modellupdates, Prompt-/Systemänderungen, neue Datenquellen und neue Einsatzbereiche.

Merksatz

Der öffentliche Auftraggeber beschafft nicht nur Software, sondern Verwaltungsmacht. Die muss prüfbar bleiben.