polizeiliche-ki-vertrauenswuerdigkeit-din-spec

Polizeiliche KI: Vertrauenswürdigkeit und Auditierbarkeit

Arbeitsweg

• Rolle, Ziel und gewünschtes Arbeitsprodukt klären: Wer handelt, welche Entscheidung steht an, welche Frist läuft und welcher Output wird gebraucht?
• Fristen und Eilrisiken zuerst markieren: KI-VO Art. 5 Verbote ab 02.02.2025, Art. 51-55 GPAI ab 02.08.2025, Art. 50 Transparenz ab 02.08.2026, Hochrisiko Anhang III nach Digital-Omnibus-Zeitstrahl spätestens ab 02.12.2027, Anhang I spätestens ab 02.08.2028; vor Außenverwendung amtlichen Stand prüfen.
• Tragende Normen verifizieren: KI-VO (EU 2024/1689) Art. 3, 5 (Verbote), 6 (Hochrisiko), 8-15 (Anforderungen), 16, 26 (Pflichten Anbieter/Betreiber), 50 (Transparenz), 51-55 (GPAI), 73, 99 (Sanktionen) — Fundstellen über gesetze-im-internet.de, dejure.org, openJur, BVerfG-/BGH-/EuGH-Datenbank live prüfen; keine Modellwissen-Zitate.
• Zuständige Stelle bestimmen und Adressaten richtig wählen: Anbieter, Betreiber, Importeur, Händler, Marktüberwachungsbehörde (BNetzA/BMDV), benannte Stelle, EU-AI-Office, AI Board.
• Dokumente und Beweismittel sammeln und auf Lücken prüfen: Konformitätserklärung Art. 47, technische Dokumentation Anhang IV, Risikomanagement-System Art. 9, Datengovernance Art. 10, FRIA (Fundamental Rights Impact Assessment) Art. 27, EU-Datenbank-Registrierung Art. 49 — fehlende Belege durch Akteneinsicht oder Rückfrage beim Mandanten beschaffen, Live-Check für tagesaktuelle Normänderungen und Verwaltungspraxis.

Einsatzfälle

• Bild- oder Videoanalyse.
• Lagebild- und Einsatzpriorisierung.
• Ermittlungsassistenz.
• Mustererkennung in Massendaten.
• Übersetzung, Transkription, Kommunikationsanalyse.
• Prognose- oder Risikomodelle.

Prüffragen

1. Rechtsgrundlage und Zweck: Gefahrenabwehr, Strafverfolgung, Verwaltung?
2. KI-VO: Anhang III Strafverfolgung oder Biometrie betroffen?
3. Daten: Herkunft, Qualität, Bias, Aktualität, Löschung.
4. Menschliche Kontrolle: Wer darf übersteuern und wie wird das dokumentiert?
5. Audit: Logs, Modellversion, Trainings-/Testdaten, Fehlerraten.
6. Grundrechte: Einschüchterung, Diskriminierung, Versammlungsfreiheit, Datenschutz.
7. Beschaffung: Anforderungen in Leistungsbeschreibung und Vertrag.

Mindestanforderungen

• Zweckbindung statt Datenstaubsauger.
• dokumentierte Fehlerraten und Grenzen.
• unabhängige Überprüfung kritischer Treffer.
• klare Nichtnutzungsszenarien.
• Betroffenen- und Rechtsschutzperspektive.

Warnung

Bei Polizei-KI ist "Treffer" nur ein Hinweis. Er darf nicht unbemerkt zum Beweis, zur Verdachtsbegründung oder zur Einsatzentscheidung mutieren.