KI-Inventar und KI-Richtlinie: Ein pragmatischer Einstieg für den Mittelstand

Sind KI-Inventar und KI-Richtlinie vorgeschrieben?

Der AI Act schreibt nicht pauschal zwei Dokumente mit den Bezeichnungen „KI-Inventar“ und „KI-Richtlinie“ vor.

Für bestimmte Systeme und Rollen bestehen dennoch konkrete Dokumentations-, Registrierungs- und Nachweispflichten. Ein internes KI-Inventar kann diese Anforderungen unterstützen, ersetzt die jeweils vorgeschriebenen Unterlagen aber nicht.

Welche gesetzlichen Pflichten gelten, lässt sich erst beurteilen, wenn geklärt ist, ob eine Anwendung ein KI-System im Sinne des AI Acts ist, welche Rolle das Unternehmen übernimmt und welcher Risikokategorie der Einsatz zuzuordnen ist.

Abhängig davon sind insbesondere verbotene Praktiken, Anforderungen zur KI-Kompetenz, mögliche Transparenzpflichten und später die besonderen Vorgaben für Hochrisiko-KI-Systeme zu beachten.

Ein KI-Inventar ist deshalb ein praktisches Steuerungsinstrument. Eine KI-Richtlinie übersetzt die daraus gewonnenen Erkenntnisse in verständliche Regeln für Beschäftigte.

Mit einem einfachen KI-Inventar beginnen

Ein KI-Inventar muss zum Start keine umfangreiche Datenbank sein. Für den ersten Überblick reichen zunächst Anwendung, Zweck, verantwortlicher Fachbereich, verwendete Daten und aktueller Freigabestatus.

Weitere Angaben können bei der anschließenden Prüfung ergänzt werden:

1. Name, Version und konkrete KI-Funktion
2. Anbieter und Betriebsmodell
3. verantwortlicher Fachbereich
4. Zweck und tatsächliche Nutzung
5. betroffene Nutzergruppen
6. verwendete Daten und mögliche personenbezogene Daten
7. Personen oder Gruppen, auf die sich Ergebnisse auswirken
8. mögliche Unterstützung oder Beeinflussung von Entscheidungen
9. Rolle oder Rollen des Unternehmens, insbesondere als Betreiber, Anbieter, Einführer oder Händler
10. erste Einordnung als KI-System, verbotene Praxis, transparenzpflichtiges System oder mögliches Hochrisiko-KI-System
11. Prüfstatus zu Datenschutz und Informationssicherheit einschließlich einer gegebenenfalls erforderlichen Datenschutz-Folgenabschätzung
12. vorgesehene menschliche Prüfung und, soweit erforderlich, menschliche Aufsicht
13. bestehende Freigabe und offene Maßnahmen
14. Datum der letzten Prüfung sowie nächste Prüftermine und Änderungsanlässe

Nicht jede Angabe muss sofort vollständig vorliegen. Fehlende Informationen sollten aber als offene Aufgabe sichtbar bleiben.

Umfang und Tiefe der Prüfungen richten sich nach dem konkreten Einsatz. Das Inventar dokumentiert den Prüfstatus. Es ersetzt keine erforderliche Datenschutz-Folgenabschätzung oder Sicherheitsbewertung.

Nicht nur offiziell beschaffte Anwendungen erfassen

Ein Inventar bleibt unvollständig, wenn es nur zentral eingekaufte Software berücksichtigt.

KI kann außerdem genutzt werden über:

1. kostenlose Onlinedienste
2. private Benutzerkonten
3. Testzugänge einzelner Abteilungen
4. integrierte Funktionen vorhandener Programme
5. Erweiterungen und Schnittstellen
6. von Dienstleistern eingesetzte Anwendungen

Die berufliche Nutzung privater Konten sollte nur erfolgen, wenn dies nach den internen Vorgaben zulässig ist. Für betriebliche Anwendungen sollten möglichst vorgesehene Geräte und Konten verwendet werden.

Auch KI-Anwendungen von Dienstleistern können für Risiken, Datenschutz und Vertragsgestaltung relevant sein. Ihre Aufnahme in die Übersicht bedeutet jedoch nicht automatisch, dass das beauftragende Unternehmen Betreiber des jeweiligen Systems ist. Maßgeblich bleibt, wer das System in eigener Zuständigkeit verwendet und kontrolliert.

Für den Einstieg kann eine kurze Abfrage in den Fachbereichen durchgeführt und mit Beschaffung, Vertragsverwaltung und vorhandenen Softwareübersichten abgeglichen werden.

Ziel ist zunächst Transparenz. Die Abfrage sollte nicht den Eindruck vermitteln, dass bisher nicht gemeldete Nutzungen automatisch sanktioniert werden. Sonst besteht das Risiko, dass gerade kritische Einsatzfälle verborgen bleiben.

Einsatzfälle sinnvoll priorisieren

Nicht jede Anwendung benötigt dieselbe Prüftiefe.

Bestehen jedoch Anhaltspunkte für eine verbotene KI-Praxis oder eine bereits geltende gesetzliche Pflicht, muss diese Frage vor Beginn beziehungsweise Fortsetzung des Einsatzes geklärt werden. Die übrigen Einsatzfälle können risikogerecht priorisiert werden.

Vorrangig betrachtet werden sollten Anwendungen, bei denen:

1. personenbezogene oder vertrauliche Daten verarbeitet werden
2. Ergebnisse Entscheidungen über Menschen beeinflussen
3. KI in Personal, Bildung, Gesundheit, Kreditvergabe oder anderen sensiblen Bereichen eingesetzt wird
4. Inhalte für Kunden oder die Öffentlichkeit erzeugt werden
5. eigene Produkte oder Dienstleistungen um KI-Funktionen ergänzt werden
6. Fehler schwerwiegende oder nur schwer rückgängig zu machende Folgen haben können

Die Priorisierung ersetzt keine notwendige rechtliche Prüfung. Sie hilft dabei, begrenzte Ressourcen zuerst auf die wichtigsten Einsatzfälle zu richten.

Was eine KI-Richtlinie regeln sollte

Eine verständliche KI-Richtlinie sollte nicht nur Verbote aufzählen. Sie sollte erklären, was erlaubt ist, wann eine Prüfung erforderlich wird und an wen sich Beschäftigte bei Fragen wenden können.

Sinnvolle Inhalte sind:

1. Zweck und Geltungsbereich
2. freigegebene und nicht freigegebene Anwendungen
3. Regeln für personenbezogene und vertrauliche Daten
4. Vorgaben zur menschlichen Prüfung von Ergebnissen
5. gesetzliche Transparenz- und Kennzeichnungspflichten sowie mögliche weitergehende interne Regeln
6. Umgang mit Urheberrechten und Geschäftsgeheimnissen
7. besondere Regeln für Personalentscheidungen und andere sensible Anwendungen
8. Meldeweg für neue Einsatzfälle
9. Vorgehen bei Fehlern, Datenschutzverletzungen und Sicherheitsvorfällen einschließlich einer möglichen sofortigen Aussetzung
10. Zuständigkeiten für Prüfung, Entscheidung und Kontrolle
11. Maßnahmen zur KI-Kompetenz nach Artikel 4 AI Act
12. regelmäßige Aktualisierung der Richtlinie

Die nach Artikel 4 AI Act erforderlichen Maßnahmen zur KI-Kompetenz können in der KI-Richtlinie organisatorisch verankert werden. Ein bestimmtes Schulungsformat oder ein festgelegtes Kompetenzniveau jeder einzelnen Person schreibt der AI Act nicht vor.

Die Richtlinie sollte zur tatsächlichen Arbeitsweise passen. Ein umfangreiches Dokument, das niemand versteht oder im Alltag beachtet, hilft dem Unternehmen wenig.

Verantwortlichkeiten klar verteilen

Der verantwortliche Fachbereich bleibt dafür zuständig, Zweck, tatsächliche Nutzung und Änderungen des Einsatzfalls zutreffend zu beschreiben.

IT und Informationssicherheit bewerten technische Anbindung, Zugänge und Sicherheitsrisiken. Die für die operative Datenschutzkoordination zuständige Stelle unterstützt die Prüfung des Umgangs mit personenbezogenen Daten.

Der Datenschutzbeauftragte berät und überwacht im Rahmen seiner gesetzlichen Aufgaben. Er übernimmt nicht automatisch die operative Verantwortung oder die abschließende Freigabe.

Der Personalbereich ist einzubeziehen, wenn Beschäftigte oder Bewerber betroffen sind. Besteht ein Betriebsrat, sollte frühzeitig geprüft werden, welche Unterrichtungs-, Beratungs- oder Mitbestimmungsrechte beim konkreten Einsatz zu beachten sind.

Die Unternehmensleitung schafft den organisatorischen Rahmen, legt Verantwortlichkeiten fest und stellt die notwendigen Ressourcen bereit.

Wer die abschließende Entscheidung trifft, kann je nach Risiko und Organisationsstruktur unterschiedlich geregelt werden. Entscheidend ist, dass Zuständigkeit und Ergebnis dokumentiert werden.

Richtlinie und Inventar miteinander verbinden

Ein Inventar ohne Regeln zeigt nur, was vorhanden ist. Eine Richtlinie ohne Inventar beschreibt Regeln, ohne zu wissen, worauf sie angewendet werden müssen.

Beides sollte in einem gemeinsamen Ablauf verbunden werden:

1. neuen Einsatzfall melden
2. Zweck und Daten erfassen
3. Rolle und Risikokategorie einordnen
4. Datenschutz und Informationssicherheit berücksichtigen
5. Maßnahmen und Nutzungsbedingungen festlegen
6. Entscheidung dokumentieren
7. Beschäftigte informieren oder schulen
8. Einsatz bei Änderungen und zu festgelegten Terminen erneut prüfen

Auslöser für eine erneute Prüfung können zusätzliche Funktionen, neue Daten, ein anderer Verwendungszweck, Änderungen beim Anbieter oder ein Vorfall sein.

Die kurze Checkliste für den Einstieg

Mittelständische Unternehmen können pragmatisch beginnen:

1. die wichtigsten bekannten KI-Anwendungen zusammentragen
2. verantwortliche Fachbereiche benennen
3. verbotene und sensible Einsatzfälle zuerst prüfen
4. vorläufige Regeln für Daten und menschliche Prüfung festlegen
5. einen Meldeweg für neue Anwendungen schaffen
6. Beschäftigte verständlich informieren
7. offene Prüfungen und Maßnahmen dokumentieren
8. Inventar und Richtlinie schrittweise weiterentwickeln

Von einzelnen Werkzeugen zu einem steuerbaren Prozess

KI-Governance beginnt nicht mit einem perfekten Regelwerk. Sie beginnt mit einem realistischen Überblick und einem Verfahren, das neue Anwendungen auffängt.

WaPo begleitet Unternehmen dabei, Einsatzfälle, Zuständigkeiten, Prüfungen, Entscheidungen und Maßnahmen in einem nachvollziehbaren Arbeitsablauf zu organisieren.

So wachsen KI-Inventar und KI-Richtlinie mit der tatsächlichen Nutzung, statt nach ihrer Erstellung zu veralten.