Seit vergangenen Sommer gilt die europäische Verordnung über künstliche Intelligenz (KI). Einige Verpflichtungen aus der Verordnung gelten bereits jetzt.
Eine wichtige Vorgabe findet sich in Art. 4 der KI-VO und betrifft die Pflicht zum Aufbau von KI-Kompetenz für Personal. Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass ihr Personal, welches KI-Systeme einsetzt, über ein ausreichendes Maß an KI-Kompetenz verfügt. KI-Kompetenz wird dabei als Fähigkeit verstanden, KI-Systeme sachkundig einzusetzen und dessen Chancen und Risiken zu verstehen (vgl. Art. 3 Nr. 56 KI- VO).
Nun werden die wenigsten Kommunen in die Rolle des Anbieters kommen. Viel interessanter ist hier der Begriff des "Betreibers", der in Art. 3 Nr. 4 der KI-VO definiert ist.
Der Begriff des Betreibers wird in Art. 3 Nr. 4 KI-VO definiert. Demnach ist „Betreiber“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet. Damit ist der Begriff sehr weit gefasst, und Kommunen, die KI aktiv für dienstliche Zwecke einsetzen, haben die Pflicht, KI-Kompetenzen an die Nutzenden zu vermitteln.
Was genau diese KI-Kompetenzen umfassen sollen, ist noch nicht abschließend definiert. Dennoch empfiehlt es sich, Maßnahmen in den Blick zu nehmen:
- Welche Mitarbeitenden werden mit KI-Systemen in der Organisation in Berührung kommen? Identifikation und Einteilung in verschiedene Gruppen, je nach Kenntnisstand und Art der in Frage stehenden KI-Systeme.
- Einen Schulungsplan erarbeiten und Schulungen für die betroffenen Mitarbeitenden planen bzw. durchführen.
- Erarbeiten interner Richtlinien, Standards und Arbeitsanweisungen zum Einsatz von KI in der Organisation.
- Mitbestimmungsrechte des Betriebsrats beachten.
Diese Kompetenzen sollten aber nicht nur die Verwendung von Systemen umfassen, sondern die Mitarbeitenden der Verwaltungen auch in die Lage versetzen, sinnvolle Anwendungsfälle für KI-Anwendungen zu identifizieren und zu bewerten.
Gerade für kleinere Kommunen können diese Anforderungen eine Herausforderung darstellen. Deswegen sind wir gemeinsam mit verschiedenen Kommunen dabei, eine "KI-Community" aufzubauen und gemeinsame Lösungen für diese Herausforderungen auf den Weg zu bringen.
Wie stellt sich die Situation in Ihrer Kommune dar? Überlegen Sie schon zum Einsatz von KI? Haben Sie die Verpflichtungen aus dem EU AI Act im Blick? Und wie gehen Sie diese an? Schreiben Sie uns gern an digital-lotsen[at]ssg-sachsen.de!
Verweise