Bremer KI-Strategie setzt auf Schutz vor Diskriminierung

Der Bremer Senat hat eine Strategie für den Einsatz Künstlicher Intelligenz in der öffentlichen Verwaltung beschlossen. Sie soll verbindliche Leitplanken für künftige Anwendungen setzen. Im Mittelpunkt stehen Transparenz, Nichtdiskriminierung, Qualifizierung der Beschäftigten und die menschliche Letztentscheidung.

Die stellvertretende Landesfrauenbeauftragte Katharina Kunze begrüßte den Beschluss. Nach ihrer Einschätzung kann ein unkontrollierter KI-Einsatz gesellschaftliche Gruppen benachteiligen. Die Strategie solle deshalb sicherstellen, dass automatisierte Systeme nur dort genutzt werden, wo Menschen die Ergebnisse kontrollieren und Entscheidungen letztlich selbst treffen.

Verzerrungen erkennen

Ein weiterer Schwerpunkt ist der Umgang mit Verzerrungen in Daten und Auswertungen. Solche Verzerrungen können dazu führen, dass KI-Systeme bestimmte Gruppen systematisch schlechter behandeln. Die Strategie sieht vor, diese Risiken sichtbar zu machen und korrigierbar zu halten.

Besonders nimmt das Konzept geschlechtsspezifische Unterschiede bei der Nutzung und Entwicklung von KI in den Blick. Nach Angaben der Zentralstelle der Landesfrauenbeauftragten schätzen Frauen ihre eigenen KI-Kenntnisse häufiger geringer ein, verwenden entsprechende Anwendungen seltener und bringen ihnen weniger Vertrauen entgegen. In der KI-Entwicklung seien Frauen zudem unterrepräsentiert.

Rückmeldungen aus Behörden

Bei der Vorbereitung der Strategie wurden Beschäftigte der Verwaltung befragt. Dabei äußerten viele Sorgen über mögliche Risiken von KI-Anwendungen. Kritische Vorbehalte waren bei weiblichen Beschäftigten stärker ausgeprägt als bei männlichen.

Die Zentralstelle der Landesfrauenbeauftragten wirkte an dem Leitbild mit und will die Umsetzung in einzelnen Projekten weiter begleiten. Geplant sind verbindliche Standards für einen ethischen sowie geschlechter- und diskriminierungssensiblen KI-Einsatz. Die Strategie war von der Digitalisierungsabteilung des Finanzressorts gemeinsam mit der Universität Bremen erarbeitet worden.