Verantwortungsvoller Umgang mit Künstlicher Intelligenz in der Verwaltung: Der KI-Kompass für die Bediensteten der Stadt Wien

Verantwortungsvolle Anwendung von KI

KI verändert die Arbeitswelt grundlegend und hat das Potenzial, enorme Produktivitätssteigerungen zu erzielen. Damit ist KI auch ein wichtiges Instrument zur effizienten Erledigung von Verwaltungsaufgaben. Die Option, KI unterbinden zu wollen, existiert aus mehreren Gründen nicht: Erstens werden KI-Technologien in immer mehr Anwendungen integriert, zweitens findet die Entwicklung weltweit und nicht nur in Wien statt und drittens erscheint es sinnvoll, technologische Möglichkeiten zur besseren Aufgabenerledigung zu nutzen. Das heißt aber nicht, den Einsatz von KI einfach laufen zu lassen. Es gibt genügend Herausforderungen und Probleme in diesen Bereichen: Wer ist verantwortlich? Wie ist die Qualität? Sind die Daten frei von Verzerrungen? Wie ist es mit dem Datenschutz? Was passiert bei falschen Ergebnissen? Diese und viele weitere Fragen gilt es zu berücksichtigten.

Weder ein Verbot noch ein blindes Vertrauen in KI sind angemessen. Stattdessen ist ein verantwortungsvoller Umgang mit dieser Technologie erforderlich. Generative KI kann unsere Arbeitsprozesse als Stadtverwaltung unterstützen und optimieren, daher ist es wichtig, den Umgang damit zu erlernen. Gleichzeitig sind bestimmte Rahmenbedingungen und Regeln einzuhalten, um etwa den Schutz personenbezogener Daten zu gewährleisten. Aus diesem Grund hat die Stadt Wien einen KI-Kompass für ihre Mitarbeiter*innen entwickelt und veröffentlicht, der klare Richtlinien und Prinzipien zum Umgang mit dieser Technologie enthält.

Der KI-Kompass der Stadt Wien betont das Grundprinzip der Eigenverantwortung und beschreibt im Wesentlichen die folgenden Grundsätze:

• Der Mensch trägt die Verantwortung für KI-generierte Inhalte.
• Datenschutz und Amtsgeheimnis sind zu beachten.
• Transparente Kennzeichnung der KI-Verwendung ist Pflicht.
• Austauschformate für unsere Mitarbeiter*innen werden bereitgestellt.
• Kritische Prüfung und Nachvollziehbarkeit sind bei KI-Inhalten essenziell.

Der Mensch trägt die Verantwortung für KI-generierte Inhalte
Ein zentraler Grundsatz lautet: Bei der Verwendung von KI-generierten Inhalten trägt der Mensch die Verantwortung. Ähnlich wie bei jedem anderen Schriftstück, das unsere Verwaltung verlässt, obliegt die Verantwortung beim Menschen. KI kann unterstützen, beschleunigen und vereinfachen, aber sie ersetzt nicht die menschliche Verantwortung.

Sorgfalt und Datenschutz
Ein weiteres wichtiges Prinzip ist die Sorgfalt im Umgang mit KI. Das bedeutet, dass keine personenbezogenen Daten oder Amtsgeheimnisse in KI-Systemen eingegeben werden dürfen.

Transparenz und Kennzeichnung
Generative KI kann beeindruckende Inhalte erstellen, aber wir müssen transparent sein. Jeder durch KI erstellte Inhalt muss als solcher gekennzeichnet werden. Es ist wichtig, dass die Öffentlichkeit und Mitarbeiter*innen wissen, wenn KI im Spiel ist.

Kommunikation und Schulung
Um sicherzustellen, dass unsere Mitarbeiter*innen KI in ihren Arbeitsalltag integrieren können, bieten wir ihnen Vernetzungsformate sowie Hilfestellungen für die Nutzung von KI-Tools an.

(KI-generierte) Deepfakes und kritische Prüfung von Inhalten
Es besteht weiterhin die Prämisse, (insbesondere externe) Inhalte stets kritisch zu hinterfragen und auf Nachvollziehbarkeit zu prüfen, bevor diese in weitere Entscheidungsprozesse einfließen.

Link: KI-Kompass für Bedienstete der Stadt Wien 

Die Bedeutung des Austauschs mit der Digitalwirtschaft im Rahmen der DigitalCity.Wien

Als Stadt wollen wir eigenständig und selbstbewusst in der digitalen Transformation agieren, aber wir sind uns auch bewusst, dass wir nicht alles alleine schaffen können. Deshalb öffnen wir uns aktiv für den Austausch mit der Digitalwirtschaft. Wir möchten von den Erkenntnissen der Wirtschaft lernen und gleichzeitig unsere eigenen Erfahrungen teilen. Der Austausch mit Unternehmen spielt eine entscheidende Rolle in unserer Entwicklung und Anwendung von KI. Technologieunternehmen treiben Innovationen voran, die auch für die öffentliche Verwaltung von großem Nutzen sein können. Ein offener Dialog ermöglicht uns, voneinander zu lernen und gemeinsam Lösungen zu entwickeln, die sowohl die Effizienz unserer Verwaltung als auch das Wohl der Allgemeinheit fördern.

Wir sind stolz darauf, gemeinsam an einer besseren, digitalen Zukunft zu arbeiten und damit Digitalisierungshauptstadt Europas zu werden.

© Foto Wilke

Wolfgang Müller ist Magistratsdirektor-Stellvertreter und Geschäftsbereichsleiter für Organisation und Sicherheit in der Magistratsdirektion der Stadt Wien.

Event-Tipp:

Digitale Montagsrunde: „Generative KI – Umsetzungserfahrungen und Skills. Austausch zwischen Stadt und Wirtschaft“

ChatGPT – One Year On: Rund ein Jahr nach der explosionsartigen Verbreitung von ChatGPT nutzen wir die Montagsrunde für eine Reflexion und einen Austausch darüber, wie Stadt und Unternehmen in den letzten 12 Monaten mit generativer KI umgegangen sind. Sei dabei und teile deine Erfahrungen mit uns.

Montag | 09.10.2023, 18:00 Uhr
Raum „Gauß“ im CIO-Office der Stadt Wien (Magistratsdirektion, Geschäftsbereich Organisation und Sicherheit, Gruppe Prozessmanagement und IKT-Strategie)
Rathausstraße 8, 1010 Wien, Raum Gauß, 4. Stock
Anmeldung und Programm unter: http://community.digitalcity.wien/agenda