Künstliche Intelligenz für den Staat? Ja bitte!

Es ist wie immer: Überall wird den Chancen der Digitalisierung großer Raum gegeben, nur der Staat ziert sich – oder schlimmer: Er arbeitet mit Regulierung und Verboten. Dementsprechend war die Aufregung auch Anfang Juli groß: Der Bundesrat hat der Nutzung von Künstlicher Intelligenz für den Staat einen Riegel vorgeschoben. Bundestagsabgeordnete begrüßten dieses Votum mit dem Hinweis, dass Entscheidungen, die das Schicksal von Menschen betreffen, nicht von Algorithmen getroffen werden dürfen.

Was aber war geschehen? Bei den Beratungen eines Gesetzes zur Stärkung der Digitalisierung der Verwaltung wurde eine Empfehlung abgelehnt, das Gesetz auch dafür zu nutzen, „die Zulässigkeit des Einsatzes algorithmenbasierter Entscheidungsfindung und -vorbereitung in der öffentlichen Verwaltung zu normieren“. Haben wir also jetzt eine Situation, in der wir „KI“ wieder nur den anderen Ländern überlassen, einen deutschen Sonderweg gehen?

Die Gesellschaft muss über KI sprechen

Die Entscheidung allein war allerdings kein Ablehnen des digitalen Fortschritts. Man kann trefflich streiten, ob eine solche Ziffer zu einem Gesetz notwendig gewesen wäre. Es zeigt aber, dass wir an vielen Stellen über Künstliche Intelligenz diskutieren – aber meist in Fachausschüssen oder im Europäischen Parlament. Und nicht nur diskutieren, sondern auch Entscheidungen treffen, ohne, dass wir gesellschaftlich darüber breit diskutieren. Svenja Falk und Wolfgang Schroeder stellen zurecht fest, dass es eine der „Merkwürdigkeiten der digitalpolitischen Debatte“ ist, „dass in unserer Gesellschaft zwar viel über den notwendigen technologischen Wandel gesprochen wird. Dagegen ist das Gespräch über das was und warum es erreicht werden soll in der gesellschaftlichen Debatte merkwürdig unterbelichtet geblieben.“

Geprägt von der gesellschaftlichen Sprachlosigkeit, die man aktuell um das Thema „KI-Verordnung“ der Europäischen Kommission erlebt, sind wir der Überzeugung, dass die digitale Transformation nur dann gelingen kann, wenn es darüber ein Gespräch in unserer Gesellschaft gibt. Wir müssen mehr über technische Möglichkeiten und gesetzliche Rahmen sprechen, müssen Risiken und Chancen abwägen und Sorgen ernstnehmen.

Künstliche Intelligenz gewinnt an Relevanz

Bleiben wir noch einmal beim Beispiel „Künstliche Intelligenz“. Allein die Anwendung ChatGPT, ein einfacher Ableger eines komplexen Sprachmodells der Firma Open-AI, die unter anderem von Microsoft finanziert wird, zeigt die Dimension, vor der wir in der gesellschaftlichen Auseinandersetzung über die Nutzung von maschinellem Lernen und Künstlicher Intelligenz stehen. Für Unternehmen, Verwaltung und Kommunikation ist es sicherlich sehr wichtig und hilfreich, dass es ein System gibt, welches Fragen auf menschliche Art und überwiegend so beantwortet, dass die Antworten nach geringer Überarbeitung für alle Arten textbasierter Arbeiten nutzbar gemacht werden können.

Gleichzeitig ist es natürlich aber auch zu hinterfragen, da im Kontext schulischen und wissenschaftlichen Arbeitens die Frage der Eigenleistung sofort im Raum steht, wenn bei Arbeiten auf ChatGPT oder ähnliche Anwendungen zurückgegriffen werden kann, die gerade für die Analyse großer Datenmengen und zur Erledigung von digitalen Routinetätigkeiten eingesetzt werden können. Auch im medizinischen Bereich wird KI eine wichtige Rolle spielen, zum Beispiel bei der Erhöhung der Diagnosegenauigkeit selbst bei ausgefallenen Krankheitsbildern. Wie schnell sich solche neuen Anwendungen gesellschaftlich durchsetzen können, zeigt eine Umfrage des Bochumer Center for Advanced Internet Studies zu Beginn des Jahres 2023, die zeigt, dass bereits drei Monate nach der Vorstellung des KI-Services im November 2022 ein Viertel der Menschen in Deutschland ChatGPT kennen oder sogar nutzen.

KI kann den Bürger*innen das Leben erleichtern

Für den Staat und seine Behörden ist das Thema ChatGPT nicht einfach zu beantworten. Algorithmische Systeme sind eigentlich prädestiniert für Verwaltungsverfahren. Denn in öffentlichen Verwaltungen geht es oft um wiederkehrendes Erfassen und Auswerten von Informationen oder Antragsbearbeitungen. Hier kann die Nutzung von intelligenten Systemen zur Prozessoptimierung eingesetzt werden. So können Mitarbeitende sich auf komplexe Aufgaben konzentrieren, die menschliches Urteilsvermögen erfordern.

KI kann auch dazu beitragen, den Bürgerservice zu verbessern, indem sie schnelle und präzise Antworten auf Anfragen bietet und Service-Prozesse beschleunigt. Es könnte dann das eintreten, was bereits viele Menschen mit der Digitalisierung verbinden: Bürgerinnen und Bürger sowie Unternehmen verbringen weniger Zeit mit Verwaltungsangelegenheiten. Sie können ihre Anliegen zu jeder Zeit und ortsunabhängig online erledigen.

So lange aber Unklarheit über die Nutzung der Daten, die der Staat an das System geben würde, besteht, kann kein Einsatz erfolgen. Gleichzeitig erhebt die Bundesregierung für sich erst die Frage, wo generative KI-Modelle Einzug in den Verwaltungsalltag erhalten könnte. Ein wichtiger Faktor, den Befürworter*innen des KI-Einsatzes beachten müssen, ist die oftmals fehlende Transparenz und Nachvollziehbarkeit von Entscheidungen, die von KI-Systemen getroffen werden. Dies führt  zu Unverständnis und Misstrauen, insbesondere wenn KI-Entscheidungen einen signifikanten Einfluss auf das Leben von Menschen haben.

Die „Zwischenzeit“ zur Vorbereitung nutzen

Beim Einsatz von Künstlicher Intelligenz im Bereich der Öffentlichen Verwaltung darf es daher nicht um Entscheidungen gehen, in der es auf das Ermessen ankommt. Hier brauchen wir klare Stopp-Schilder. Es geht vielmehr um die Potenziale in den vielen Prozessen, wo es lediglich um Schwarz-Weiß-Entscheidungen geht oder um Vorbereitungen von Entscheidungen. Schon heute gilt, dass die Fehlerquote bei automatisierten Verfahren oft niedriger ist als bei der Bearbeitung durch den Menschen. Darauf weist auch der CIO der Bundesregierung, Markus Richter, hin. Denkbar sind ebenfalls proaktive Vorschläge passender Antragsstellungen für Bürger*iinnen, z. B. im Bereich des Sozialstaats. KI-Anwendungen analysieren dafür die Lebenssituation der Bürger:innen, kann Handlungsempfehlungen geben und Ansprüche feststellen.

Noch ist das weitgehend Zukunftsmusik. Aktuell befinden wir uns in einer „Zwischenzeit“, wie die Ökonomen Agraval, Gans und Goldfarb die aktuelle Phase der disruptiven KI-Ökonomie bezeichnen. Wir befinden uns also zwischen der Einführung und dem Sichtbarwerden der Innovationskraft, die die technischen Möglichkeiten von KI mit sich bringen. Das müssen wir nutzen, um uns vorzubereiten – unser Zusammenleben, unsere staatlichen Verwaltungen und die Arbeitswelt der Zukunft.

Es wird nicht nur auf der europäischen Ebene zu diskutieren sein, wie der Rahmen für den Einsatz, für Kontrolle und für Schutz vor dem Missbrauch auszusehen hat. Dies alles, ohne das enorme Innovationspotenzial zu negieren oder wieder einmal so früh abzuschneiden, dass der Fortschritt einen Bogen um Deutschland macht. Das gilt auch für den Staat. Wir brauchen eine Agenda, wie wir Künstliche Intelligenz nutzbar machen wollen, um die Verwaltungen zu unterstützen. Dafür sollten wir nicht den europäischen Prozess abwarten, sondern selbst einen Rahmen entwickeln. Der Staat würde dadurch Vorbild und Vorreiter mit klarem Rahmen. Auch mit dem Ziel, sich unabhängiger von etablierten Plattformen zu machen. Außerdem würde eine solche Strategiediskussion auch dazu führen, dass das Regelwerk der Europäischen Union in der deutschen Öffentlichkeit viel stärker und der Wichtigkeit angemessen diskutiert wird.

Der Beitrag basiert auf dem Buch „Schleichender Blackout. Wie wir das digitale Desaster verhindern“, das gerade im Dietz Verlag erschienen ist.