Dem bayerischen Landtag steht ein Gesetzesentwurf zur Abstimmung bevor, der den Einsatz künstlicher Intelligenz zur vollautomatischen Erlassung von Verwaltungsakten ermöglichen soll. Darüber berichtet das Justizportal LTO.
Kern der Regelung ist ein neuer Satz, der an Artikel 35 des Bayerischen Verwaltungsverfahrensgesetzes angefügt werden soll: „Ein Verwaltungsakt kann vollständig durch automatische Einrichtungen erlassen werden.“ Auch für Artikel 10 ist eine entsprechende Anpassung geplant: „Die Durchführung von Verwaltungsverfahren mittels vollständig automatischer Einrichtungen und der Einsatz von künstlicher Intelligenz sind vorbehaltlich anderer Vorgaben zulässig.“
Wenn diese Änderungen im Landtag angenommen werden, wäre Bayern das erste Bundesland, das menschliches Ermessen durch Maschinen ersetzt. Die Begründung verweist auf eine damit mögliche Verfahrensbeschleunigung – die Versuchung dazu ist groß, da viele wichtige Behörden, wie etwa die Bauämter, chronisch unterbesetzt sind.
Selbst Laien können das Vorhandensein von Ermessen in den entsprechenden Vorschriften oft an der Formulierung erkennen: Wo nicht „muss“, sondern „soll“ oder „kann“ steht, besteht ein Ermessensspielraum, der allerdings unterschiedlich weit ausfallen kann. Juristisch betrachtet geht es beim behördlichen Ermessen immer um eine Abwägung verschiedener Grundrechte, die gelegentlich stark vom konkreten Einzelfall abhängt. Fehlt es an der nötigen Sorgfalt bei dieser Abwägung, steigt das Risiko rechtlicher Anfechtungen.
Auf Bundesebene ist die maschinelle Bearbeitung seit 2017 erlaubt – jedoch nur in Fällen, in denen kein Ermessen zur Anwendung kommt. In diesen Bereichen ist der Einsatz größtenteils unkritisch.
Dort, wo Ermessen ausgeübt wird, ergeben sich jedoch weitere Konsequenzen, etwa im Hinblick auf die Amtshaftung, wenn eine Entscheidung einen materiellen Schaden verursacht. Wer haftet dann? Wer zählt als Dienstvorgesetzter einer künstlichen Intelligenz? Und wie wäre die Weisungsbefugnis sicherzustellen?
Bislang ist völlig unklar, wie der Einsatz künstlicher Intelligenz an solchen Stellen überwacht werden soll und wie gewährleistet werden kann, dass das maschinelle Gedächtnis sich tatsächlich an die Referenzen des geltenden Rechtsrahmens hält. Anstatt zunächst ein genau umrissenes Pilotprojekt durchzuführen, um erste Daten zu sammeln, will die bayerische Staatsregierung gleich umfassend vorgehen und die Nutzung künstlicher Intelligenz in der gesamten Verwaltung freigeben. Damit überlässt sie letztlich der Verwaltungsgerichtsbarkeit die Bestimmung der Regeln und Grenzen.
Mehr zum Thema — Eine Generation von kompletten Idioten? Wie KI unsere Kinder verändert.