1.

Im Anhang des „Grundlagenpapier zur 74. Jahrestagung der Präsidentinnen und Präsidenten der  Oberlandesgerichte, des Kammergerichts, des Bayerischen Obersten Landesgerichts und des Bundesgerichtshofs vom 23. bis 25. Mai 2022 in Rostock“ unter dem Titel: „Einsatz von KI und algorithmischen Systemen in der Justiz“ (im Folgenden „das Grundlagenpapier“) werden mögliche Einsatzgebiete von KI und algorithmischen Systemen in der Justiz anhand 19 laufender und geplanter Projekten dargestellt.

Wie beurteilen Sie diese Einzelprojekte und wo würden Sie Schwerpunkte setzen?

Welche dieser 19 Einzelprojekte könnten

a)    am schnellsten umgesetzt werden

b)    die weitreichendsten Folgen für das Justizsystem in NRW (positiv oder negativ) haben?

2.

In dem „Grundlagenpapier“ wird betont, dass eine Maschine keinen Richter oder Rechtspfleger ersetzen und die richterliche Unabhängigkeit nicht verletzen darf.

Von KI könnten nur formelle Aufgaben übernommen werden, die in der analogen Welt dem Assistenzbereich zugeordnet sind. „Werden hingegen durch eine Software Aktivitäten aus dem Kernbereich richterlicher Tätigkeit abgebildet oder in sonstiger Weise inhaltlich beeinflusst, ist die Grenze des verfassungsrechtlich Zulässigen überschritten, da der Sachentscheidungsprozess allein den Richterinnen und Richtern und weder Softwareentwickelnden noch der (Justiz)Verwaltung obliegt.“

Es wird jedoch auf Seiten 10 und 11 des „Grundlagenpapiers“ weiter ausgeführt:

„Es erscheint allerdings nicht von vorneherein ausgeschlossen, dass KI, die transparent z.B. wissenschaftlich gesicherte Fakten zugrunde legt, unbedenklich einsatzfähig wäre. Jedenfalls dürfte es keinen grundsätzlichen Bedenken begegnen, die Programmierung solcher entscheidungsunterstützender transparenter Software sowie die Auswahl der einzuspeisenden Daten und des Programms selbst der Verwaltung oder Dritten unter der Kontrolle der Justiz zu überlassen. Um Risiken zu minimieren, bietet es sich an, die Richterschaft bzw. die Richtervertretungen und -verbände frühzeitig in den Konzeptionierungsprozess der IT-Anwendungen einzubeziehen und die Systementwicklungen durch Updates im Blick zu behalten.“

a)     Wie kann rechtlich und tatsächlich sichergestellt werden, dass die Verfassungsmäßigkeit gewahrt wird?

b)     Ist es wichtig und richtig,

(aa)            die Richterschaft bzw. die Richtervertretungen

(bb)            die Rechtspflegerinnen und Rechtspfleger und

(cc)         die Anwaltschaft und die Anwaltsvertretungen

       frühzeitig in den Konzeptionierungsprozess der IT-Anwendung einzubinden?

c)      Wie kann eine solche Einbindung der unter b) genannten Personengruppen und Interessenvertretungen am besten tatsächlich und organisatorisch erfolgen?

d)     Welche Rolle spielt das nordrheinwestfälische Parlament dabei und wie wird dieses eingebunden?

3.

Wie beurteilen Sie die „Automation Bias“ und wie kann gesetzlich sichergestellt werden, dass in Hinblick auf die Gewähr des gesetzlichen Richters „die Vorschläge des Algorithmus „sachverständig beratend“, unverbindlich und datenbankähnlich sind“ (siehe S. 11 des „Grundlagenpapiers“)?

4.

Wie kann eine „Black-Box“ vermieden werden, so dass Entscheidungen auch bei Anwendung von selbstlernender KI für die Rechtssuchenden und ggf. eine Rechtsmittelinstanz uneingeschränkt nachvollziehbar bleiben?

5.

In dem „Grundlagenpapier“ heißt es auf Seite 20: „Richtig verstanden kann der Einsatz von KI und algorithmischen Systemen die Tätigkeit von Richterinnen und Richtern, Rechtspflegerinnen und Rechtspflegern oder von Servicekräften unterstützen und erleichtern und so zu Effizienzgewinnen führen. Die Entlastung in eher standardisierten Abläufen bietet die Chance und die Gelegenheit, Freiräume für die wichtigen Kerntätigkeiten richterlicher oder rechtspflegerischer Arbeit zu schaffen, die nur durch Menschen vorgenommen werden können.“

Bereits jetzt fehlen 3000 Mitarbeiter in der NRW-Justiz. Der demografische Wandel wird diese Situation noch verschärfen. In welchen Personalbereichen kann sich der Einsatz von KI am ehesten positiv auswirken, gibt es hierzu Beispiele oder Prognosen?

6.

In dem „Grundlagenpapier“ wird auf Seite 43 folgende Forderung aufgestellt:

„Insbesondere wegen der stetigen technischen Weiterentwicklung sollte bei den Landesjustizverwaltungen und beim Bundesministerium der Justiz die Bereitschaft zum kurzfristigen Beginn zusätzlicher Pilotprojekte bestehen. Hierfür sind der erforderliche rechtliche Rahmen und die benötigten personellen und sächlichen Ressourcen zeitnah zur Verfügung zu stellen.“

Wie sollte der Rechtsrahmen ausgestaltet werden und über welche personellen und sächlichen Ressourcen sprechen wir der Höhe nach?

7.

Zum Schutz der Grundrechte der Bürgerinnen und Bürger ist jedes einzelne KI-System auf die Einhaltung der Wertgrundlagen zu überprüfen. Wie und ab wann kann und soll dies durch entsprechende rechtliche Rahmenbedingungen abgesichert werden, wobei auch insoweit Fairness, Transparenz und Nachvollziehbarkeit gegeben sein müssen? Gibt es hierzu Vorgaben und/ oder Handlungsempfehlungen, die sich an den Gesetzgeber richten, da die o.g. Einzelprojekte ansonsten offensichtlich ohne Rechtsrahmen entstehen?

8.

Wie beurteilen Sie den Einsatz von KI als Unterstützung in weiteren formalisierten und standardisierten Verfahren, wie Register- und Grundbuchverfahren, Vollstreckungsverfahrens und Insolvenzrecht? Ist bereits absehbar, ab wann ein solcher Einsatz praktisch denkbar wäre?

9.

Welche Vorteile einerseits und welche Nachteile andererseits, sehen Sie im Einsatz von Künstlicher Intelligenz in der Justiz? Welche Chancen, Risiken und Grenzen sehen Sie?

10.

An welchen Stellen besteht die Möglichkeit, das deutsche Justizsystem durch den Einsatz von Künstlicher Intelligenz zu entlasten?

11.

Wo sehen Sie Einsatzmöglichkeiten von KI in der Justiz?

12.

Welche Einsatzmöglichkeiten von Künstlicher Intelligenz halten Sie für technisch, ethisch und rechtlich umsetzbar und hilfreich für den Arbeitsalltag in der Justiz?

13.

Welche Einsatzmöglichkeiten sehen Sie im Strafverfahren; insbesondere auch in Bezug auf das Ermittlungsverfahren und die Hauptverhandlung?

14.

Welche Einsatzmöglichkeiten sehen Sie in Zivilverfahren; insbesondere auch in Bezug auf Massenverfahren?

15.

Wo sehen Sie die dringendsten Bedarfe zum Einsatz von KI in der Justiz?

16.

Welche Einsatzmöglichkeiten von Künstlicher Intelligenz halten Sie für rechtlich umsetzbar?

17.

Welche Gesetzesänderungen halten Sie in diesem Zusammenhang für erforderlich, auf Bundes- und Landesebene?

18.

Worin sehen Sie die größten rechtlichen Herausforderungen bei der Nutzung von KI in der Justiz?

19.

Wie beurteilen Sie die in der Vorlage 18/289 aufgeführten Anwendungsbereiche von KI in der Justiz?

20.

Gibt es Beispiele für den Einsatz von KI in anderen Bundesländern oder Staaten an denen sich NRW ein Beispiel nehmen kann und falls ja an welchen und warum?

21.

Welche Gefahren sehen Sie beim Einsatz von KI, insbesondere durch technische Diskriminierung von Minderheiten und wie kann diesen Gefahren begegnet werden?

22.

Wie beurteilen Sie die bereits bestehenden und die aktuell in der Diskussion befindlichen EU-rechtlichen Vorgaben und welche Handlungsspielräume sehen sie in der Folge für das Land NRW?

23.

Welche KI-Systeme sollten in der Justiz verboten werden?