Erster Bayreuther IT-Strafrechtstag

Tagungsbericht

Am 10. Oktober 2024 fand an der Universität Bayreuth der erste Bayreuther IT-Strafrechtstag zum Thema „Zwischen Blackbox und Deepfakes – KI in der Strafverfolgung“ statt. Die Tagung wurde von dem Lehrstuhl für Strafrecht, Strafprozessrecht und IT-Strafrecht unter der Leitung von Prof. Dr. Christian Rückert ausgerichtet, dessen Forschungsschwerpunkte unter anderem auf technischen Ermittlungsmethoden in der Strafverfolgung liegen. Neben Teilnehmern aus Wissenschaft, Anwaltschaft und Verwaltung nahmen auch einige Vertreter aus der Justiz an der Veranstaltung teil.

Die Tagung wurde durch den Präsidenten der Universität Bayreuth, Prof. Dr. Stefan Leible, eröffnet, der dazu einlud, bei dem Thema der „Künstlichen Intelligenz“ (KI) eine Brücke zwischen Rechtsprechung, Wissenschaft und Gesellschaft zu schlagen. Anschließend begrüßte Prof. Rückert die Teilnehmer und gab einen Ausblick auf die Themen der Veranstaltung sowie auf die Angebote und Projekte der Universität Bayreuth im Zusammenhang mit KI.

Der Vormittag der Tagung war den technischen Grundlagen gewidmet. Den ersten Fachvortrag hielt Dr.-Ing. Lucas Baier, der als AI Engineer bei IBM tätig ist. Er erklärte den Begriff der Künstlichen Intelligenz und erläuterte, dass hinter dem viel diskutierten „ChatGPT-Moment“ letztendlich eine Verwendung von bereits vorhandenen Foundation Models bzw. Large Language Models (LLMs) stecke. Der Redner stellte anschließend KI-Anwendungen vor, die in Zusammenarbeit mit IBM für die Justiz entwickelt und erprobt wurden. Etwa bietet die KI „OLGA“ (Oberlandesgericht-Assistent) in Massenverfahren, wie dem Diesel-Abgas-Skandal, eine Möglichkeit für die intelligente Kategorisierung gleichgelagerter Fälle zur Entlastung der Gerichte. Eine weitere Anwendung, „JANO“ (Justiz-Anonymisierung), ist ein praxisnahes Tool für die Anonymisierung unstrukturierter Gerichtstexte. Die Anwendung „XERA“ soll es Verfahrensbeteiligten in Zukunft ermöglichen, mit der digitalisierten Akte zu „chatten“ und gezielte Fragen an das Dokument zu stellen.

Im Anschluss stellte Prof. Dr.-Ing. Niklas Kühl, Professor für Wirtschaftsinformatik und humanzentrische Künstliche Intelligenz an der Universität Bayreuth, heraus, dass Machine Learning (ML) keine Raketenwissenschaft sei. Ein Problem stelle jedoch die Intransparenz von KI durch die zunehmende Komplexität der technischen Vorgänge dar, insbesondere aufgrund der Verwendung von neuronalen Netzwerken und LLMs. Eine Möglichkeit, der „Blackbox“ entgegenzuwirken, sei der Einsatz von „Explainable AI“ (XAI), also von KI-basierten Anwendungen, die ursprünglich eingesetzte KI-Tools erklären sollen. Kühl wies jedoch auf mögliche Fehlerquellen der XAI hin und forderte dazu auf, in Zusammenhang mit KI neugierig und misstrauisch zu bleiben und die Ergebnisse von KI-Anwendungen fortlaufend durch Experten-Gutachten auszuwerten und zu verbessern.

Nach der Mittagspause lag der Schwerpunkt der Vorträge auf juristischen Fragestellungen. Oberstaatsanwältin Miriam Margerie von der ZAC NRW widmete sich der Frage, ob Strafverfolgungsbehörden KI-basierte Täuschungen vornehmen dürfen, zum Beispiel durch die Verwendung eines KI-generierten Stimmklons für einen Anruf im Rahmen der organisierten Kriminalität. Die Rednerin kam zu dem Ergebnis, dass eine derartige Ermittlungsmaßnahme nach der aktuellen Rechtslage mangels einer entsprechenden Befugnisnorm nicht zulässig sei. Problematisch sei insbesondere das schutzwürdige Vertrauen des Stimmgebers in seine Stimme als identitätsstiftendes Merkmal und damit sein verfassungsrechtlich garantiertes allgemeines Persönlichkeitsrecht. Im Ergebnis sei der Gesetzgeber jedoch aufgefordert, eine entsprechende Ermächtigungsgrundlage zu schaffen, da die Strafverfolgungsbehörden auf zukunftsfähige Ermittlungskompetenzen angewiesen seien.

Am Nachmittag referierte PD Dr. Victoria Ibold von der Martin-Luther-Universität Halle-Wittenberg zum Thema „Blackbox-KI als Herausforderung für die Strafverfolgung“ und hob hervor, dass die Transparenz im Strafverfahren, insbesondere für das Kontrollrecht des Beschuldigten, von zentraler Bedeutung sei. In der höchstrichterlichen Rechtsprechung haben sich zwei Arten von Anforderungen an den Einsatz von KI in der Strafverfolgung herausgebildet, namentlich die Verlässlichkeit und Nachvollziehbarkeit der Anwendung. Nach Ansicht der Rednerin schließe die fehlende Nachvollziehbarkeit einer KI ihre Anwendung im Bereich der Tatsachenfeststellung und richterlichen Überzeugungsbildung aus. Anders sei jedoch der Einsatz von KI zur Verdachtsgewinnung zu beurteilen. Hier könne auf eine vollständige Nachvollziehbarkeit verzichtet werden, wenn die KI im hohen Maße verlässlich und das Ergebnis einer menschlichen Überprüfung zugänglich sei.

Der letzte Fachvortrag von Dr. Johanna Hahn, LL.M. (Harvard), behandelte den Einsatz automatisierter Gesichtserkennung in der Strafverfolgung. Die Referentin betonte, dass bei der rechtlichen Beurteilung stets das konkrete Einsatzszenario der Gesichtserkennung zu berücksichtigen sei (z.B. Identitätsermittlung, digitale Beobachtung, Echtzeit-Lokalisierung etc.). Der Einsatz entsprechender KI bedürfe einer expliziten Ermächtigungsgrundlage, die bisher nicht bestehe, sodass der Gesetzgeber nachbessern müsse. Die in diesem Jahr in Kraft getretene KI-Verordnung habe nur einen äußeren Rahmen gesetzt. Eine zukünftige gesetzliche Regelung müsse nicht nur verfassungsrechtlichen Vorgaben genügen, sondern auch eine „systemische Betrachtung“ vornehmen und neben der Adressierung von „Bias-Problemen“ auch hinreichende Evaluationen der eingesetzten KI vorsehen.

Nach den Vorträgen erhielten die Teilnehmer die Möglichkeit für Fragen und Anmerkungen, die auch umfassend genutzt wurde und zu angeregten Diskussionen führte. Das Publikum schätzte vor allem die Aufarbeitung der technischen Grundlagen. Aus der Justiz waren Stimmen zu vernehmen, die von einem „Untervertrauen“ gegenüber KI als Arbeitsmittel berichteten, insbesondere von einer Skepsis gegenüber der Verlässlichkeit entsprechender Anwendungen. Bei dem Thema „Deepfakes durch die Strafverfolgungsbehörden“ äußerten einige Teilnehmer Zweifel an der verfassungsrechtlichen Zulässigkeit von etwaigen (zukünftigen) Befugnisnormen.

Prof. Rückert schloss die Tagung mit einer Danksagung und Verabschiedung. Insgesamt handelte es sich um eine gelungene Auftaktveranstaltung, die ein konkretes Bild des zukünftigen Einsatzes von KI in Justiz und Strafverfolgung vermitteln konnte und die damit verbundenen technischen und juristischen Problemstellungen anschaulich herausstellte. Rechtswissenschaft und Praxis werden sich in den kommenden Jahren noch intensiv mit der Thematik beschäftigen müssen. Der nächste Bayreuther IT-Strafrechtstag soll voraussichtlich im Oktober 2025 stattfinden.