FONDS professionell Deutschland, Ausgabe 2/2024

Mit dem AI Act möchte die EU den Einsatz künstlicher Intelligenz regulieren. Anwalt Lutz Martin Keppeler von der Kanzlei Heuking erläutert, was auf die Finanzbranche zukommt – und warum viele Fragen noch nicht abschließend beantwortet werden können. K ünstliche Intelligenz (KI) ist eines der wichtigsten Themen in Wissenschaft, Wirtschaft und Politik. In immer mehr Bereichen werden Systeme auf KI-Basis genutzt, auch in der Finanz- und Versiche- rungswirtschaft. Die EU hat auf diese Ent- wicklung frühzeitig reagiert und bereits im Februar 2022 einen Entwurf für eine Ver- ordnung zur Regulierung von KI veröffent- licht – lange bevor der Start von ChatGPT den „KI-Hype“auslöste.Der finale Entwurf des „Artificial Intelligence Act“ (AI Act) wurde am 13. März verabschiedet und trat kurz darauf in Kraft. Im Interview mit FONDS professionell erörtert Lutz Martin Keppeler, Partner und Fachanwalt für Informationstechnologie- recht bei der Kanzlei Heuking Kühn Lüer Wojtek in Köln, wie die von Finanzdienst- leistern genutzten KI-Systeme eingestuft werden – und welche Auswirkungen das auch für Vermittler hat. Herr Keppeler, was ist grundsätzlich das Ziel des AI Acts? Lutz Martin Keppeler: Die EU möchte ver- suchen, KI mit einem risikobasierten An- satz zu regulieren. Daher differenziert die Verordnung KI-Anwendungen in vier ver- schiedene Risikostufen. KI-Modelle, die als riskant für die Sicherheit, den Lebensunter- halt und die Rechte von Menschen ange- sehen werden, sind verboten.Daneben gibt es Hochrisiko-KI-Systeme, KI-Anwendun- gen mit begrenztem Risiko und solche mit keinem oder minimalem Risiko. Eine Hochrisiko-KI ist nicht verboten, es gibt aber viele Anforderungen an Hersteller und Nutzer. Sie müssen hohe Standards bei den Sorgfaltspflichten, der Überwa- chung und der Dokumentation der Syste- me einhalten. Bei Systemen mit begrenz- tem Risiko gibt es insbesondere Transpa- renzverpflichtungen, bei den übrigen ledig- lich eine Informationspflicht. In welche Kategorie fallen Systeme, die die Finanzbranche und somit Finanz- und Versicherungsvermittler nutzen? Ist das schon klar? Hier muss man zwischen KI-Tools unter- scheiden, die spezifisch und die nicht spe- zifisch für die Branche sind. Bei der ersten Gruppe existiert derzeit keine verbotene KI und nur drei Arten von Anwendungen, die als Hochrisiko-KI gelten, die typischer- weise durch die Finanzbranche genutzt werden: Systeme, die für die Kreditwürdig- keitsprüfung und Bonitätsbewertung ge- nutzt werden, sowie Tools für die Risikobe- wertung und Preisbildung bei Lebens- und Krankenversicherungen. Die übrigen sind Systeme mit begrenztem oder minimalem Risiko, sodass es nur Transparenzpflichten gibt. Das kann sich aber alles noch ändern. Warum wurden nur diese drei Arten von Systemen als Hochrisiko-KI eingestuft? Und wieso kann sich das ändern? Die Einordnung in die verschiedenen Stu- fen richtet sich nach dem potenziellen Risiko, das mit dem Einsatzbereich der KI einhergeht. Wichtig für die Einstufung in „Stellen Sie sich den AI Act als eine grüne Wiese vor“ » Die EU möchte versuchen, KI mit einem risikobasierten Ansatz zu regulieren. « Lutz Martin Keppeler, Kanzlei Heuking Kühn Lüer Wojtek STEUER & RECHT Lutz Martin Keppeler | Kanzlei Heuking Kühn Lüer Wojtek 410 fondsprofessionell.de 2/2024