FONDS professionell Deutschland, Ausgabe 2/2024

der Praxis ist, dass alle Systeme, die nicht verboten oder hochriskant sind, automa- tisch in eine der anderen Kategorien fallen. Die Vorgaben zur Einordnung als verbo- tene oder hochriskante KI sind aber sehr komplex – und lassen Raum dafür, dass eine KI je nach Nutzungszweck auch als Nicht-Hochrisiko-System eingestuft werden kann. Dazu müsste ich ausholen. Gern! Dreh- und Angelpunkt ist Artikel 6 des AI Acts. Absatz 1 verweist auf beste- hende EU-Verordnungen für be- stimmte Produkte, die in der EU erlaubt sind. Wenn ein solches Produkt oder ein Teil davon nach Einschätzung des Herstel- lers eine Sicherheitskomponen- te hat, die KI nutzt, dann gilt diese KI als Hochrisikoanwen- dung. Unter den gelisteten Ver- ordnungen ist aber keine, die im Finanzsektor typischerweise eine Rolle spielt. Wichtiger ist daher der zweite Absatz, der auf eine Liste mit Hochrisiko-KI in Anhang III des Acts verweist. Die Auswahl dieser Systeme basiert darauf, dass sie nach Auf- fassung der EU-Kommission die Grund- rechte einer Person betreffen, sie müssen also stärker kontrolliert werden. Und der Anhang III listet nur die drei ge- nannten Systeme für die Finanzwirtschaft auf? Genau. Andere KI-Systeme, etwa zur Risi- koeinstufung zwecks Investments, sind nicht genannt, gelten dem Wortlaut der Verordnung folgend nicht als hochriskant. Wie aber schon angedeutet, ist auch die Einstufung der drei genannten Systeme nicht fix. Der dritte Absatz von Artikel 6 benennt Ausnahmen, wobei der Einsatz- zweck entscheidend ist. Eine Ausnahme greift etwa, wenn die KI das Ergebnis einer zuvor abgeschlossenen menschlichen Tätig- keit verbessert. Das heißt: Eine KI zur Kre- ditvergabe, deren Ergebnisse von Men- schen geprüft werden, gilt nicht als Hoch- risiko-KI. Wer entscheidet, welche Verordnungen in Artikel 6 Absatz 1 genannt werden oder welche KI in Anhang III gelistet werden? Die EU-Kommission. Die Behörde will unter anderem weitere Beispiele für Hoch- risiko-KI nennen. Und wer legt die Ausnahmen fest? Bei den Ausnahmen haben die zuständi- gen nationalen Behörden das letzte Wort – nur gibt es noch keine KI-Behörde in Deutschland. Ultimativ müssen die Gerich- te entscheiden, in letzter Instanz der Euro- päische Gerichtshof. Sie müssen sich den AI Act als eine grüne Wiese vorstellen: Es gibt keine Gesetze oder Rechtsprechung, auf denen man aufbauen kann. Bei der Datenschutzgrundverordnung gab es schon Datenrecht. Das ist natürlich miss- lich, weil sich die Unternehmen vorberei- ten und all ihre KI prüfen und einstufen müssen.Dafür haben sie nur begrenzt Zeit, für Hochrisikosysteme müssen die Anfor- derungen zwei Jahre nach Inkrafttreten des AI Acts erfüllt werden, also 2026. Bei Nicht- befolgung drohen empfindliche Geldbu- ßen – das gilt analog auch für die anderen KI-Systeme, die Finanzdienstleister und Vermittler nutzen. Was ist mit KI, die nicht spe- zifisch für die Finanz- branche entwickelt wurde? Das von mir be- schriebene Ent- scheidungsprin- zip bleibt gleich. Nicht hochris- kant sind etwa ChatGPT oder Chatbots. Für diese gelten laut Artikel 50 Absatz 4 des AI Acts nur diverse Transparenzvor- schriften, sprich es muss den Verbrauchern klar sein, dass die Inhalte von einer KI er- stellt wurden. Bei Marketingsystemen, die die Branche nutzt, ist es schwieriger. Kein genannter Fall aus dem AI Act ist explizit für KI-Systeme zumMarketing einschlägig. Somit besteht in dieser Hinsicht ein etwai- ger Auslegungsspielraum. Dagegen fallen KI-Modelle, die beispielsweise in der Perso- nalabteilung zur Bewertung der Leistung von Mitarbeitern genutzt werden können, unter hochriskante Systeme. Wir danken für das Gespräch. JENS BREDENBALS FP » Eine KI zur Kreditvergabe, deren Ergebnis von Menschen geprüft wird, gilt nicht als Hochrisiko-KI. « Lutz Martin Keppeler, Kanzlei Heuking Kühn Lüer Wojtek KURZ-VITA: Lutz Keppeler Der promovierte Jurist und Fachanwalt für IT-Recht startete seine Karriere 2013 bei Clifford Chance. Seit 2014 arbeitet er im Kölner Büro der Wirtschaftskanzlei Heuking Kühn Lüer Wojtek, die ihn 2023 zum Partner beförderte. FOTO: © HEUKING KÜHN LÜER WOJTEK fondsprofessionell.de 2/2024 411