Die Zähmung der künstlichen Intelligenz durch neue Spielregeln

Wie beim Datenschutz nimmt Europa beim gesetzlichen Umgang mit künstlicher Intelligenz (KI) eine internationale Vorreiterrolle ein und schützt im sogenannten AI Act Grundrechte, Demokratie und Rechtsstaatlichkeit. Mit gestern, 1. August, treten die neuen Spielregeln in Kraft.

Die Mitgliedsstaaten haben dann zwei Jahre Zeit, die Vorgaben in nationales Recht umzusetzen. Sie sollen sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Verbraucher sollen mit dem Gesetz besser vor risikohaften KI-Anwendungen geschützt werden.

Je mehr Risiko für Mensch, desto schärfere Regeln

Je mehr Risiko für Menschen vom einem KI-Programm ausgehe, desto schärfer seien die Rechtspflichten, fasst es der Datenschutzexperte Michael Pachinger von der Rechtsanwaltskanzlei Saxinger in Wels zusammen. Verboten seien KI-Anwendungen, die Menschen bedrohen oder sie wie in China über ihr Verhalten kategorisieren und mit "Sozialpunkten" bewerten würden. KI-Systeme, die zum Beispiel Bewerber für Jobs in einem Unternehmen automatisiert (aus-)sortieren, gelten nun als Hochrisikosystem, dem entsprechende Pflichten wie Dokumentation oder die Aufsicht durch einen Menschen folgen.

So wird Gesichtserkennung im öffentlichen Raum – etwa durch Videoüberwachung an öffentlichen Plätzen – grundsätzlich nicht erlaubt sein. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen wird es mit dem Gesetz in der EU nicht geben. Verbraucher sollen leichter erkennen, wo künstliche Intelligenz verwendet wird.

Was kommt dabei auf ein typisches österreichisches Mittelstandsunternehmen zu? Pachinger: "Jedes Unternehmen, das KI-basierte Systeme zum Einsatz bringt, hat zunächst in Eigenverantwortung zu klären, ob man das KI-Tool entwickelt oder nur verwendet, und demnach eine entsprechende Risikobewertung vorzunehmen." Dafür gibt es genaue Vorgaben im Gesetz. Ein Programm wie ein Chatbot oder ein Spamfilter mit KI gelten etwa als minimales Risiko.

Überwacht werde dies von national zu etablierenden Stellen und EU-Aufsichtsbehörden für die Marktüberwachung, so Pachinger. Der AI Act sieht nationale Stellen vor, welche die neuen Regeln koordinieren und kontrollieren. Diese müssen bis 2025 benannt werden. Innerhalb von zwölf Monaten ab Inkrafttreten des neuen Gesetzes werden diese Behörden für die Durchsetzung der neuen Regeln ihre Arbeit aufnehmen.

Strafen bis 35 Millionen Euro

Bei Verstößen drohen empfindliche Strafen: beim Einsatz von verbotener Technologie etwa bis zu 35 Millionen Euro oder bis zu sieben Prozent des weltweiten Jahresumsatzes. Das genaue Strafmaß muss in diesem Rahmen aber von den Ländern festgelegt werden.

Die bei der Telekom-Regulierungsbehörde RTR angesiedelte KI-Servicestelle ist jedoch nicht diese nationale Stelle zur Kontrolle, sondern dient nur als Informationsplattform und zum Wissensaustausch.

Generative KI wie ChatGPT würden, so Pachinger, bestimmte Qualitätskriterien für ihr KI-Training erfüllen und dokumentieren müssen. "Daneben gibt es umfassende Transparenz- und Kennzeichnungspflichten." Das Training mit personenbezogenen Daten muss datenschutzkonform erfolgen und darauf muss auch hingewiesen werden.

Den einheitlichen Rechtsrahmen für künstliche Intelligenz hat die EU auch deshalb geschaffen, um mehr Investitionen in diesem zukunftsträchtigen Bereich nach Europa zu holen. Die USA und China investieren viel mehr. "Umfangreiche und zielgerichtete Investitionen in KI werden in den kommenden Jahren entscheidenden Einfluss auf das Wirtschaftswachstum in der EU haben", sagte Mihails Kozlovs vom Europäischen Rechnungshof kürzlich anlässlich eines sehr kritischen Berichts über Europas Position bei KI. Die EU verfolgt das ehrgeizige Ziel, dass bis 2030 75 Prozent der Unternehmen KI einsetzen. Im Jahr 2021 entfielen nur vier Prozent der weltweiten KI-Patentanmeldungen auf Europa und Zentralasien. (uru)