Weltweit 1. KI-Gesetz: Künstliche Intelligenz soll stärker geregelt werden

 "Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt", schrieb Breton im Kurzbotschaftendienst X (früher Twitter).

EU-Kommissionspräsidentin Ursula von der Leyen erklärte zum Abschluss der am Mittwochnachmittag gestarteten Verhandlungsrunde, die rund 35 Stunden dauerte, das KI-Gesetz (AI Act) sei eine "weltweite Premiere". Es handle sich um ein rechtliches Rahmenwerk für die Entwicklung von Künstlicher Intelligenz, der die Menschen "vertrauen" könnten. Außerdem würden "Sicherheit und Grundrechte von Menschen und Unternehmen" geschützt.

Auch Österreichs Staatssekretär für Digitalisierung, Florian Tursky (ÖVP), begrüßte die Einigung. "Mit dem weltweit ersten Rechtsrahmen für KI setzen wir in der Europäischen Union einen wichtigen Meilenstein, denn durch sinnvolle Regulierung stärken wir nicht nur das Vertrauen in die neuen Technologien, sondern stärken zudem die europäischen Werte und Grundrechte im digitalen Raum", betonte er laut einer Aussendung von Samstag früh. Für Unternehmen seien "klare Regeln und Vorgaben" wichtig, um Rechtssicherheit zu haben. "Für die Bürgerinnen und Bürger ist die Transparenz und der Schutz ihrer persönlichen Daten wichtig", so Tursky.

• Lesen Sie auch: "Künstliche Intelligenz braucht auch Menschen, die mit ihr umgehen können" [OÖNplus]
• Mehr zum Thema lesen Sie im Blog "Schöne neue Welt"

"Keine Angst vor KI, Risiken konsequent regulieren"

Man müsse das Verhandlungsergebnis "natürlich noch genau prüfen, aber damit kann Europa globaler Vorreiter bei der Regulierung von KI werden", zeigte sich die ÖVP-Europaparlamentarierin Barbara Thaler überzeugt. "Das ist ein wichtiges Signal an die Mitbewerber in den USA und in Asien. Meine Devise lautet seit jeher: Keine Angst vor KI, die Risiken konsequent regulieren und den Fokus auf die Möglichkeiten und das Potenzial richten", so Thaler in einer Aussendung.

Die stellvertretende Generalsekretärin der Wirtschaftskammer (WKÖ), Mariana Kühnel, sieht in dem geplanten KI-Rechtsrahmen "eine Balance zwischen Innovation und Regulierung gewährleistet. Er fördert Investitionen und Innovationen und sichert gleichzeitig bestehende Rechte durch ein hohes Schutzniveau." Nun müssten rasch die nationalen Strukturen für die Umsetzung der Verordnung geschaffen werden. Kühnel forderte "eine serviceorientierte KI-Behörde" in Österreich, die die Unternehmen hierzulande bei der Umsetzung unterstützt.

Kritik an EU-Vorgaben aus der Wirtschaft

Aus der Wirtschaft kam aber auch Kritik an den EU-Vorgaben. Sie seien eine weitere Belastung für die Unternehmen, erklärte der Branchenverband DigitalEurope. Der Bundesverband der Deutschen Industrie bemängelte, das Ziel, durch den "AI Act" einen sicheren und vertrauensbildenden Rechtsrahmen auf Basis eines risikobasierten Ansatzes zu wählen, sei teilweise verfehlt worden. Die Wettbewerbs- und Innovationsfähigkeit werde gefährdet und die von Unternehmen benötigte Rechtssicherheit in Form von praxisnaher und vorausschauender Regulierung sei durch unausgereifte Kriterien nicht gegeben. "Der Kompromiss bremst unseren Wirtschaftsstandort bei der KI-gestützten Transformation, die gerade für die Bewältigung von Fachkräftemangel und Energiewende dringend gebraucht wird, aus, erklärte Iris Plöger, Mitglied der BDI-Hauptgeschäftsführung. "Europa riskiert auf diesem Weg, den Anschluss an die weltweiten KI-Entwicklungen zu verlieren."

"Schwer, sich über Gesetz zu freuen"

Auch die Datenschutzgruppe European Digital Rights äußerte sich kritisch. Es sei schwer, sich über ein Gesetz zu freuen, das zum ersten Mal in der EU Schritte unternehme, um die öffentliche Gesichtserkennung in der gesamten EU zu legalisieren. Das Gesamtpaket zur biometrischen Überwachung und zum Profiling sei bestenfalls mäßig.

Nach der politischen Einigung vom Freitagabend müssen nun noch technische Details ausgearbeitet werden. Die Regeln sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Außerdem müssen Entwickler klar kenntlich machen, dass durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen.

Verschärfte Vorgaben soll es für "risikoreiche" Anwendungen geben, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden.

Die EU-Kommission hatte im April 2021 erstmals einen Rechtsrahmen für den Einsatz Künstlicher Intelligenz vorgeschlagen. Die Verhandlungen zogen sich aber in die Länge.

Warnung vor "scharfen Auflagen"

Die großen Mitgliedsländer Deutschland, Frankreich und Italien hatten zuletzt vor scharfen Auflagen gewarnt, um die Entwicklung der Zukunftstechnologie nicht zu gefährden. Der deutsche Digital- und Verkehrsminister Volker Wissing appellierte an die EU, international abgestimmt vorzugehen und "keinen Alleingang" zu wagen. So gibt es Befürchtungen, Start-up-Unternehmen wie Aleph Alpha aus Deutschland und Mistral AI in Frankreich könnten in ihrer Entwicklung behindert werden.

Das Thema Künstliche Intelligenz hatte vor rund einem Jahr durch die Veröffentlichung des Chatbots ChatGPT durch das US-Unternehmen OpenAI an Prominenz gewonnen. Das Programm ist in der Lage, mit Hilfe von Künstlicher Intelligenz aus sehr kurzen Eingabeaufforderungen beispielsweise Essays, Gedichte oder Unterhaltungen zu generieren. ChatGPT machte die Möglichkeiten der KI damit schlagartig einem großen Publikum bewusst. Zugleich wuchsen die Befürchtungen über mögliche Gefahren der Technologie.

Streitpunkt biometrische Überwachung

Der größte Knackpunkt bei den Gesprächen war der Streit um biometrische Überwachung. Der Gesetzesentwurf des Parlaments verbietet KI-Anwendungen wie eine automatisierte Gesichtserkennung. Kritiker sehen darin eine massive Verletzung der Bürgerrechte. Die EU-Staaten wollten Ausnahmen zum Schutz der nationalen Sicherheit, zur Verteidigung und für andere militärische Zwecke durchsetzen. Die Einigung sieht Beschränkungen für die Nutzung biometrischer Identifizierungssysteme durch die Strafverfolgungsbehörden vor. Die Einzelheiten sollen in den kommenden Tagen ausgearbeitet werden.

Die Vereinbarung sieht auch Verbote zur Manipulation oder Ausnutzung von Schwächen der Nutzer durch KI vor. Verbraucher sollen das Recht bekommen, Beschwerden einzureichen und angemessene Antworten zu erhalten. Geldstrafen für Verstöße sollen zwischen 7,5 Millionen Euro und 35 Millionen Euro liegen.

Weltweit an der Spitze der KI-Regulierung

Mit dem Gesetz setzt sich die EU weltweit an die Spitze der KI-Regulierung. Die meisten anderen Staaten haben bisher vor allem Verordnungen und Dekrete erlassen. Außerdem könnte der "AI Act" als Blaupause für diejenigen dienen, denen die Regelungen der USA zu locker und die Auflagen Chinas zu restriktiv sind.

Das Europaparlament und die Staaten müssen dem nun vereinbarten Vorhaben noch zustimmen. Das gilt aber als Formsache.