Manipulierte KI-Videos auf dem Vormarsch: So will YouTube dagegen vorgehen
Rund einen Monat vor der Wahl zum EU-Parlament (6. bis 9. Juni) verzeichnet die Google-Tochtergesellschaft YouTube einen deutlichen Anstieg bei mithilfe von Künstlicher Intelligenz (KI) manipuliertem Videomaterial.
Bereits im Vorjahr habe man 35.000 Videos gesperrt, die auf diese Art Desinformation verbreitet haben, hieß es bei einem Hintergrundgespräch mit Journalisten. Für den EU-Wahlkampf will YouTube bei der Kennzeichnung von KI-Inhalten einen Schwerpunkt setzen.
- Lesen Sie auch: Trauen Sie Ihren Augen und Ohren - nicht [OÖNplus]
Jedes Video, das KI-Inhalte enthält, soll ähnlich wie Werbeeinschaltungen mit einem AI-Label gekennzeichnet sein ("altered or synthetic content"). Wird manipulierter Content ohne Label hochgeladen, wird es von YouTube nachträglich eingefügt oder das Video gesperrt. Ausnahmen gibt es nicht, auch Inhalte von Politikern müssen gekennzeichnet sein. Das sei nötig, weil ausländische Akteure, konkret genannt wurde Russland, Einfluss auf den Wahlkampf nehmen wollen.
Deepfake, um Wähler zu täuschen
KI- und Deepfake-Darstellungen werden von diesen Akteuren benutzt, um Wählerinnen und Wähler zu täuschen, hieß es. Besonders häufig werden Nutzer auch dadurch getäuscht, dass alte Videoaufnahmen als neue ausgegeben werden. Dieser Trend sei nicht neu. Man habe ähnliches schon im Ukraine-Krieg und im Nahost-Konflikt beobachtet, sagten YouTube-Vertreter. Hier habe man bereits eine hohe fünfstellige Anzahl an Inhalten gelöscht.
- Das könnte Sie auch interessieren: "Künstliche Intelligenz braucht auch Menschen, die mit ihr umgehen können" [OÖNplus]
Neben der Eindämmung von Desinformation will YouTube bei den EU-Wahlen auch die politische Beteiligung stärken. Unter dem Motto "Supporting the European Parliamentary Elections" will man Nutzern gezielt Inhalte wie Informationen zu den Kandidaten, zum Wahlsystem und den Rahmenbedingungen zur Verfügung stellen.
Nutzerinnen und Nutzer sollen auch mit Einschaltungen daran erinnert werden, von ihrem Wahlrecht Gebrauch zu machen. Weiters habe man vor, "vertrauensvolle Quellen" in den Vordergrund zu stellen. Sie werden bei Suchanfragen eher angezeigt, als andere Quellen. Auf Nachfrage betonten YouTube-Vertreter, damit etablierte Medien wie Tageszeitungen und TV-Stationen zu meinen.
Diese Büchse der Pandorra bekommen wir nie mehr geschlossen.
Jedes Foto, jedes Video, jedes Tondokument wird in absehbarer Zeit durch KI manipuliert sein können (das Wort Intelligenz mag man da eigentlich gar nicht in den Mund nehmen)
Man stelle sich vor, Fotos von Kriegsschauplätzen, die es gar nicht gibt, Videos über Umweltkatastrophen, die frei erfunden sind, Ansprachen von Politikern, die diese Worte niemals sagten, „Tonaufnahmen“die kein Mensch je sprach, nur gemacht, um zu manipulieren ….
Ich hoffe, die Aussichten sind nicht so schwarz, wie ich sie sehe.
Es funktioniert ja jetzt schon auf Facebook und co die abstrustesten Behauptungen mit billigen Bild-Montagen oder Artikeln voller Hetze und Lügen zu posten und diese mit Bot-Farmen zu puschen.
Gibt dann genug Dumme, die darauf anspringen, das weiterverbreiten und sich spalten lassen.
Russland macht das mindestens schon seit 2008, und kürzlich verdichten sich die Hinweise, dass das in noch größerem Unfang ausgerollt werden soll.
Neben anderen Gaunerein:
https://www.washingtonpost.com/world/2024/04/17/russia-foreign-policy-us-weaken/
https://www.ft.com/content/c88509f9-c9bd-46f4-8a5c-9b2bdd3c3dd3