Als Kinder des Internetzeitalters kennen wir inzwischen sämtliche Vor- und Nachteile welche die moderne Technik mit sich bringt. Es überwiegen zwar die Vorteile, doch so ganz ohne die berühmte Kehrseite der Medaille geht es auch hier nicht. Bereits in den Anfängen von Instagram & Co. bedienten sich viele Nutzer Apps mit denen sie ihre Bilder verfeinern und perfektionieren konnten. Und auch damals wurde schon getrickst und gefälscht was das Zeug hielt. Instagram wurde beschuldigt einen negativen Einfluss auf die mentale Gesundheit junger Frauen zu nehmen. Die App suggeriere ein falsches Gesundheits- und Schönheitsbewusstsein. Dass hinter den perfekten Gesichtern und Körpern in der Regel ein Bearbeitungsprogramm steckt, wussten viele gar nicht. Ich will dieses Vorgehen auch nicht zu sehr an den Pranger stellen, denn die Creatoren sind in gewisser Hinsicht als Werbefiguren unterwegs, und man weiß ja, wie wichtig ein ansprechendes Äußeres in der Werbebranche ist. Natürlich dient es dem einen oder anderen auch dazu, sich vor der Kamera einfach wohler und selbstbewusster zu fühlen.
Dann kam KI und mit ihr beinahe unendliche Möglichkeiten Fotos und Videos nicht nur zu bearbeiten, sondern auch zu erstellen. Doch damit nicht genug. Inzwischen werden künstlich erzeugte, einem echten Menschen täuschend ähnliche Figuren, sogenannte "Avatare" ins Rennen geschickt. Sie treten vor allem auf Tiktok aber auch Youtube als Content-Creatoren auf, die allerdings auf den ersten Blick gar nicht als Avatare zu erkennen sind. Die Möglichkeiten der Künstlichen Intelligenz sind mittlerweile so ausgereift, dass man damit den realen Menschen bereits ersetzen kann - zumindest im virtuellen Raum. Und nicht wenige ausgefuchste Tiktoker und Youtuber bedienen sich der neuen Technik. Sie kreieren eine perfekte und realistisch aussehende Scheinwelt, die für den gewöhnlichen Nutzer auch vollkommen echt wirkt.
Doch nicht nur Menschen werden auf diese Weise "gefaked." Auf Tiktok kann man sich haufenweise Videos von Haustieren in mehr oder weniger lustigen Situationen anschauen. Einige sind aber teilweise sehr grenzwertig, da werden Tiere gezeigt die an Elektrokabeln knabbern und Stromschläge bekommen, das Ganze untermalt von künstlich anmutenden Gelächter, und kaum ein Zuschauer zweifelt die Echtheit dieser Videos an. Wären diese Inhalte tatsächlich real, so könnte man ihren Erstellern - aber auch den Betrachtern - ein gehöriges Maß an Sadismus nicht absprechen. Wer "erfreut" sich schon allen Ernstes an Videos in denen Tiere in Lebensgefahr gebracht, fast zu Tode erschrocken oder auf sonstige Weise missbraucht werden.
All diese Inhalte haben jedoch eins gemeinsam: Sie wollen die Aufmerksamkeit der Nutzer, und zunächst scheint das alles völlig harmlos zu sein, eine Art virtueller Scherz, für den man nur die passende Art von Humor braucht. Doch diese manipulierten Bilder und Videos tragen die Gefahr in sich, dass gerade Jugendliche oder intellektuell einfacher gestrickte Erwachsene die Grenze zwischen Realität und Täuschung nicht mehr erkennen. Sehen junge Menschen ständig die künstlich erzeugten Gesichter und Körper der Avatare neigen sie unter Umständen dazu, das Äußere eines echten Menschen nicht mehr als "normal" zu erkennen, sie bekommen dadurch eine gestörte Wahrnehmung der Realität. Sogenannte "Deep-Fakes" sind wirklich täuschend echt. Mit ihnen lassen sich beispielsweise Gesichter verändern und Stimmen imitieren.
Bei vielen Inhalten kann man ihre tatsächliche Herkunft nur bei sehr genauem Hinsehen erahnen. Ein Beispiel: In einem Tiktok-Beitrag läuft eine hochgewachsene junge Frau in sehr auffälliger Kleidung ihren Trolley hinter sich herziehend durch eine stark belebte Flughafenhalle. Daran ist erstmal nichts Ungewöhnliches. Doch wenn man näher hinschaut, erkennt man, dass kaum einer der anderen Fluggäste ringsum die junge Frau zu sehen scheint, trotz ihrer auffallenden Kleidung. Es scheint so, als gäbe es diese Frau in Wahrheit gar nicht, als wäre sie nur für den Betrachter des Videos sichtbar. Es könnte ein Hinweis auf KI sein, muss aber nicht zwingend. Mir geht es vor allem darum, aufzuzeigen wie schwierig ist geworden ist KI-Inhalte zu entlarven. Sie können unterhaltsam sein, keine Frage. Nur darf man eben nicht davon ausgehen, dass das gezeigte Material real existiert. Es ist eine virtuell umgesetzte Fantasie, mehr nicht.
Sehr beliebtes Opfer bei digitalen Fälschern sind Prominente. Egal ob Filmstar, Papst oder Politiker, beinahe jeder der nur in irgendeiner Weise in der Öffentlichkeit steht, wurde schon einmal mittels "Deep Fake"- Post medial in Szene gesetzt. Und erstaunlich viele Menschen fallen jedes Mal darauf rein. Ich muss gestehen, dass auch ich schon einige Male diesen Fakes auf den Leim gegangen bin. Dies zeigt aber nur, wie ausgefeilt und weitentwickelt diese Technik bereits ist. Hochrangigen Politikern werden beliebige Sätze "in den Mund" gelegt, was zu peinlichen, oder sogar diplomatisch heiklen Verwicklungen führen kann. Man muss nicht mal Profi sein um solche Fakes zu erstellen. Mittels vortrainierter Modelle können auch Laien mit Smartphone-Apps oder Browser-Tools wie X-Chatbot Grok solche Fälschungen erzeugen.
Privatpersonen können ebenfalls mithilfe von Deepfakes in kompromittierende Situationen hineingeschnitten werden. In einigen Internetforen ist es gängige Praxis die Gesichter von Frauen in pornographisches Bild- oder Videomaterial hineinzuschneiden. Diese zurechtgeschusterten Ergebnisse werden "Deepnudes" genannt. Die Cybersicherheitsfirma Deeptrace konnte bereits 2019 zeigen, dass es sich bei 95% der Deepfakes im Netz um pornographisches Material handelt. Auch Kinder und Jugendliche werden Opfer dieser Machenschaften. Für die Betroffenen bedeutet dieses Bloßgestellt werden massive emotionale und psychische Ausnahmezustände. Sie fühlen sich erniedrigt und beschämt. Diese Aufnahmen können zudem verwendet werden um Menschen zu erpressen. Jeder von uns kann theoretisch betroffen sein, denn viele Nutzer stellen Fotos von sich ins Netz, die auf diese Weise missbraucht werden können. Für Content-Creatoren und Influencer ist es oft unabdingbar sich in ihren Posts zu zeigen, es macht die Inhalte nahbarer und persönlicher. Bringt aber auch Gefahren mit sich. Aber die wenigsten denken wirklich um die Ecke und lassen Vorsicht walten bei dem was sie von sich ins Netz stellen.
Woran erkennt man denn nun solche "Deepfakes?" Obwohl es wirklich richtig schwer geworden ist, manipulierte Inhalte von echten zu unterscheiden, so gibt es doch gewisse Auffälligkeiten auf die man achten sollte. Als da wären:
Gesichtsanomalien: Augen blicken leer, blicken in unterschiedliche Richtungen oder blinzeln nicht.
Übergänge: Verschwommene Übergänge zwischen Gesicht und Haaren, Ohren oder Hals.
Mimik & Bewegung: Ungewöhnliche Gesichtsausdrücke, ruckartige Bewegungen oder unpassende Falten auf der Stirn.
Audio/Video-Synchronisation: Lippenbewegungen passen nicht präzise zum Gesprochenen.
Bildfehler: Fehler im Hintergrund, seltsame Lichtreflexionen in den Augen, zu viele Finger, unnatürliche Hauttexturen.
Quelle & Kontext: Ist das Video oder Foto von einer verifizierten Quelle? Klingen die Aussagen zu kontrovers oder unwahrscheinlich?
Hilfsmittel zur Überprüfung:
Google, Yandex oder TinEye nutzen, um zu prüfen, ob das Foto oder Video aus einem anderen Kontext stammt.
Tools: Deepware-Scanner oder ähnliche Programme nutzen.
Faktenchecker: Portale wie Mimikama, dpa-Faktencheck oder Bellingcat prüfen.
Die Qualität der Fakes nimmt stetig zu, von daher empfiehlt es sich immer einen kritischen Blick auf den Kontext und die Quelle zu werfen, um Fälschungen besser identifizieren zu können.
Oft sehe ich Videos von "Influencern" deren äußeres Erscheinungsbild so extrem gekünstelt und unecht wirkt, dass ich mich jedesmal frage, ob ich es jetzt mit einer realen Person oder mit einem Deepfake zu tun habe, einem mit KI erstellten Avatar das zwar fast hundertprozentig menschlich aussieht, es aber dennoch nicht ist. Manchmal fühle ich mich fast schon genötigt, die Follower dieser Accounts zu schütteln, damit sie wach werden und erkennen, dass sie gar keinem wirklichen Menschen folgen, sondern einer Figur die mittels einem KI-Programm generiert wurde. Eine Fantasiegestalt aus dem Universum der Künstlichen Intelligenz. KI ist zweifellos eine neue Dimension der Möglichkeiten, aber sie birgt nicht unerhebliche Nachteile und Gefahren, denen wir uns bewusst sein müssen.
In diesem Sinne, ein entspanntes und friedliches Wochenende,
eure Marion Herzogin von Meranien ♛


































