Wie Technologien uns im Kampf gegen Deepfake-Pornografie helfen

29.1.25

Die Verbreitung von Deepfakes im Netz hat in den letzten Jahren rasant zugenommen.  Die Videos, die mittels Künstlicher Intelligenz erstellt werden, sind täuschend echt produziert, sodass kaum jemand auf den ersten Blick erkennen kann, ob es sich um ein manipuliertes oder reales Video handelt.

Der Zweck der Erstellung solcher Deepfakes reicht von harmloser Unterhaltung bis hin zu gezieltem Missbrauch, wobei insbesondere manipulierte Inhalte wie Deepfake-Pornos oder gefälschte politische Aussagen häufig genutzt werden, um Menschen willentlich zu schädigen, zu diffamieren oder gesellschaftlich zu polarisieren. Insbesondere die Anzahl der Deepfake-Pornos ist in den letzten Jahren dramatisch gestiegen. Opfer dieser sexualisierten Inhalte sind in den meisten Fällen Frauen und teils sogar Minderjährige. Die Auswirkungen für die Betroffenen sind dramatisch.

Diese alarmierende Entwicklung verdeutlicht die absolute Dringlichkeit, wirksame Maßnahmen zur Bekämpfung dieses digitalen Missbrauchs zu ergreifen und den Schutz von Frauen und Kindern auch im digitalen Raum auszubauen.

Schutz im digitalen Raum ausbauen

Grundsätzlich ist die Nutzung der Apps und Anwendungen, die Deepfakes erstellen können, nicht verboten. Allerdings wird eine rechtliche Grenze überschritten, sobald die erstellten Inhalte Urheber- oder Persönlichkeitsrechte verletzen und pornografischer beziehungsweise betrügerischer Natur sind. Dennoch werden alltägliche Tools wie Face-Swap-Apps, Bildbearbeitungsprogramme oder Videogeneratoren immer häufiger missbräuchlich für schädliche Zwecke verwendet.

Diese Anwendungen pauschal zu verbieten ist jedoch nicht zielführend. Denn viele dieser Technologien finden auch legitime und nützliche Anwendungsbereiche wie etwa in der Film- und Kreativwirtschaft, im Bildungssektor oder für Simulationen im Kundenbereich.

Vielmehr muss der Fokus darauf gerichtet werden, dass schädliche Inhalte schneller aus dem Netz entfernt werden oder ein Upload auf Plattformen gar nicht erst möglich ist. Die strafrechtliche Verfolgung solcher Taten muss viel konsequenter und strenger erfolgen. Auch hier können moderne Technologien entscheidend dazu beitragen, die Erstellung illegaler Deepfake-Inhalte zu verhindern oder frühzeitiger zu erkennen.

So können KI-basierte Erkennungssysteme eingesetzt werden, um verdächtige Inhalte bereits beim Upload automatisch zu analysieren und zu blockieren. Oder Watermarking-Technologien können dafür sorgen, dass KI-generierte Inhalte eindeutig gekennzeichnet werden, um einen Missbrauch leichter nachzuverfolgen.

Plattformen müssen Nutzer besser schützen

Bisher sind viele Bilder und Videos uneingeschränkt zugänglich, sei es durch Downloads oder in Form von Screenshots. Besonders problematisch ist derzeit, dass auch Bilder aus vermeintlich geschützten privaten Profilen auf Social-Media-Plattformen oft ohne das Wissen der Betroffenen heruntergeladen und zweckentfremdet werden können. Um diesem Missbrauch entgegenzuwirken, sehe ich die Plattformen eindeutig in der Verantwortung, die Daten ihrer Nutzerinnen und Nutzer stärker zu schützen. Funktionen wie Wasserzeichen, Download- und Screenshot-Beschränkungen würden dazu beitragen, den Missbrauch von Inhalten einzuschränken.

Strafrechtliche Verfolgung verbessern

Neben diesen präventiven Maßnahmen gilt es zusätzlich, die strafrechtliche Verfolgung solcher Straftaten deutlich zu verbessern. Häufig scheitert die Verfolgung an mangelnden personellen und technischen Ressourcen sowie an fehlender Expertise. Deswegen braucht es eine bessere Ausstattung der Strafverfolgungsbehörden, sowohl in Form moderner Technologien zur Erkennung von Deepfake-Inhalten als auch durch den Ausbau spezialisierter Teams, die gezielt an solchen Fällen arbeiten.

Es ist entscheidend, den Betroffenen schnelle und umfassende Hilfe anzubieten in Form von rechtlicher Unterstützung und psychosozialer Betreuung, um die schweren emotionalen und psychischen Folgen solcher Straftaten zu bewältigen. Nur durch eine zügige und konsequente Verfolgung der Straftaten senden wir ein klares Signal an die Täter: Digitale Gewalt, in welcher Form auch immer, wird nicht toleriert. Sie hat strafrechtliche Konsequenzen und wird mit aller Entschlossenheit bekämpft.

Share

Newsletter

Wie Technologien uns im Kampf gegen Deepfake-Pornografie helfen

Text Link

Mobilitätsinvestitionen – aber richtig

Text Link

Echten Politikwechsel herbeiführen

Text Link

Senat versagt bei Verkehr und Digitalisierung

Text Link

Neue Prioritäten bei Finanzierung der Mobilität setzen

Text Link

Berliner Brücken sichern

Text Link

Dem D-Ticket gehört die Zukunft

Text Link

U-Bahnwagenflotte erweitern

Text Link

Selbstfahrende Bahnen für Berlin

Text Link

Sinnloses 29-Euro-Ticket einsparen

Text Link

Mehr Zuverlässigkeit und Sauberkeit im ÖPNV

Text Link

Kein Platz für Antisemitismus und Hetze

Text Link

29-Euro-Ticket ist gescheitert

Text Link

ÖPNV weiter ausbauen

Text Link

Deutschland braucht keine Gießkannenpolitik, sondern eine solide Zukunftspolitik

Text Link

Podcast: Richter & Denker

Text Link

Paul berichtet von seiner Ankunft in den USA

Text Link

Podcast: Verkehrsrundschau

Text Link

Podcast: IAA Transportation

Text Link

Der Ausbau der A100 ist eine Investition in die Zukunft unserer Stadt

Text Link

Podcast: Was folgt nach dem 9-Euro-Ticket?

Text Link

Podcast: Digitalisierung und Mobilität – die Power der Talente in Deutschland entfalten

Text Link

Podcast: Können wir es uns noch leisten, mobil zu sein?

Text Link

Podcast: „Es ist Aufgabe des Bundesinnenministeriums“

Text Link

Podcast: Gibt es eine Förderung für bidirektionale Wallboxen?

Text Link

TikTok: Medienkompetenz und kritische Auseinandersetzung fördern

Text Link

"Letzte Generation" handelt unverantwortlich

Text Link

Mindset in Behörden muss sich ändern

Text Link

Digitale Lösungen als Standard definieren

Text Link

Bessere Anbindung für Berlins Nordosten

Text Link

ÖPNV-Grundversorgung sicherstellen

Text Link

Senat lässt auf konkreten Fahrplan für Verwaltungsapp warten

Text Link

BVG wieder auf Kurs bringen

Text Link

Mehr Abstellzonen für E-Roller

Text Link

Doppelstreik bei Bahn und BVG abwenden

Text Link

Abschaffung von Busspuren ist ein Fehler

Text Link

Verwaltungsreform droht als großer Flop zu enden

Text Link

Kein Tempo 30 auf Hauptverkehrsstraßen

Text Link

Genehmigungsfiktion rechtssicher einführen

Text Link

Senat muss für attraktives Angebot bei der BVG sorgen

Text Link

Expertise muss bei Neubesetzung der Verkehrsverwaltung entscheidend sein

Text Link

29-Euro-Ticket bleibt Geldverschwendung

Text Link

Tangentiale Verbindung Ost zügig realisieren

Text Link

Berlin muss Verkehrsinfrastruktur im Landeshaushalt priorisieren

Text Link

Berlin braucht die einstufige Verwaltung

Text Link

Bund unterstützt den Erhalt der Kulturstätte Hohenzollerngruft im Berliner Dom

Text Link

Gesperrte Straßen verlagern nur den Verkehr

Text Link

Friederike berichtet aus der USA

Text Link

Mit liberaler Politik den Herausforderungen unserer Zeit entgegentreten

Text Link

Zukunft gemeinsam gestalten

Text Link

Mobilität der Zukunft: Vielfältig, vernetzt & multimodal

Text Link

Keynote auf der #SCCON23

Text Link

Für ein Jahr in den USA – Friederike berichtet

Text Link

Nationale Datenstrategie legt Fundament für Datenwirtschaft "made in Germany"

Text Link

Digital Default: Digital muss die Regel und Analog zum Ausläufer werden

Text Link

Gemeinsam die Häfen der Zukunft gestalten

Text Link

KI kann unser Leben verbessern – sofern wir es denn zulassen

Text Link

Mobilität und Reisen bedeuten Freiheit

Text Link

Wie der Dialog mit der KI uns zum Umdenken auffordert

Text Link

Mit eFuels den Weg ebnen für klimaneutrale Verbrennungsmotoren

Text Link

Nicht nach Fahrplan fahren, sondern nach Bedarf

Text Link

Linas Einblick in den politischen Arbeitsalltag

Text Link

Wie Mobilität gestaltet werden muss, damit sie den Menschen auch gerecht wird

Text Link

Die diskriminierende Künstliche Intelligenz ist ein Auslaufmodell

Text Link

Wir brauchen einen umfassenden digitalen Aufbruch

Text Link

Podcast: Mobilität der Zukunft

Text Link

Es geht voran in unserem Land - insbesondere beim Glasfaserausbau

Text Link

Über Systemgrenzen hinwegschauen und neue Möglichkeiten schaffen

Text Link

Schleuse Lüneburg – Für die Region ein wichtiges Signal

Text Link

Schifffahrt ‑ Kurs Richtung Zukunft

Text Link

Eine Brücke kann man nicht einfach so sprengen

Text Link

Panel-Talk: Die Zukunft der individuellen Mobilität

Text Link

Verfahrensdauer deutlich verkürzen

Text Link

Wir definieren die Spielregeln der Künstlichen Intelligenz

Text Link

Gesines Freiheitskolumne: Stimmungsbild in den USA

Text Link

Gesines Freiheitskolumne - Hallo Deutschland!

Text Link

Rechte und Pflichten müssen im Einklang sein

Text Link

Generationengerechtigkeit – Demokratie für alle?

Text Link

Interview mit "TV.Berlin": Nach der Wahl keine Steuererhöhungen!

Text Link

Von Berlin in die USA: Daniela Kluckert vergibt Vollstipendium an Gesine (15)

Text Link

PBefG-Reform? Nicht mal ein Reförmchen?

Text Link

Interview mit „TV.Berlin“: Die Corona-Misere von Bundesregierung & R2G

Text Link

FRAGEN AN DIE ZUKUNFT: Fahren wir bald ohne Führerschein?

Text Link

Enquete-Kommission KI: Mehr KI, weniger Entscheidungsfaulheit

Text Link

Interview mit „TV.Berlin“: Was bedeutet die US-Wahl für Deutschland?

Text Link

Interview mit „TV.Berlin“: Die FDP nach dem 71. Parteitag

Text Link

Die Mobilität der Zukunft – Innovationen statt Verbote exportieren

Text Link

Flottengrenzwerte: Maß und Mittel sind verloren gegangen

Text Link

Hannas Freiheitskolumne: Einmal in die Leugner-Welt geschnuppert

Text Link

#Corona-Krise: Geschäfte auch sonntags öffnen?

Text Link

Taiwan hat schon 2019 vor #Corona gewarnt – warum sind sie nicht in der WHO?

Text Link

StVO-Neuerungen: Erst Infrastruktur verbessern, dann Regeln verschärfen!

Text Link

Hannas Freiheitskolumne: Wie stark ist die EU wirklich?

Text Link

Stellenanzeige: Arbeiten, wo Politik gemacht wird

Text Link

Hannas Freiheitskolumne: Digitales Lernen muss Normalität werden

Text Link

Hannas Freiheitskolumne: Abitur in Zeiten von Corona

Text Link

Warum hat die Bundesregierung keine Wasserstoff-Strategie?

Text Link

Corona: Wie Unternehmen & Selbstständige Hilfe erhalten

Text Link

Ungenutztes Potenzial im Übermaß: Sportstadt Berlin

Text Link

Hannas Freiheitskolumne: Digitale Schule? Gibt's in Berlin noch nicht!

Text Link