Wie Technologien uns im Kampf gegen Deepfake-Pornografie helfen
29.1.25
Die Verbreitung von Deepfakes im Netz hat in den letzten Jahren rasant zugenommen. Die Videos, die mittels Künstlicher Intelligenz erstellt werden, sind täuschend echt produziert, sodass kaum jemand auf den ersten Blick erkennen kann, ob es sich um ein manipuliertes oder reales Video handelt.
Der Zweck der Erstellung solcher Deepfakes reicht von harmloser Unterhaltung bis hin zu gezieltem Missbrauch, wobei insbesondere manipulierte Inhalte wie Deepfake-Pornos oder gefälschte politische Aussagen häufig genutzt werden, um Menschen willentlich zu schädigen, zu diffamieren oder gesellschaftlich zu polarisieren. Insbesondere die Anzahl der Deepfake-Pornos ist in den letzten Jahren dramatisch gestiegen. Opfer dieser sexualisierten Inhalte sind in den meisten Fällen Frauen und teils sogar Minderjährige. Die Auswirkungen für die Betroffenen sind dramatisch.
Diese alarmierende Entwicklung verdeutlicht die absolute Dringlichkeit, wirksame Maßnahmen zur Bekämpfung dieses digitalen Missbrauchs zu ergreifen und den Schutz von Frauen und Kindern auch im digitalen Raum auszubauen.
Schutz im digitalen Raum ausbauen
Grundsätzlich ist die Nutzung der Apps und Anwendungen, die Deepfakes erstellen können, nicht verboten. Allerdings wird eine rechtliche Grenze überschritten, sobald die erstellten Inhalte Urheber- oder Persönlichkeitsrechte verletzen und pornografischer beziehungsweise betrügerischer Natur sind. Dennoch werden alltägliche Tools wie Face-Swap-Apps, Bildbearbeitungsprogramme oder Videogeneratoren immer häufiger missbräuchlich für schädliche Zwecke verwendet.
Diese Anwendungen pauschal zu verbieten ist jedoch nicht zielführend. Denn viele dieser Technologien finden auch legitime und nützliche Anwendungsbereiche wie etwa in der Film- und Kreativwirtschaft, im Bildungssektor oder für Simulationen im Kundenbereich.
Vielmehr muss der Fokus darauf gerichtet werden, dass schädliche Inhalte schneller aus dem Netz entfernt werden oder ein Upload auf Plattformen gar nicht erst möglich ist. Die strafrechtliche Verfolgung solcher Taten muss viel konsequenter und strenger erfolgen. Auch hier können moderne Technologien entscheidend dazu beitragen, die Erstellung illegaler Deepfake-Inhalte zu verhindern oder frühzeitiger zu erkennen.
So können KI-basierte Erkennungssysteme eingesetzt werden, um verdächtige Inhalte bereits beim Upload automatisch zu analysieren und zu blockieren. Oder Watermarking-Technologien können dafür sorgen, dass KI-generierte Inhalte eindeutig gekennzeichnet werden, um einen Missbrauch leichter nachzuverfolgen.
Plattformen müssen Nutzer besser schützen
Bisher sind viele Bilder und Videos uneingeschränkt zugänglich, sei es durch Downloads oder in Form von Screenshots. Besonders problematisch ist derzeit, dass auch Bilder aus vermeintlich geschützten privaten Profilen auf Social-Media-Plattformen oft ohne das Wissen der Betroffenen heruntergeladen und zweckentfremdet werden können. Um diesem Missbrauch entgegenzuwirken, sehe ich die Plattformen eindeutig in der Verantwortung, die Daten ihrer Nutzerinnen und Nutzer stärker zu schützen. Funktionen wie Wasserzeichen, Download- und Screenshot-Beschränkungen würden dazu beitragen, den Missbrauch von Inhalten einzuschränken.
Strafrechtliche Verfolgung verbessern
Neben diesen präventiven Maßnahmen gilt es zusätzlich, die strafrechtliche Verfolgung solcher Straftaten deutlich zu verbessern. Häufig scheitert die Verfolgung an mangelnden personellen und technischen Ressourcen sowie an fehlender Expertise. Deswegen braucht es eine bessere Ausstattung der Strafverfolgungsbehörden, sowohl in Form moderner Technologien zur Erkennung von Deepfake-Inhalten als auch durch den Ausbau spezialisierter Teams, die gezielt an solchen Fällen arbeiten.
Es ist entscheidend, den Betroffenen schnelle und umfassende Hilfe anzubieten in Form von rechtlicher Unterstützung und psychosozialer Betreuung, um die schweren emotionalen und psychischen Folgen solcher Straftaten zu bewältigen. Nur durch eine zügige und konsequente Verfolgung der Straftaten senden wir ein klares Signal an die Täter: Digitale Gewalt, in welcher Form auch immer, wird nicht toleriert. Sie hat strafrechtliche Konsequenzen und wird mit aller Entschlossenheit bekämpft.