Was sind eigentlich Deepfakes - und warum können sie zu einem Sicherheitsrisiko für Unternehmen werden?

von

Lesezeit: Minuten ( Wörter) | Seitenaufrufe: 610

Was sind eigentlich Deepfakes?

Deepfakes sind Medienmanipulationen, die mithilfe von künstlicher Intelligenz (KI) kreiert werden. So können Inhalte z.B. von Videos oder Audioaufnahmen verfälscht oder neu geschaffen werden. Der Begriff kommt von „Deep Learning“ (eine Art des Maschinellen Lernens) und „Fake“ (Fälschung). Beispielsweise können dadurch Stimmen in Audiomaterial oder Gesichter in Bildmaterial (z.B. Fotos, Videos) ausgetauscht werden.
 

Wie funktionieren Deepfakes?

Für einen sogenannten „Faceswap“, bei dem das Gesicht von Person A auf ein Video von Person B übertragen werden soll, werden i.d.R. Hunderte oder Tausende Bilder beider Personen benötigt. Mit diesen Bildern wird dann ein künstliches neuronales Netz (KNN), der sogenannte Encoder trainiert, der die wesentlichen Merkmale der jeweiligen Gesichter lernt und komprimiert. Im zweiten Schritt wird dann pro Person ein weiteres KNN, der Decoder, trainiert, der aus den komprimierten Merkmalen das Bild rekonstruiert. Das Zusammenspiel von Encoder und Decoder wird als Autoencoder bezeichnet und lässt sich auch gut mit der Erstellung einer Phantomzeichnung vergleichen. Die wesentlichen Merkmale als Personenbeschreibung eines Zeugen (der Encoder), werden durch den Phantomzeichner (Decoder) zu einer Zeichnung rekonstruiert.
Schematische Schritte des sog. Faceswap
Schematische Schritte des sog. Faceswap
Schematische Schritte des sog. Faceswap
Mit entsprechenden Programmen und Apps gelingt es selbst Laien, ohne spezifische Kenntnisse Deepfakes in hoher Qualität zu erstellen.

Vorsicht ist geboten!

Schnell lassen sich Szenarien ausdenken, in denen Deepfakes missbraucht werden, etwa um Personen zu verleumden, politische Ziele zu erwirken oder zu betrügen. Wenn etwa Politiker*innen Aussagen untergeschoben werden können, die sie so nie gemacht haben, kann dies in Wahlkämpfen weitreichende Konsequenzen haben. Allein die Möglichkeit oder Vermutung eines Deepfakes kann Auswirkungen auf unsere Demokratie und unser Miteinander haben, wenn vermeintlich nichts mehr glaubwürdig ist.
 
Deepfakes können auch zum Sicherheitsrisiko für Unternehmen werden. "Bei allen IT-Anwendungen muss IT-Sicherheit mitgedacht werden — das gilt auch für KI. Mithilfe von Deepfakes können manche Betrugsmaschen im Internet deutlich glaubhafter umgesetzt werden und deswegen sollten Unternehmen und Ihre Mitarbeitenden für die möglichen Risiken sensibilisiert werden," so Marcus Henschel, Mitglied im IT-Ausschuss der Handelskammer Hamburg und Geschäftsführer der secion GmbH.
 
Schematische Schritte des sog. Faceswap
Marcus Henschel, Geschäftsführer der secion GmbH
 
Eine mögliche Betrugsmasche ist dabei, dass sich ein Anrufer als Geschäftsführer eines Unternehmens ausgibt und der Buchhaltung Zahlungsanweisungen gibt. Mittels KI kann die Stimme über gesammeltes Video- und Audio-Material — z.B. online verfügbare Mitschnitte von Vorträgen, Podcasts etc. — nachgeahmt werden. Häufig wird bei solchen Maschen Zeitdruck suggeriert („Wenn das Geld heute nicht da ist, verlieren wir den Auftrag.“) oder durch eine Kombination aus Anruf und Mail versuchen Täter*innen, Vertrauen aufzubauen.
Was tun?
 
Folgende erste Schritte können dabei helfen, die Plausibilität einer Anweisung zu prüfen:
  • Prüfen, ob die Anrede wie gewohnt ist (Du/Sie, Tonfall, Einhaltung des gewohnten Workflows …)
  • Zurückrufen—aber nicht unter der Nummer, unter der angerufen wurde, sondern unter der Nummer aus dem internen Telefonbuch.

Nützliche Anwendungsmöglichkeiten von Deepfakes für Unternehmen

Deepfakes bedeuten für Unternehmen aber längst nicht nur Schlechtes. Besonders in der Filmbranche gibt es für Deepfakes als audiovisuelles Produkt Nutzungsmöglichkeiten. So kann eine Szene auch im Nachhinein noch bearbeitet werden, Gesichter und sogar Stimmen können ausgetauscht werden – und das alles am Computer. In der Werbung werden Deepfakes gerade dann interessant, wenn Kund*innen das eigentliche Gesicht der Marke durch ihr eigenes ersetzen können und diese dann über Social Media teilen.
Sogar einen Beitrag zum Datenschutz kann die Technik leisten, wenn zum Beispiel in Smart-City Anwendungen oder beim autonomen Fahren Deepfakes zur Pseudonymisierung von aufgenommenen Personen benutzt werden. Damit können Deepfakes hier eine Alternative zum Ausschwärzen oder Auspixeln der Personen darstellen.
 
Quelle: https://www.hk24.de/produktmarken/digitalportal/technologien/deepfake-4933412

Zurück