Was sind eigentlich Deepfakes - und warum können sie zu einem Sicherheitsrisiko für Unternehmen werden?
von Svenja Koch
Was sind eigentlich Deepfakes?
Deepfakes sind Medienmanipulationen, die mithilfe von künstlicher Intelligenz (KI) kreiert werden. So können Inhalte z.B. von Videos oder Audioaufnahmen verfälscht oder neu geschaffen werden. Der Begriff kommt von „Deep Learning“ (eine Art des Maschinellen Lernens) und „Fake“ (Fälschung). Beispielsweise können dadurch Stimmen in Audiomaterial oder Gesichter in Bildmaterial (z.B. Fotos, Videos) ausgetauscht werden.
Wie funktionieren Deepfakes?
Für einen sogenannten „Faceswap“, bei dem das Gesicht von Person A auf ein Video von Person B übertragen werden soll, werden i.d.R. Hunderte oder Tausende Bilder beider Personen benötigt. Mit diesen Bildern wird dann ein künstliches neuronales Netz (KNN), der sogenannte Encoder trainiert, der die wesentlichen Merkmale der jeweiligen Gesichter lernt und komprimiert. Im zweiten Schritt wird dann pro Person ein weiteres KNN, der Decoder, trainiert, der aus den komprimierten Merkmalen das Bild rekonstruiert. Das Zusammenspiel von Encoder und Decoder wird als Autoencoder bezeichnet und lässt sich auch gut mit der Erstellung einer Phantomzeichnung vergleichen. Die wesentlichen Merkmale als Personenbeschreibung eines Zeugen (der Encoder), werden durch den Phantomzeichner (Decoder) zu einer Zeichnung rekonstruiert.
Vorsicht ist geboten!
Schnell lassen sich Szenarien ausdenken, in denen Deepfakes missbraucht werden, etwa um Personen zu verleumden, politische Ziele zu erwirken oder zu betrügen. Wenn etwa Politiker*innen Aussagen untergeschoben werden können, die sie so nie gemacht haben, kann dies in Wahlkämpfen weitreichende Konsequenzen haben. Allein die Möglichkeit oder Vermutung eines Deepfakes kann Auswirkungen auf unsere Demokratie und unser Miteinander haben, wenn vermeintlich nichts mehr glaubwürdig ist.
Deepfakes können auch zum Sicherheitsrisiko für Unternehmen werden. "Bei allen IT-Anwendungen muss IT-Sicherheit mitgedacht werden — das gilt auch für KI. Mithilfe von Deepfakes können manche Betrugsmaschen im Internet deutlich glaubhafter umgesetzt werden und deswegen sollten Unternehmen und Ihre Mitarbeitenden für die möglichen Risiken sensibilisiert werden," so Marcus Henschel, Mitglied im IT-Ausschuss der Handelskammer Hamburg und Geschäftsführer der secion GmbH.
Eine mögliche Betrugsmasche ist dabei, dass sich ein Anrufer als Geschäftsführer eines Unternehmens ausgibt und der Buchhaltung Zahlungsanweisungen gibt. Mittels KI kann die Stimme über gesammeltes Video- und Audio-Material — z.B. online verfügbare Mitschnitte von Vorträgen, Podcasts etc. — nachgeahmt werden. Häufig wird bei solchen Maschen Zeitdruck suggeriert („Wenn das Geld heute nicht da ist, verlieren wir den Auftrag.“) oder durch eine Kombination aus Anruf und Mail versuchen Täter*innen, Vertrauen aufzubauen.
Was tun?
Folgende erste Schritte können dabei helfen, die Plausibilität einer Anweisung zu prüfen:
- Prüfen, ob die Anrede wie gewohnt ist (Du/Sie, Tonfall, Einhaltung des gewohnten Workflows …)
- Zurückrufen—aber nicht unter der Nummer, unter der angerufen wurde, sondern unter der Nummer aus dem internen Telefonbuch.
Nützliche Anwendungsmöglichkeiten von Deepfakes für Unternehmen
Deepfakes bedeuten für Unternehmen aber längst nicht nur Schlechtes. Besonders in der Filmbranche gibt es für Deepfakes als audiovisuelles Produkt Nutzungsmöglichkeiten. So kann eine Szene auch im Nachhinein noch bearbeitet werden, Gesichter und sogar Stimmen können ausgetauscht werden – und das alles am Computer. In der Werbung werden Deepfakes gerade dann interessant, wenn Kund*innen das eigentliche Gesicht der Marke durch ihr eigenes ersetzen können und diese dann über Social Media teilen.
Sogar einen Beitrag zum Datenschutz kann die Technik leisten, wenn zum Beispiel in Smart-City Anwendungen oder beim autonomen Fahren Deepfakes zur Pseudonymisierung von aufgenommenen Personen benutzt werden. Damit können Deepfakes hier eine Alternative zum Ausschwärzen oder Auspixeln der Personen darstellen.
Quelle: https://www.hk24.de/produktmarken/digitalportal/technologien/deepfake-4933412
Zum Thema passende Artikel
Das vergangene Jahr 2022 lässt sich knapp umschreiben: wenig vorhersehbar. Eine herausfordernde Wirtschaftslage, politische Umwälzungen, die mit sich rapide ändernden Rahmenbedingungen einhergehen, Inflation, Fachkräftemangel und steigende Energiepreise haben zu einem nicht gekannten Unsicherheitsgefühl geführt, dessen Auswirkungen auch in der IT Security Branche deutlich zu spüren sind. Wo werden in den nächsten 12 Monaten die zentralen Herausforderungen liegen? Wir haben uns hierzu einige Gedanken gemacht und diese anhand der folgenden 9 Punkte zusammengefasst, denn eines ist schon jetzt absehbar: Die Gefahrenlage bleibt hoch und wird sich in 2023 weiter verschärfen.
Weiterlesen … IT Security Ausblick 2023: Zeiten der Unsicherheit, 9 Prognosen
QR-Codes gibt es bereits seit fast 30 Jahren. Heute scannen wir die viereckigen Codes ganz selbstverständlich mit unserem Smartphone, um Bankaufträge freizugeben, einen digitalen Impfnachweis zu erstellen oder Gutscheine abzurufen. Da QR-Codes jedoch auch von Cyberkriminellen für betrügerische Zwecke genutzt werden, sollten Sie den kleinen Quadraten nicht grenzenlos vertrauen. Vorsicht ist vor allem dann geboten, wenn Sie einen QR-Code per E-Mail erhalten: Dahinter könnte sich ein raffinierter Phishing-Angriff verstecken. Wir zeigen Ihnen, wie Sie Quishing-Attacken erkennen und sich vor ihnen schützen können.
Weiterlesen … Vorsicht, Quishing: Kriminelle nutzen QR-Codes für Phishing-Attacken
Anfang Oktober hat die Ransomware-Gruppe Black Basta einen IT-Dienstleister der Deutschen Presse-Agentur (dpa) attackiert und dabei die Datensätze von 1.500 dpa-Mitarbeitern sowie Rentenempfängern der dpa-Unterstützungskasse gestohlen. Zwei Wochen später veröffentlichten die Cyberkriminellen erste sensible Daten der Opfer im Darknet. Bei diesem Vorfall handelt es sich nur um einen von vielen Angriffen, die mit der berüchtigten Black-Basta-Ransomware in Zusammenhang stehen – und es werden noch zahlreiche folgen. Denn wie neue Forschungsergebnisse zeigen, agieren die Cyberkriminellen ganz ähnlich wie andere aggressive Hackergruppen.
Weiterlesen … Black Basta: Neue Erkenntnisse zur berüchtigten Ransomware