Tagesschau DEEPFAKE: Willkommen im INFORMATIONSKRIEG!

ich bin definitiv keine sprachkii die zu ihnen spricht ich bin ein Mensch das müssen Sie mir einfach glauben die sprachmodellation in meiner Stimme klingt sehr humanoid SAS hallo zusammen eigentlich wollte ich heute ein Video dazu veröffentlichen wie ich meinen YouTube-Kanal in ein GPT umgewandelt habe doch es gibt ein Thema das meiner Ansicht nach mehr Aufmerksamkeit verdient hat wie ihr wisst beschäftige ich mich auf meinem YouTube-Kanal intensiv mit den Themen cybersicherheit EIC hacking und Security Awareness und im Rahmen meines neuen Buchs hacking und Cyber Security mit KI habe ich mich intensiv mit neuen angriffsvektoren auseinandergesetzt die Hacker jetzt KI gestützt durchführen können jetzt ist etwas passiert dass ich so ähnlich schon in meinem Vortrag auf der IZA angedeutet habe dass so etwas zukünftig passieren könnte nämlich ein voice cloning bzw voice highacking Angriff auf die Tagesschau genauer gesagt sind zwei Moderatoren bei der Tagesschau betroffen die sich angeblich für die Lügen in der Berichterstattung entschuldigt haben sollen was genau da vorgefallen ist und was für Auswirkung das auf uns zukünftig haben wird erkläre ich dir in diesem Video und damit herzlich willkommen im Informationskrieg zunächst klären wir die Frage was man unter einem voice cloning Angriff überhaupt versteht hierbei wird künstliche Intelligenz eingesetzt um eine überzeugende Nachbildung der Stimme des Opfers zu er stellen die dann für verschiedene betrügerische Zwecke verwendet werden kann dazu zählt beispielsweise Identitätsdiebstahl mit dem versucht wird an sensible Informationen zu gelangen eine gängige Methode ist der sogenannte CEO fraud bei dem Betrüger die Stimme eines hochrangigen unternehmensmitarbeiters imitieren um Mitarbeiter zu veranlassen Geld zu überweisen oder vertrauliche Informationen preiszugeben zudem wird durch stimmimitation der Identitätsdiebstahl auf ein neues Level gehoben den durch polarisierende aus sagen die angeblich von einer bestimmten Person stammen kann ihr öffentliches Ansehen beschädigt werden so haben die Angreifer in diesem Fall die Stimme der beiden Tagesschausprecher Susanne daupner und Jens River imitiert und Sie Folgendes sagen lassen guten Abend meine Damen und Herren ich begrüße sie zur Tagesschau heute möchten wir uns bei Ihnen entschuldigen seit über drei Jahren lügen wir Ihnen dreist ins Gesicht insgesamt kursierten laut ARD drei Audios die alle vermeintliche Entschuldigungen über angeblich bewusste Manipulation und Lügen in der Berichterstattung enthielten allen Audiodateien sei gemein dass sie mit den folgenden Worten Enden für all diese einseitige Berichterstattung und bewusste Manipulation insbesondere für die Denunzierung unserer Mitmenschen müssen wir uns ausdrücklich im Namen des öffentlichrechtlichen Rundfunks entschuldigen diese gefälschten Audiodateien wurden wohl auch auf einer Demonstration in kill gespielt voicecloning Angriffe können sehr schwer zu erkennen sein da die künstlichen Intelligenz und damit auch die Voice cloning Technologie die darauf basiert immer fortschrittlicher wird und immer überzeugendere stimmimitationen ermöglicht das erhöht selbstverständlich die Notwendigkeit für verbesserte Sicherheitsmaßnahmen zu denen auch das Schaffen eines Bewusstseins für dieses Thema in der breiten Öffentlichkeit zählt es gibt bereits verschiedene Tools mit denen KI generierte stimmenprofile erkannt werden können teilweise sogar mit sehr guten Erfolg ich werde euch diese Werkzeuge in einem eigenen Video noch einmal separat vorstellen damit ihr für Audiodateien die wie im Falle des tagesschaufakes unter anderem auch per WhatsApp versendet wurden erkennen könnt das Problem ist jedoch dass nicht jeder beüberi diese technischen Möglichkeiten verfügt oder überhaupt weiß dass es sich dabei um einen Fake handelt die große Gefahr die ich in diesem Zusammenhang auch noch sehe ist dass es sehr einfach ist Stimmen von Bekannten Personen mit Hilfe von KI Technologie zu emitieren und das nicht jeder von diesen neuen technischen Möglichkeiten weiß hinzuk kommt dass man als Mensch dazu neigt auus sagen die den eigenen Ansichten entsprechen bzw die eigenen Argumente unterstützen eher zu glauben wodurch man solche angeblichen Beweise in Form KI generierter Audiodateien vielleicht sogar ein Stück weit als echt ansehen möchte im Informationskrieg in dem wir uns mittlerweile schon seit Jahren befinden ist KI ein sehr mächtiges Werkzeug und wird von Experten sogar als ähnlich gefährlich wie atomkrieger eingestuft oft genügen nur wenige Sprachsamples und die KI erledigt den Rest mittlerweile gibt es eine Vielzahl an online Tools mit denen man mit nur wenigen Mausklicks ein geklontes stimmenprofil einer Person erstellen und sie alles mögliche sagen lassen kann noch vor wenigen Jahren waren dafür tiefes technisches Fachwissen und viel Rechenpower erforderlich mittlerweile funktioniert die KI gestützte stimmimitation nahzu in Echtzeit und wenn man das nun auch noch mit deepfakes kombiniert ist das Chaos perfekt und irgendwann weiß man gar nicht mehr was man glauben kann und was nicht Moment deep Fakes was ist das schon wieder deep Fakes sind realistisch wirkende digital manipulierte Videos und eben auch Audiodateien die mit Hilfe von künstlicher Intelligenz und maschinellem lernen erstellt werden der Begriff deepfake setzt sich zusammen aus deep learning einem Bereich des maschinellen Lernens der auf künstlichen neuronalen Netzen basiert und Fake für Fälschung beim Erstellen von Deep Fakes gibt es verschiedene Stufen zuerst kommt die Datensammlung dabei werden zunächst große Mengen an Bild oder Videomaterial der zu imittierenden Person gesammelt dieses Material dient als Ausgangsbasis für das Training der KI in Zeiten von Social Media in denen sehr viele Menschen freiwillig immense Mengen an Bild und Videomaterial von sich ins Netz stellen haben die Angreifer leichtes Spiel um an die erforderlichen Daten zum Training der KI zu kommen mittels deep learning Techniken lernt die KI das Gesicht die Mimik und oder die Stimme der Zielperson zu imitieren das geschieht durch wiederholtes analysieren und nachaben der gesammelten Daten zum Schluss werden die Deep Fakes dann generiert nach dem Training kann die KI neue Bilder neue Videos oder Audioaufnahmen erstellen in denen das Gesicht oder die Stimme der Zielperson auf eine andere Person oder einen anderen Kontext übertragen wird so kann es beispielsweise erscheinen als würde man die Zielperson Dinge sagen oder tun lassen die sie nie gesagt oder getan hat welche Gefahren bergen diese deep Fakes und voice cloning Angriffe nun sie können dazu eingesetzt werden um Desinformationen zu verbreiten dieses besonders besorgniserregend im Kontext von politischen Kampagnen oder gesellschaftlichen Debatten wo solche Fälschungen die öffentliche Meinung manipulieren können Markus Bornheim der Chefredakteur von ARD aktuell hat richtig gehandelt und direkt klargestellt dass sich bei den Audiodateien in denen sich Susanne daupner und Jens rieer für die angeblich bewussten Manipulation und Lügen entschuldigen um Fälschungen handelt man muss in Fällen von diebstahl sofort handeln wie bereits erwähnt können öffentliche Institutionen Unternehmen und Einzelpersonen durch diebfakes gezielt angegriffen werden indem realistisch aussehende kompromittierende Szenarien geschaffen werden dies kann zu Rufschädigung Erpressung und anderen Formen von Missbrauch führen zeitgleich hingt die Gesetzgebung aber der technologischen Entwicklung hinterher die Fakes stellen eine Herausforderung V Urheberrecht Persönlichkeitsrecht und Datenschutz da und es gibt noch keine umfassenden rechtlichen Rahmenbedingungen um Missbrauch zu verhindern so klagt beispielsweise die schauspielerin Scarlett Johanson aktuell gegen eine deepfake Werbung die Entwickler der Avatar App Lisa ai haben wohl ein älteres Video von Scarlet Johanson auf Facebook V ein deepfake verwendet Ihre Stimme geklont und daraus ein Werbeclip für die App erstellt der dann über x verbreitet wurde zudem ergeben sich weitere Sicherheitsrisiken da es einige Sicherheitssysteme gibt die stimmenerkennung als authentif ierungsmethode nutzen hochentwickelte stimmimitierungskis könnten dieses System überlisten und unbefugten Zugang zu sensiblen Informationen ermöglichen die Verbreitung von Deep Fakes kann das Vertrauen in Medien und öffentliche Aussagen untergraben wenn Menschen dann anfangen auch authentischen Inhalten zu misstrauen kann das zu einer allgemeinen Verunsicherung führen was eines der erklärten Ziele des informationskrieges ist doch was können wir tun um uns vor deep Fakes zu schützen nun jeder kann für sich persönlich natürlich versuchen seine Stimme sein Gesicht und alles mögliche geheim zu halten doch das wird im Zeitalter des Internets und der fortschreitenden Digitalisierung so gut wie unmöglich sein deshalb müssen wir lernen mit diesen deep Fakes und den damit verbundenen Desinformationskampagnen zu leben gerade Personen des öffentlichen Lebens wie Schauspieler Musiker und Politiker können ihre Stimmen und Gesichter ja gar nicht geheimhten und gerade diese Personen sind im Informationskrieg oftmals Opfer von Deep Fake und voice cloning Angriffen da sie in ihren jeweiligen Positionen einen Einfluss auf die Öffentlichkeit haben die eigentliche Opfer solcher Desinformationskampagnen sind aber eigentlich wir die Bevölkerung da diese Angriffe dazu dienen um Allgemeines Misstrauen und Unruhe zu stiften wodurch man leichter angreifbar wird und man kann jetzt nicht erwarten dass jeder bevor er irgendwie mit jemanden facetim oder telefoniert erstmal nach einem Codewort fragt das man zuvor vereinbart hat das ist nämlich eine weitere Gegenmaßnahme bei der man vorab sich irgendwo im echten Leben trifft und dann ein Codewort vereinbart das jeder dann sagen muss wenn es zu einer Kommunikation per Telefon oder per Videocall kommt uns bleibt zunächst einmal nichts anderes übrig als möglichst viel awarenness für dieses Thema zu schaffen dass so viele Menschen wie möglich über diesen neuen angriffsvektoren aufgeklärt werden das ist das was ich mit diesem Video und natürlich meinem YouTube-Kanal im allgemeinen erreichen möchte ich werde in der nächsten Zeit auch ein Video für öffentlichen ind dem ich dir zeige mit welchen Werkzeugen du deep Fakes oder gefälsche Sprachaufnahmen erkennen kannst vielen Dank fürs zusehen und bis zum nächsten Video