In einem technologischen Zeitalter, in dem die Leistungsfähigkeit von Computern und Modellen der künstlichen Intelligenz erheblich zugenommen hat, hat die Verbreitung von Deepfakes zugenommen, was jeden interessiert. Unter Deepfaking versteht man die Erstellung von visuellen oder akustischen Inhalten, die den Anschein erwecken, von Menschen in hoher Auflösung aufgenommen worden zu sein. Deepfakes bedrohen jeden Aspekt der Gesellschaft.
Unsere Fähigkeit, gefälschte Inhalte zu erkennen, ist entscheidend für die Neutralisierung von Fehlinformationen. Aber wem können wir bei der Verbesserung der KI-Technologie vertrauen, um Deepfakes zu erkennen? Hier stellt sich die Frage: Wer erkennt Deep Fakes besser, Menschen oder künstliche Intelligenz?
Seit Jahrtausenden ist es dem Menschen gelungen, Geräusche und Gesichter zu unterscheiden und Sprachen zu verstehen. Aber können KI-gestützte Maschinen diese Fähigkeiten übertreffen? Dieser Artikel untersucht die Herausforderungen und Entwicklungen bei der Deepfake-Erkennung und vergleicht in diesem Zusammenhang die Fähigkeiten menschlicher und künstlicher Intelligenz. Verifizieren Wie erkennt man, ob ein Video Deepfake ist?
Schnelle Links
Die Gefahren von Deepfakes
Mit der Weiterentwicklung der KI-Technologie stellen die Gefahren von Deepfakes eine zunehmende Bedrohung für uns alle dar. Hier ist eine kurze Zusammenfassung einiger der dringendsten Probleme, die Deepfakes aufwerfen:
- Fehlinformationen: Gefälschte Videos und Audioaufnahmen können irreführende Informationen, wie zum Beispiel Fake News, verbreiten.
- Identitätsdiebstahl: Indem sie sich als Einzelpersonen ausgeben, können Deepfakes den Ruf von Menschen schädigen oder jeden, den sie kennen, täuschen.
- Nationale Sicherheit: Ein offensichtliches Deepfake-Kriegsszenario sind gefälschte Film- oder Audioaufnahmen eines Weltführers, der einen Konflikt anzettelt.
- Bürgerunruhen: Parteien können auch irreführendes Filmmaterial und Audioclips verwenden, um bei bestimmten Gruppen Ärger und Unruhen zu schüren.
- Internet-Sicherheit: Cyberkriminelle nutzen bereits KI-gestützte Tools zum Klonen von Stimmen, um Einzelpersonen mit überzeugenden Nachrichten von ihnen bekannten Personen ins Visier zu nehmen.
- Datenschutz und Einwilligung: Der böswillige Einsatz von Deepfakes erfolgt durch Einzelpersonen ohne deren Zustimmung.
- Vertrauen und sein Mangel: Wenn Sie nicht zwischen Wahrheit und Täuschung unterscheiden können, werden genaue Informationen gleichermaßen unglaubwürdig.
Deepfakes werden immer überzeugender, daher brauchen wir leistungsstarke Tools und Methoden, um sie zu erkennen. Künstliche Intelligenz stellt ein solches Werkzeug in Form von Deepfake-Erkennungsmodellen bereit. Allerdings sind Deepfake-Erkennungstools ebenso wie Algorithmen zur Erkennung von KI-generiertem Schreiben nicht perfekt und werden niemals vollkommen genau sein.
Derzeit ist das menschliche Urteilsvermögen das einzige andere Werkzeug, auf das wir uns verlassen können. Sind wir also besser als Algorithmen bei der Identifizierung von Deepfakes?
Können Algorithmen Deepfakes besser erkennen als Menschen?
Deepfakes stellen eine so ernste Bedrohung dar, dass riesige Technologieunternehmen und Forschungsgruppen enorme Ressourcen für Forschung und Entwicklung aufwenden. Im Jahr 2019 boten Unternehmen wie Meta, Microsoft und Amazon im Rahmen einer Challenge Preise in Höhe von XNUMX Million US-Dollar an Deepfake Detection Challenge Für das genaueste Erkennungsmodell.
Das leistungsstärkste Modell war im Vergleich zu einem Datensatz öffentlich verfügbarer Videos zu 82.56 % genau. Als jedoch dieselben Modelle anhand eines „Black-Box-Datensatzes“ von 10000 ungesehenen Videos getestet wurden, war das Modell mit der besten Leistung nur zu 65.18 % genau.
Wir verfügen auch über zahlreiche Studien, in denen die Leistung von KI-Tools zur Deepfake-Erkennung gegenüber Menschen analysiert wird. Natürlich variieren die Ergebnisse von Studie zu Studie, aber im Allgemeinen erreichen Menschen entweder die Erfolgsquote von Deepfake-Erkennungstools oder übertreffen sie.
Eine im Jahr 2021 veröffentlichte Studie ergab... PNAS „Gewöhnliche menschliche Beobachter“ erzielten eine etwas höhere Genauigkeitsrate als führende Deepfake-Erkennungstools. Die Studie ergab jedoch auch, dass menschliche Teilnehmer und KI-Modelle anfällig für verschiedene Arten von Fehlern waren.
Es ist interessant, dass die Forschung von... Universität Sydney Ich habe herausgefunden, dass das menschliche Gehirn unbewusst Deepfakes besser erkennt als unsere bewussten Bemühungen. Verifizieren Die größten Gefahren der Deepfake-Technologie und wie man sie erkennt.
Entdecken Sie visuelle Hinweise in der Deepfake-Technologie
Die Wissenschaft der Deepfake-Erkennung ist komplex und die erforderliche Analyse variiert je nach Art des Filmmaterials. Beispielsweise handelt es sich bei einem gefälschten Video des nordkoreanischen Führers Kim Jong Un aus dem Jahr 2020 im Wesentlichen um ein Diskussionsvideo. In diesem Fall besteht der effektivste Weg zur Erkennung von Deepfakes möglicherweise darin, Phoneme (Mundbewegungen) und Phoneme (Stimmlaute) auf Inkonsistenzen zu analysieren.
Menschliche Experten, normale Betrachter und Algorithmen können diese Art von Analyse durchführen, auch wenn die Ergebnisse variieren. Er präzisiert Massachusetts Institute of Technology (MIT) Acht Fragen zur Identifizierung gefälschter Videos:
- Achten Sie auf das Gesicht. Anspruchsvolle Deepfake-Manipulationen beinhalten oft Gesichtsveränderungen.
- Achten Sie auf die Wangen und die Stirn. Wirkt die Haut zu glatt oder zu faltig? Stimmt das Alter der Haut mit dem Alter der Haare und Augen überein? In einigen Dimensionen stimmen sie möglicherweise nicht überein.
- Achten Sie auf die Augen und Augenbrauen. Erscheinen Schatten an den erwarteten Stellen? Die Deepfake-Technologie kann die natürliche Physik der Szene möglicherweise nicht vollständig abbilden.
- Achten Sie auf die Brille. Gibt es eine Blendung? Gibt es viel Blendung? Ändert sich der Blendwinkel, wenn sich die Person bewegt? Auch hier kann es sein, dass die Deepfake-Technologie die natürliche Physik der Beleuchtung nicht vollständig abbildet.
- Achten Sie auf Gesichtsbehaarung oder deren Fehlen. Sieht diese Gesichtsbehaarung echt aus? Die Deepfake-Technologie kann einen Schnurrbart, Koteletten oder einen Bart hinzufügen oder entfernen. Allerdings gelingt es der Deepfake-Technologie möglicherweise nicht, völlig natürliche Transformationen der Gesichtsbehaarung zu bewirken.
- Achten Sie auf Muttermale im Gesicht. Sieht der Maulwurf echt aus?
- Achten Sie auf die Wimpern. Blinzelt die Person genug oder zu viel?
- Achten Sie auf die Lippenbewegungen. Einige Deep Fakes basieren auf der Lippensynchronisation. Sehen Ihre Lippenbewegungen normal aus?
Die neuesten KI-Tools zur Deepfake-Erkennung können dieselben Faktoren analysieren, wiederum mit unterschiedlichem Erfolg. Auch Datenwissenschaftler entwickeln ständig neue Methoden, beispielsweise die Erkennung eines normalen Blutflusses in den Gesichtern von Bildschirmsprechern. Neue Methoden und Verbesserungen bestehender Methoden könnten dazu führen, dass KI-Tools zur Deepfake-Erkennung in Zukunft den Menschen durchweg übertreffen.
Audio-Hinweise in Deepfakes erkennen
Das Erkennen von Fake-Audio ist eine ganz andere Herausforderung. Ohne die visuellen Hinweise von Videos und die Möglichkeit, audiovisuelle Inkonsistenzen zu erkennen, stützt sich die Deepfake-Erkennung stark auf die Audioanalyse (in manchen Fällen können auch andere Methoden wie die Metadatenüberprüfung hilfreich sein).
Ich habe eine von Ihnen veröffentlichte Studie gefunden University College London Im Jahr 2023 können 73 % der Menschen gefälschte Audioinhalte erkennen (auf Englisch und Mandarin). Wie bei gefälschten Videos erkennen menschliche Zuhörer in KI-generierter Sprache oft intuitiv unnatürliche Sprachmuster, auch wenn sie nicht erkennen können, was unnatürlich klingt.
Zu den häufigsten Anzeichen gehören:
- Die Silben.
- Mangel an Ausdruck.
- Hintergrundgeräusche oder Störungen.
- – Inkonsistenz in Stimme oder Sprache.
- Mangelnde „Fülle“ der Klänge.
- Übermäßig geschriebene Lieferung.
- Keine Mängel (Fehlstarts, Korrekturen, Räuspern usw.).
Auch hier können Algorithmen auch Sprache auf die gleichen Deepfake-Signale analysieren, aber neue Methoden machen die Tools noch effektiver. Sie erläuterte die von ihr durchgeführte Forschung USENIX Muster bei der Rekonstruktion des Stimmapparats mithilfe künstlicher Intelligenz, die die natürliche Sprache nicht nachahmen können. Es läuft darauf hinaus, dass KI-Tongeneratoren über schmale Stimmbänder (ungefähr so groß wie ein Strohhalm) identische Klänge erzeugen, ohne die natürlichen Bewegungen der menschlichen Sprache.
Frühere Untersuchungen durchgeführt von Horst-Goertz-Institut Es analysierte echte und gefälschte Audioinhalte in Englisch und Japanisch und deckte subtile Unterschiede in den hohen Frequenzen echter und gefälschter Sprache auf.
Sowohl Kontraste im Stimmtrakt als auch hohe Frequenzen können von menschlichen Zuhörern und KI-Erkennungsmodellen wahrgenommen werden. Bei hochfrequenten Variationen könnten KI-Modelle theoretisch immer genauer werden – obwohl dies auch für KI-Deepfakes gelten könnte.
Menschen und Algorithmen werden durch Deepfakes ausgetrickst, allerdings auf unterschiedliche Weise
Studien deuten darauf hin, dass Menschen und die neuesten KI-Erkennungstools Deepfakes auf ähnliche Weise erkennen können. Die Erfolgsquoten können je nach Testkriterien zwischen 50 % und über 90 % liegen.
Somit werden auch Menschen und Maschinen durch Deepfakes in ähnlichem Maße getäuscht. Es ist jedoch von entscheidender Bedeutung, dass wir auf unterschiedliche Weise verwundbar sind, und dies könnte unser größter Vorteil bei der Bewältigung der Risiken der Deepfake-Technologie sein. Durch die Kombination der Stärken von Menschen und Deepfake-Erkennungstools werden deren jeweilige Schwächen gemindert und die Erfolgsquote verbessert.
Ich habe zum Beispiel gefunden Forschung des Massachusetts Institute of Technology Menschen waren besser darin, gefälschte Bilder von Weltführern und Prominenten zu erkennen als Modelle mit künstlicher Intelligenz. Es zeigte sich auch, dass die KI-Modelle Schwierigkeiten hatten, den Ton mehrerer Personen zu erfassen, obwohl dies darauf zurückzuführen sein könnte, dass die Algorithmen auf Filmmaterial trainiert wurden, das einzelne Stimmen enthielt.
Umgekehrt ergab dieselbe Studie, dass KI-Modelle Menschen mit Videos von geringer Qualität (verschwommen, körnig, dunkel usw.) übertreffen, die absichtlich zur Täuschung menschlicher Zuschauer verwendet werden können. Ebenso beinhalten moderne KI-Erkennungsmethoden, wie beispielsweise die Überwachung des Blutflusses in bestimmten Bereichen des Gesichts, Analysen, die Menschen nicht durchführen können.
Mit der Entwicklung weiterer Methoden wird sich nicht nur die Fähigkeit der KI verbessern, Zeichen zu erkennen, die wir nicht erkennen können, sondern auch ihre Fähigkeit, zu täuschen. Die große Frage ist, ob die Deepfake-Erkennungstechnologie Deepfakes selbst übertreffen kann. Verifizieren Wie kann man dem Risiko einer virtuellen Entführung begegnen und sich online schützen? Identifizieren Sie Bedrohungen.
häufige Fragen
Q1. Was ist Deepfake-Technologie?
Deepfakes sind eine Technologie, die künstliche Intelligenz nutzt, um mit hoher Genauigkeit visuelle oder akustische Inhalte zu erstellen, die den Anschein erwecken, von Menschen produziert worden zu sein.
Q2. Welchen Nutzen haben Deepfakes?
Deepfake-Technologie wird in einer Vielzahl von Anwendungen eingesetzt, darunter Film, Spieleindustrie, Sicherheit, Betrug und mehr.
Q3. Wie können Deep Fakes erkannt werden?
Bei den Deepfake-Erkennungstechniken gibt es mit Beiträgen der künstlichen Intelligenz weiterhin Fortschritte, menschliche Werkzeuge und Methoden sind jedoch weiterhin erforderlich.
Q4. Vor welchen Herausforderungen steht die Deepfake-Erkennung?
Zu den Herausforderungen zählen die Weiterentwicklung von Fälschungstechnologien und die Schwierigkeit, zwischen echten Inhalten und Deepfakes zu unterscheiden.
F5. Kann künstliche Intelligenz den Menschen bei der Erkennung von Deep Fakes übertreffen?
Künstliche Intelligenz macht erhebliche Fortschritte, aber menschliche Fähigkeiten sind in diesem Zusammenhang immer noch wichtig.
Im Zeitalter von Deepfakes die Dinge anders sehen
KI-basierte Deepfake-Erkennungstools werden sich weiter verbessern, ebenso wie die Qualität der Deepfake-Inhalte selbst. Wenn die Fähigkeit der KI zur Täuschung ihre Fähigkeit zur Erkennung übersteigt (wie es bei KI-generierten Texten der Fall ist), ist das menschliche Urteilsvermögen möglicherweise das einzige Mittel, das uns zur Bekämpfung von Deepfakes bleibt.
Es liegt in der Verantwortung jedes Einzelnen, die Anzeichen von Deepfakes zu erkennen und sie zu erkennen. Abgesehen davon, dass wir uns vor Betrug und Sicherheitsbedrohungen schützen, ist alles, was wir online besprechen und teilen, anfällig für Fehlinformationen, wenn wir den Überblick über die Realität verlieren. Sie können es jetzt ansehen Die Gefahren des Schreibens von Inhalten mit künstlicher Intelligenz und wie man KI-generierten Text erkennt.
