Facebook-Forscher sagen, dass sie Deepfakes erkennen können und woher sie kommen: NPR

Dieses Bild stammt aus einem gefälschten Video, das den ehemaligen Präsidenten Barack Obama zeigt, und zeigt Gesichtsmapping-Elemente, die in Deepfakes verwendet werden, die es jedem ermöglichen, Videos von echten Menschen zu erstellen, die scheinbar Dinge sagen, die sie noch nie gesagt haben.

AP

Bildunterschrift ausblenden

Untertitel wechseln التوضيح

AP

Dieses Bild stammt aus einem gefälschten Video, das den ehemaligen Präsidenten Barack Obama zeigt, und zeigt Gesichtsmapping-Elemente, die in Deepfakes verwendet werden, die es jedem ermöglichen, Videos von echten Menschen zu erstellen, die scheinbar Dinge sagen, die sie noch nie gesagt haben.

AP

Social-Networking-Site von Facebook Forscher sagen, dass sie künstliche Intelligenz entwickelt haben Es kann sogenannte „Deep Fakes“ erkennen und deren Herkunft mittels Reverse Engineering zurückverfolgen.

Deepfakes sind bearbeitete Fotos, Videos und Standbilder, die mithilfe künstlicher Intelligenz wie echt aussehen. Es ist in den letzten Jahren immer realistischer geworden, was es schwierig macht, die Wahrheit einer Fälschung nur mit bloßem Auge zu erkennen.

Technologische Fortschritte bei Deepfakes haben Experten alarmiert, die warnen, dass diese gefälschten Bilder von böswilligen Akteuren verwendet werden könnten, um Fehlinformationen zu verbreiten.

Beispiele für gefälschte Videos mit Tom Cruise, dem ehemaligen Präsidenten Barack Obama und der Sprecherin des Repräsentantenhauses Nancy Pelosi sind aufgetaucht und haben die Entwicklung der Technologie im Laufe der Zeit gezeigt.

„Unsere Methode wird es einfacher machen, Deepfakes in realen Umgebungen zu erkennen und zu verfolgen, wo das Deepfake-Bild selbst oft die einzigen Informationsdetektoren ist, mit denen Sie arbeiten müssen“, schrieben die Facebook-Forscher Xi Yin und Tal Hassner am Mittwoch.

Die Arbeiten wurden gemeinsam mit der Michigan State University durchgeführt.

Die neue Software von Facebook führt Deepfake-Bilder in ihrem Netzwerk aus. Ihre KI-Software sucht nach Rissen, die im Herstellungsprozess zurückgeblieben sind, um den „Fingerabdruck“ des digitalen Bildes zu verändern.

„In der digitalen Fotografie werden Fingerabdrücke verwendet, um die Digitalkamera zu identifizieren, mit der ein Bild erstellt wird“, erklärten die Forscher. Fingerabdrücke sind auch einzigartige Muster, die „ebenso verwendet werden können, um das generative Modell zu identifizieren, von dem das Bild stammt“.

Forscher sehen in dieser Software echte Anwendungen. Ihre Arbeit wird anderen „Werkzeuge geben, um Vorfälle von orchestrierter Desinformation mithilfe von Deep Fakes besser zu untersuchen und neue Richtungen für die zukünftige Forschung zu eröffnen“.