2024 Autor: Richard Flannagan | [email protected]. Zuletzt bearbeitet: 2024-02-17 17:23
Vor einem Jahr half Manish Agrawala aus Stanford bei der Entwicklung einer Lippensynchronisationstechnologie, die es Videoeditoren ermöglichte, die Worte der Sprecher fast unmerklich zu ändern. Das Tool könnte leicht Wörter einfügen, die eine Person nie gesprochen hat, selbst mitten in einem Satz, oder Wörter löschen, die sie gesagt haben. Alles wird mit bloßem Auge und sogar für viele Computersysteme realistisch aussehen.
Dieses Tool hat es viel einfacher gemacht, Fehler zu beheben, ohne ganze Szenen neu zu drehen, und hat auch Fernsehsendungen oder Filme für verschiedene Zielgruppen an verschiedenen Orten angepasst. Aber diese Technologie hat auch beunruhigende neue Möglichkeiten für schwer zu findende gefälschte Videos geschaffen, mit der klaren Absicht, die Wahrheit zu verzerren. In einem kürzlich veröffentlichten Video der Republikaner wurde beispielsweise eine rauere Technik für ein Interview mit Joe Biden verwendet.
In diesem Sommer stellten Agrawala und Kollegen von Stanford und UC Berkeley einen auf künstlicher Intelligenz basierenden Ansatz für die Lippensynchronisationstechnologie vor. Das neue Programm erkennt mehr als 80 Prozent der Fälschungen akkurat und erkennt kleinste Abweichungen zwischen den Lauten von Menschen und der Form ihres Mundes.
Aber Agrawala, Direktor des Stanford Institute for Media Innovation und Professor für Informatik an der Forest Baskett, die auch dem Stanford Institute for Human-Centered Artificial Intelligence angehört, warnt davor, dass es keine langfristige technische Lösung für Deep Fakes gibt.
So funktionieren Fälschungen
Es gibt legitime Gründe für die Videomanipulation. Jeder, der beispielsweise eine fiktive Fernsehsendung, einen Film oder einen Werbespot dreht, kann Zeit und Geld sparen, indem er digitale Tools verwendet, um Fehler zu korrigieren oder Skripte anzupassen.
Das Problem entsteht, wenn diese Tools bewusst eingesetzt werden, um falsche Informationen zu verbreiten. Und viele der Techniken sind für den durchschnittlichen Betrachter unsichtbar.
Viele Deep-Fake-Videos basieren auf Face-Swaps, bei denen das Gesicht einer Person buchstäblich mit dem Video einer anderen Person überlagert wird. Aber während Gesichtswechsler-Tools überzeugend sein können, sind sie relativ grob und hinterlassen normalerweise digitale oder visuelle Artefakte, die ein Computer erkennen kann.
Auf der anderen Seite sind Lippensynchronisationstechnologien weniger sichtbar und daher schwieriger zu erkennen. Sie manipulieren einen viel kleineren Teil des Bildes und synthetisieren dann Lippenbewegungen, die genau der Mundbewegung einer Person entsprechen, wenn sie bestimmte Wörter spricht. Laut Agrawal kann ein gefälschter Produzent eine Person dazu bringen, alles zu „sagen“, wenn genügend Proben des Bildes und der Stimme einer Person vorhanden sind.
Fälschungserkennung
Besorgt über den unethischen Einsatz solcher Technologien arbeitete Agrawala mit Ohad Freed, einem Doktoranden in Stanford, an der Entwicklung eines Erkennungstools; Hani Farid, Professor an der University of California, Berkeley School of Information; und Shruti Agarwal, Doktorandin in Berkeley.
Zunächst experimentierten die Forscher mit einer rein manuellen Technik, bei der Beobachter Videomaterial untersuchten. Es funktionierte gut, aber in der Praxis war es arbeits- und zeitaufwendig.
Die Forscher testeten dann ein auf künstlicher Intelligenz basierendes neuronales Netzwerk, das die gleiche Analyse nach dem Videotraining mit dem ehemaligen Präsidenten Barack Obama viel schneller durchführen würde. Das neuronale Netzwerk erkannte mehr als 90 Prozent von Obamas eigener Lippensynchronisation, obwohl die Genauigkeit für andere Sprecher auf etwa 81 Prozent sank.
Ein echter Test der Wahrheit
Die Forscher sagen, ihr Ansatz sei nur ein Teil des Katz-und-Maus-Spiels. Wenn sich die Techniken der tiefen Fälschung verbessern, hinterlassen sie noch weniger Schlüssel.
Letztendlich, sagt Agrawala, besteht das eigentliche Problem nicht so sehr darin, zutiefst gefälschte Videos zu bekämpfen, sondern vielmehr Desinformation zu bekämpfen. Tatsächlich, stellt er fest, entstehen viele der Fehlinformationen aus der Verfälschung der Bedeutung dessen, was die Leute tatsächlich gesagt haben.
„Um Fehlinformationen zu reduzieren, müssen wir die Medienkompetenz verbessern und Rechenschaftssysteme entwickeln“, sagt er. "Dazu können Gesetze gehören, die die absichtliche Produktion von Fehlinformationen und die Folgen ihrer Verletzung verbieten, sowie Mechanismen zur Beseitigung des daraus resultierenden Schadens."
Empfohlen:
Der magische Realismus der Gemälde des Künstlers, die von Kritikern nicht erkannt und von der Öffentlichkeit verehrt wurden: Andrew Wyeth
Andrew Wyeth, weltbekannt und einer der beliebtesten Künstler des konservativen Teils der amerikanischen Gesellschaft, ist einer der teuersten zeitgenössischen Künstler des 20. Jahrhunderts. Gleichzeitig war er jedoch einer der am meisten unterschätzten amerikanischen Maler. Seine realistisch geschriebenen Kreationen im Zeitalter des Aufkommens von Abstraktion und Moderne lösten bei einflussreichen Kritikern und Kunsthistorikern einen Sturm der Proteste und negative Reaktionen aus. Aber der amerikanische Betrachter ging in Scharen zu Werkausstellungen, der Kurator
Gemälde mit künstlicher Intelligenz zum ersten Mal versteigert
Bei der letzten Auktion hat sich das Auktionshaus Christie's entschieden, ein Gemälde mit dem Titel "Portrait of Edmond de Belamy" in die Losliste aufzunehmen. Seine Besonderheit liegt darin, dass es nicht von einem großen Künstler geschaffen wurde, sondern eine Schöpfung künstlicher Intelligenz ist
Nachkommen der wilden Polovtsianer unter uns: wer sie sind und wie sie heute erkannt werden können
Die Polovtsi sind eines der mysteriösesten Steppenvölker, das dank der Überfälle auf die Fürstentümer und der wiederholten Versuche der Herrscher der russischen Länder in die russische Geschichte eingegangen ist, wenn nicht die Steppenbewohner zu besiegen, dann doch zu einem Vereinbarung mit ihnen. Die Kumanen selbst wurden von den Mongolen besiegt und besiedelten weite Teile Europas und Asiens. Jetzt gibt es keine Menschen, die ihre Genealogie direkt auf die Polovtsianer zurückführen könnten. Und doch haben sie sicherlich Nachkommen
Künstlicher Regenbogen, um die Einwohner von Nebraska . zu erfreuen
Ein Regenbogen kommt nicht so häufig vor, wie wir es gerne hätten. Aus diesem Grund hat der Künstler Michael Jones McKean beschlossen, ein Setup zu erstellen, um künstliche Regenbögen zu erstellen. Und kürzlich wurde seine aktuelle Version direkt auf der Straße in der Stadt Omaha im amerikanischen Bundesstaat Nebraska installiert
Künstlicher Mond von Wang Yuyan
Ob Sie es glauben oder nicht, es gibt Menschen auf der Welt, die den echten Mond noch nie gesehen haben. Die Installation "Artificial Moon" wurde vom Pekinger Künstler Wang Yuyan speziell für diejenigen geschaffen, die diesen wunderschönen leuchtenden Himmelskörper noch nicht gesehen haben, aber schon immer davon geträumt haben, diesen zu sehen. Der "künstliche Mond" ist eine Abstraktion des echten Mondes, der selten am Himmel von Shanghai zu sehen ist, wo viele hell erleuchtete Wolkenkratzer das natürliche Leuchten des Erdtrabanten überschatten