Meta veröffentlicht ein neues Tool, das mit künstlicher Intelligenz (KI) erstellten Videos ein unsichtbares Wasserzeichen hinzufügen kann. Das neue Tool mit dem Namen Video Seal ergänzt die bestehenden Wasserzeichen-Tools des Unternehmens, Audio Seal und Watermark Anything. Das Unternehmen schlug vor, dass das Tool Open-Source sein wird, hat den Code jedoch noch nicht veröffentlicht. Interessanterweise behauptet das Unternehmen, dass die Wasserzeichentechnik keinen Einfluss auf die Videoqualität hat, aber den gängigen Methoden zum Entfernen von Wasserzeichen aus Videos standhält.
Seit dem Aufkommen der generativen KI überschwemmen Deepfakes das Internet. Deepfakes sind synthetische Inhalte, die in der Regel mithilfe von KI generiert werden und falsche und irreführende Objekte, Personen oder Szenarien zeigen. Solche Inhalte werden häufig verwendet, um Fehlinformationen über eine Persönlichkeit des öffentlichen Lebens zu verbreiten, gefälschte sexuelle Inhalte zu erstellen oder Betrug und Betrügereien zu begehen.
Darüber hinaus werden Deepfake-Inhalte mit immer besseren KI-Systemen immer schwerer zu erkennen, wodurch es noch schwieriger wird, sie von echten Inhalten zu unterscheiden. Laut einem McAfee Umfrage70 Prozent der Menschen haben bereits das Gefühl, dass sie nicht sicher sind, den Unterschied zwischen einer echten Stimme und einer KI-generierten Stimme zu erkennen.
Gemäß interne Daten Laut Sumsub stiegen Deepfake-Betrugsfälle im Jahr 2022 in Nordamerika um 1.740 Prozent und im asiatisch-pazifischen Raum um 1.530 Prozent. Es wurde festgestellt, dass sich die Zahl zwischen 2022 und 2023 verzehnfacht.
Da die Besorgnis über Deepfakes zunimmt, haben viele Unternehmen, die KI-Modelle entwickeln, damit begonnen, Wasserzeichen-Tools auf den Markt zu bringen, die synthetische Inhalte von echten unterscheiden können. Anfang dieses Jahres Google freigegeben SynthID zum Wasserzeichen von KI-generiertem Text und Videos. Auch Microsoft hat ähnliche Tools veröffentlicht. Darüber hinaus arbeitet auch die Coalition for Content Provenance and Authenticity (C2PA) an neuen Standards zur Identifizierung von KI-generierten Inhalten.
Jetzt hat Meta freigegeben ein eigenes Video Seal-Tool zum Wasserzeichen von KI-Videos. Die Forscher betonen, dass das Tool jeden Frame eines Videos mit einem nicht wahrnehmbaren Tag versehen kann, der nicht manipuliert werden kann. Es soll resistent gegen Techniken wie Unschärfe-, Zuschneide- und Komprimierungssoftware sein. Trotz der Hinzufügung des Wasserzeichens behaupten die Forscher jedoch, dass die Qualität des Videos nicht beeinträchtigt wird.
Meta hat angekündigt, dass Video Seal unter einer freizügigen Lizenz als Open-Source-Lösung bereitgestellt wird, das Tool und seine Codebasis müssen jedoch noch öffentlich zugänglich gemacht werden.
