Meta opracowuje internetowe narzędzie do wykrywania przeznaczone do identyfikacji obrazów i filmów utworzonych za pomocą jej modelu generowania obrazów, znanego jako Muse Image. To narzędzie sprawdza obecność niewidocznych znaków wodnych, zwanych Pieczęcią Treści, osadzonych w wygenerowanej treści.
Według Meta, Content Seal pozostaje nienaruszona niezależnie od manipulacji obrazem, w tym przycinania, kompresji, zmiany rozmiaru czy zrzutów ekranu. Firma stwierdziła, że narzędzie zapewnia użytkownikom wstępny mechanizm pozwalający określić, czy obraz zawiera znak wodny Content Seal.
Metoda znakowania wodnego stosowana przez Muse Image jest zastrzeżona i różni się od wcześniejszych wersji open source wydanych przez firmę Meta. Obecna wersja modeli AI Meta nie wykorzystuje widocznych znaków wodnych, co stanowi odejście od poprzednich modeli, które zawierały logo na obrazach.
Obecnie możliwości wykrywania ograniczają się do obrazów utworzonych lub edytowanych za pomocą programu Muse Image. Meta planuje w przyszłości rozszerzyć znaki wodne Content Seal na filmy generowane i edytowane przez sztuczną inteligencję. Firma opracowuje także osobny model generowania wideo o nazwie Muse Video, który ma zostać wkrótce wprowadzony na rynek.
Testy narzędzia do wykrywania potwierdziły jego zdolność do identyfikowania znaków wodnych zarówno na edytowanych obrazach, jak i tych wygenerowanych w całości przez sztuczną inteligencję. Pozytywny wynik oznacza, że obraz został utworzony przy użyciu aplikacji Meta AI lub meta.ai, natomiast wynik negatywny sugeruje, że prawdopodobnie nie został przetworzony przy użyciu Meta AI. Jednak funkcja wykrywania nie jest zintegrowana z samą aplikacją Meta AI; asystent aplikacji potwierdził, że nie może ustalić, czy konkretny obraz został utworzony przez Meta AI.
Meta spotkała się z analizą dotyczącą niespójnego stosowania cyfrowych znaków wodnych w treściach generowanych przez sztuczną inteligencję. Na początku roku Rada Nadzorcza wyraziła obawy dotyczące praktyk firmy w zakresie etykietowania materiałów wytworzonych przez sztuczną inteligencję. Content Seal jest niekompatybilna z ustalonymi metodami znakowania wodnego, takimi jak SynthID i C2PA Content Credentials.
Podczas ostatnich testów narzędzie wykrywające nie zidentyfikowało obrazów utworzonych lub edytowanych przy użyciu poprzednich wersji modeli AI firmy Meta. Ponadto użytkownicy narzędzia napotykają limity stawek i otrzymują powiadomienia po osiągnięciu dziennego progu kontroli identyfikacyjnej.
