Deepfake są wykorzystywane do wielu celów, w tym w kontekście kampanii dezinformacyjnych, i coraz trudniej jest wykryć te edytowane obrazy.
Jak ta sztuczna inteligencja wykrywa obrazy Deepfake?
Ale jest nowe narzędzie AI do wykrywania fałszywych filmów, które sprawdza światło odbite w oczach.
Projekt została stworzona przez zespół informatyków z Uniwersytetu w Buffalo. Według badania ta nowa sztuczna inteligencja była w stanie wykryć obrazy portretowe Deepfake z zaskakującym 94% wskaźnikiem sukcesu.
System ujawnia fałszywe obrazy, analizując „niespójne refleksy na rogówce między dwojgiem oczu”.
Kiedy zrobimy zdjęcie prawdziwej twarzy, odbicie na dwoje oczu będzie podobne. Ponieważ widzą to samo. Ale ogólnie rzecz biorąc, obrazy Deepfake nie są w stanie dokładnie uchwycić tego podobieństwa, dlatego nie są w stanie uchwycić prawdziwego podobieństwa osoby, którą próbują naśladować.
System analizuje obraz, a następnie oblicza wynik, który służy do określenia podobieństwa jednej osoby do drugiej.
Najbardziej oczywistą wadą narzędzia jest to, że wymaga ono odbitego źródła światła w obu oczach. Te wzory można łatwo skorygować za pomocą ręcznego przetwarzania końcowego, a metoda nie zadziała, jeśli na obrazie brakuje jednego oka.
Microsoft kupuje Nuance, firmę wykorzystującą sztuczną inteligencję, która korzysta z Siri, za 19,7 mld USD
Ponadto system może generować fałszywe wyniki, gdy osoba na zdjęciu nie patrzy w kamerę.