Rozwój generatywnej sztucznej inteligencji przyniósł niesamowite postępy, ale przyniósł też mroczniejsze konsekwencje w Internecie. Jednym z tych problemów jest kopiowanie twarzy i ciał, często określane jako deepfakes. Może łatwo tworzyć syntetyczne obrazy nagości, które mogą wyrządzić ludziom wielką krzywdę. Osoby, których intymne zdjęcia zostały udostępnione bez ich zgody, miały trudności z usunięciem tych obrazów z Internetu. Microsoft interweniował, oferując rozwiązanie, które może zapewnić bardzo potrzebne wsparcie.
Firma Microsoft dokonała ważnego postępu, wprowadzając nowe narzędzie, które umożliwia ofiarom deepfake’ów usuwanie tych obrazów z wyszukiwarki Bing. Ta niedawna inicjatywa ma na celu rozwiązanie problemu rozprzestrzeniania się fałszywych treści pornograficznych w Internecie, które wydają się przedstawiać prawdziwe osoby, zjawisko to nasiliło się dzięki postępom w dziedzinie sztucznej inteligencji.
Zatrzymaj rozprzestrzenianie się deepfake’ów firmy Microsoft w postaci treści dla dorosłych
Partnerstwo firmy Microsoft z ZatrzymajNCII (Zatrzymaj niechciane intymne obrazy) stanowi kluczową współpracę w walce z „zemsta” i deepfake nude images. StopNCII to organizacja, która umożliwia ofiarom tworzenie cyfrowego odcisku palca lub „haszu” wyraźnych obrazów, prawdziwych lub generowanych przez sztuczną inteligencję, na ich urządzeniach. Ten odcisk palca jest następnie używany do śledzenia i usuwania obraźliwych obrazów na różnych platformach.
Bing firmy Microsoft jest teraz częścią tego wysiłku, dołączając do szeregów innych głównych platform technologicznych, takich jak Facebook, Instagram, TikTok i Reddit. Jest to krytyczny dodatek do już kompleksowych środków bezpieczeństwa firmy Microsoft, które wcześniej polegały na narzędziu do bezpośredniego raportowania. Chociaż opcja bezpośredniego raportowania pozwalała użytkownikom na oznaczanie szkodliwych treści, nie wystarczyło to, aby nadążyć za ilością obraźliwych materiałów. Poprzez integrację technologii cyfrowego odcisku palca StopNCII firma Microsoft zamierza skuteczniej i proaktywniej zapobiegać pojawianiu się tych obrazów w wynikach wyszukiwania i pomóc ofiarom odzyskać kontrolę nad ich zasobami cyfrowymi.
Trwająca walka z deepfake’iem
Problem generowanych przez sztuczną inteligencję zdjęć nagości stał się coraz poważniejszym problemem o szerokim zasięgu, zwłaszcza w takich krajach jak Stany Zjednoczone gdzie nie ma federalnego prawa specjalnie ukierunkowanego na sztuczną pornografię deepfake. To spowodowało tylko 23 stany uchwalanie przepisów mających na celu rozwiązanie deepfake’i bez zgodypozostawiając ofiary w wielu regionach bez odpowiednich środków prawnych. Partnerstwo Microsoftu ze StopNCII i nowe narzędzie w Bing mogą przynieść pewną ulgę w środowisku, w którym ochrona prawna jest niespójna.
Jednak problem jest taki, nie ogranicza się do osób dorosłych. Uczniowie szkół średnich również są celem ataków „rozbieranie się” witryny, które tworzą fałszywe nagie zdjęcia, co pokazuje potrzebę silniejszych praw i bardziej kompleksowej ochrony. Narzędzia StopNCII obecnie obejmują tylko osoby powyżej 18 roku życia. Jednak szerszy wpływ tych szkodliwych technologii jest jasny, a potrzeba silniejszych środków ochrony młodych użytkowników jest nieunikniona.
Zaangażowanie firmy Microsoft w bezpieczeństwo cyfrowe
Microsoft od dawna zdaje sobie sprawę ze szkodliwych skutków udostępniania intymnych zdjęć bez pozwolenia i podjął kroki w celu rozwiązania tego problemu. W roku 2015 Microsoft uruchomił scentralizowane narzędzie do raportowania, którego celem jest pomoc użytkownikom w zgłaszanie i usuwanie niechcianych intymnych sytuacji obrazy. Ale wraz z rozwojem technologii stojącej za obrazami syntetycznymi, ewoluowało również podejście Microsoftu.
Firma opowiadała się również za zmodernizowanymi przepisami w celu ochrony ofiar treści generowanych przez AI i opublikowała propozycje polityki mające na celu ochronę kobiet i dzieci przed nadużyciami online. Ponadto Microsoft nadal ulepsza swoje wewnętrzne zasady, aby zapobiec tworzeniu i dystrybucji takich treści na swoich platformach, w tym Bing, Xbox i innych usługach konsumenckich.
Nowe narzędzie Microsoftu to duży krok naprzód, ale walka z deepfake nie jest jeszcze skończona. Nowa technologia przynosi nowe wyzwania i musimy szybko reagować. Microsoft współpracuje ze StopNCII i innymi grupami, aby walczyć z deepfake. Ale potrzebujemy pomocy wszystkich.
Microsoft zachęca osoby, które obawiają się, że ich intymne zdjęcia zostaną udostępnione, do korzystania z narzędzi StopNCII i zgłaszania naruszeń do Microsoft. Pomoże to powstrzymać rozprzestrzenianie się tych zdjęć i da ofiarom pewną kontrolę. Podczas gdy technologia umożliwiła nowe formy nadużyć, zapewnia również nowe sposoby walki. Najnowszy ruch Microsoftu pokazuje tę ciągłą walkę.
Źródło wyróżnionego obrazu: Johannes Krupiński / Unsplash
Source: Nowy ruch Microsoftu w walce z deepfake’owymi filmami dla dorosłych