Discord, Steam, Twitch CEO, aby zeznawać o radykalizacji

Podczas gdy amerykańscy decydenci i nagłówki mediów historycznie koncentrują się na platformach takich jak Instagram, Facebook, YouTube, Tiktok i X, odbywa się znaczna zmiana, ponieważ młodzi ludzie coraz częściej korzystają z platform gier i gier do interakcji społecznych. Rozmowy te, które odbywają się na usługach takich jak Discord, Roblox i Steam, są zazwyczaj anonimowe i w dużej mierze ukryte przed opinią publiczną. Platformy te, pierwotnie zaprojektowane do łączenia graczy, przekształciły się w główne piasty w celu dyskursu społecznego i autentycznej interakcji, szczególnie gdy aplikacje głównego nurtu priorytetują treść zaprojektowaną dla wirusowości. Ta ewolucja przyniosła nową analizę, ze szczególnym uwzględnieniem tego, w jaki sposób te zamknięte fora mogą zawierać nienawiść i wyzysk, problemy, które często pozostają ukryte, dopóki nie przejawiają się w prawdziwej krzywdzie. Dainstream Social Media Apps są skonstruowane w celu publicznego podnoszenia i wzmacniania treści, co czyni je skutecznymi narzędziami do rozpowszechniania ideologii, plotek lub dezinformacji. Jednak wiele z tych pomysłów po raz pierwszy zakorzeniło się w mniejszych, bardziej prywatnych forach na platformach do gier. Grupy ekstremistyczne, które zostały usunięte z głównego nurtu usług, w konsekwencji znalazły nowe domy w tych przestrzeniach. W przeciwieństwie do publicznych aplikacji, użytkownicy na platformach do gier są bardziej przyzwyczajeni do działania z pseudonimami. Ta praktyka korzystania z pseudo tożsamości ułatwia anonimową wymianę radykalnych i tabu. Mariana Olaizola Rosenblat, doradca ds. Polityki w zakresie technologii i prawa w NYU Stern, wyjaśnia, że sama architektura tych platform skoncentrowanych na grach jest kluczowym czynnikiem rozpowszechniania niebezpiecznych treści. „Ekstremiści i drapieżniki idą do tych przestrzeni do gier, aby znaleźć wysoce zaangażowanych, podatnych młodych ludzi, z których wielu pragnie połączenia”, mówi. Mniejsze, prywatne czaty, w których często rozwijają się szkodliwe rozmowy, są zazwyczaj zapieczętowane od zewnętrznych obserwatorów. „Większość badaczy jest w zasadzie ślepa na to wszystko. Nie można wejść do tych pokoi”, zauważa Rosenblat. Użytkownicy wykorzystują również kontekst gier, wykorzystując „GamesPeak” w celu ukrycia ekstremistycznych lub niebezpiecznych koncepcji, co zaciera rozróżnienie między odgrywaniem ról a zamiarami w świecie rzeczywistym. Podczas gdy same platformy mają techniczny dostęp do tej treści, sama głośność sprawia, że monitorowanie jest znaczącym wyzwaniem. Rosenblat zauważa, że większość nie zainwestowała wystarczająco dużo w zabezpieczenia lub zasoby moderacyjne potrzebne do ochrony młodych użytkowników. Należy zauważyć, że większość rozmów na tych platformach jest zwyczajna. Obejmują się od dyskusji na temat gier i uczestnictwa w grupach badawczych, po forum społeczne sportowe i sąsiedzkie. Niemniej jednak te same środowiska stały się również żyzne podłoże radykalizacji i wykorzystywania, a coraz większa liczba incydentów ujawniła problem. Discord stoi w obliczu ponownej analizy po tym, jak podejrzany o zabójstwo Charliego Kirka wydawało się spodziewać się na czacie niezgody. Platforma była również wykorzystywana przez organizatorów Unite Rally w Charlottesville w celu koordynowania logistyki, w tym Carpools i Lodging. W oddzielnym incydencie strzelec, który zabił 10 osób w czarnej dzielnicy Buffalo w 2022 r., Udokumentował miesiące planowania na prywatnym czacie niezgody. Ponadto dochodzenie w sprawie Daily Beast z 2018 r. Odkryło setki przypadków zemsty pornografii dzielonych nad serwerami. Roblox, platforma sprzedawana bezpośrednio do dzieci, narysowała ostrą krytykę dla treści seksualnych, drapieżnych i ekstremistycznych, które pojawiają się w jej służbie. Firma stoi obecnie w obliczu wielu procesów sądowych. Jeden pozew, złożony przez stan Luizjany, twierdzi, że Roblox nie chronił dzieci. Kolejny został złożony przez rodzinę Iowa po tym, jak ich 13-letnia córka została porwana, handlowana i zgwałcona przez drapieżnika, którego poznała na platformie. Rzecznik Roblox przedstawił oświadczenie dotyczące swoich praktyk bezpieczeństwa:

„Chociaż nie możemy komentować roszczeń podniesionych w sporach sądowych, w Roblox staramy się zachować najwyższe standardy bezpieczeństwa. Inwestujemy znaczne zasoby w zaawansowaną technologię bezpieczeństwa, w tym połączenie zespołów uczenia maszynowego i moderacji ludzkich pracujących 24/7 w celu wykrywania i rozwiązywania niewłaściwych treści i zachowań”.

Strzelanie Buffalo w 2022 r. Było na żywo na Twitch, platformie gier należącej do Amazon. Twitch potępił atak, szybko usunął wideo i stwierdził, że ściśle współpracuje z organami ścigania w celu zbadania incydentu. W 2021 r. Naukowcy stwierdzili, że platforma Steam stała się miejscem sieciowym dla skrajnie prawicowych ideologii, organizujących grupy promujące organizacje neonazistowskie. Po zabiciu Charliego Kirka platformy do gier zyskują większą uwagę od amerykańskich decydentów. James Comer (R-Ky), przewodniczącego House, poprosił dyrektorów ds. Discord, Steam, Twitch i Reddit o zeznanie przed kongresem 8 października o kwestii radykalizacji użytkownika na swoich platformach.