Z raportu WIRED wynika, że setki wykonawców pracujących dla Meta otrzymało polecenie udawania dzieci i testowania chatbotów konkurencji, w tym Google Gemini i ChatGPT firmy OpenAI, poprzez wysyłanie podpowiedzi związanych z samobójstwem, seksem i narkotykami. Wykonawcy z siedzibą w Kenii podczas testów wykorzystali obrazy, takie jak pigułki, noże, pętle i schemat medyczny zabiegu ginekologicznego. Podpowiedzi te miały na celu wypchnięcie konkurencyjnych systemów sztucznej inteligencji do granic ich możliwości i wykrycie błędów w zakresie bezpieczeństwa w sposobie, w jaki chatboty reagują na nieletnich poszukujących niebezpiecznych treści.
To odkrycie podkreśla ciągłe obawy dotyczące sposobu, w jaki firmy technologiczne chronią swoje produkty AI, zwłaszcza w odniesieniu do dzieci. Chatboty Meta spotkały się z krytyką ze względu na zgłoszony 66,8% wskaźnik niepowodzeń w blokowaniu treści związanych z wykorzystywaniem seksualnym dzieci oraz 54,8% wskaźnik niepowodzeń w reagowaniu na podpowiedzi dotyczące samobójstwa i samookaleczenia podczas wewnętrznej oceny zespołu czerwonego. W świetle nacisków prawnych firma wstrzymała dostęp nastolatków do postaci towarzyszących AI w styczniu 2026 r.
Z poprzednich doniesień szwedzkiego serwisu informacyjnego wynikało, że wykonawcy w Kenii skupiali się szczególnie na tym, jak konkurenci radzą sobie z wrażliwymi rozmowami z użytkownikami podającymi się za nieletnich. Dzieje się tak, gdy Meta przyspiesza przejście od moderowania treści przez ludzi do podejścia skoncentrowanego na sztucznej inteligencji. Do końca 2026 r. Meta planuje zastąpić ponad 90% personelu zajmującego się sprawdzaniem treści modelami obsługującymi duże języki. W tym roku firma przeniosła już około 50% próśb o weryfikację manualną do sztucznej inteligencji, twierdząc, że systemy te popełniają o 13% mniej błędów i wyłapują o 10% więcej naruszeń zasad w porównaniu z weryfikatorami.
Konsekwencje tej zmiany były już widoczne, gdy w kwietniu firma outsourcingowa Sama z siedzibą w Nairobi zwolniła 1108 pracowników po zakończeniu ważnej współpracy z Meta. Decyzję tę poprzedziły zgłoszenia sygnalistów od kenijskich pracowników dotyczące niepokojących treści, z którymi musieli się zapoznać, zwłaszcza nagrań zarejestrowanych przez Meta za pomocą inteligentnych okularów.
Strategia Meta polegająca na wykorzystywaniu tanich wykonawców za granicą do testowania warunków skrajnych konkurencyjnych systemów sztucznej inteligencji, przy jednoczesnej redukcji stanowisk pracy związanych z moderacją przez ludzi, podkreśla istniejące napięcia w dyskursie na temat bezpieczeństwa sztucznej inteligencji, w miarę jak firmy wdrażają zaawansowane technologie przy malejącym nadzorze ludzkim.
