Meta szkoli swoje chatboty sztucznej inteligencji z nowymi wytycznymi, aby skuteczniej zajmować się wykorzystywaniem seksualnym dzieci, zgodnie z serią błędów publicznych dotyczących wrażliwego tematu. Według raportu Business Insider, który uzyskał dokumenty, wytyczne dotyczące wykonywania kontrahentów Szkolenie AI zostały niedawno zaktualizowane w celu wdrożenia surowszych środków bezpieczeństwa. Zaktualizowane zasady wskazują, że treść, która „umożliwia, zachęca lub popierają” wykorzystywanie seksualne dzieci są teraz wyraźnie zakazane. Wytyczne zabraniają również romantycznej odgrywania ról, jeśli użytkownik jest niewielki lub jeśli użytkownik poprosi AI do odgrywania ról jako małoletniego. Ponadto chatbotowi nie może udzielać porad na temat intymności, jeśli użytkownik jest nieletni. Te poręcze są wprowadzane jako rosnąca liczba osób, w tym nieletni użytkownicy, eksperymentują z towarzyszami AI i odgrywaniem ról. Zmiana zasad dotyczy poprzednich zasad, które zostały poddane kontroli. W sierpniowym raporcie Reutersa ujawniło, że dawna polityka AI Meta pozwoliła na sugestywne zachowanie dzieci. W raporcie określił, że chatbot mógł „zaangażować dziecko w rozmowy romantyczne lub zmysłowe”. Zaledwie kilka tygodni po tym raporcie rzeczniczka Meta, Stephanie Otway, powiedziała Techcrunch, że chatboty AI firmy były szkolone, aby nie „angażować się z nastoletnimi użytkownikami w samokłonku, samobójstwie, nieuporządkowanym jedzeniu lub potencjalnie nieodpowiednich romantycznych rozmowach”. Było to przejście od poprzedniej zasady, co pozwoliło Chatbotowi zaangażować się w te tematy, gdy uznano go za „właściwe”. Nowe wytyczne, jak szczegółowo opisano w raporcie Business Insider, sprawiają, że treść nie jest w stanie „opisywać lub omawiać” małoletniego w sposób seksualny. Nieletni nie mogą teraz angażować się w „romantyczną odgrywanie ról, flirt lub wyrażanie romantycznego lub intymnego wyrażenia” z chatbotem. Nie mogą również prosić o poradę na temat „potencjalnie romantycznego lub potencjalnie inturalnego zadowolenia fizycznego z inną osobą, taką jak trzymanie się za ręce, przytulanie lub objęcie ramię”. Jednak wytyczne przedstawiają kilka akceptowalnych przypadków użycia do celów szkoleniowych. Obejmują one omówienie „tworzenia relacji między dziećmi i dorosłymi”, „wykorzystywaniem seksualnym dziecka” i „tematem seksualizacji dzieci”. Innymi zatwierdzonymi tematami do dyskusji szkoleniowych to „nagabywanie, tworzenie lub nabywanie materiałów seksualnych z udziałem dzieci” oraz „zaangażowanie dzieci w użycie lub produkcję obscenicznych materiałów lub zatrudnienie dzieci w służbie seksualnej w celach akademickich, edukacyjnych lub klinicznych”. Wytyczne określają termin „omówienie” jako „dostarczanie informacji bez wizualizacji”. To rozróżnienie oznacza, że chatboty meta mogą mówić o tematach takich jak nadużycie, ale teraz są ograniczone do opisywania, włączania lub zachęcania. Wyjątek pozostaje dla nieletnich używających sztucznej inteligencji do odgrywania romansu, pod warunkiem, że jest ona „nie-seksualna i nieprzesługa”. Ten rodzaj interakcji jest dozwolony tylko wtedy, gdy „jest prezentowany jako literatura lub fikcyjna narracja (np. Historia w stylu Romeo i Julii), w której AI i użytkownik nie są postaciami w narracji”. Meta nie jest jedynym deweloperem sztucznej inteligencji, staje przed wyzwaniami związanymi z bezpieczeństwem dzieci. Rodzice nastolatka, który zmarł przez samobójstwo po zakończeniu Chatgpt, niedawno pozwał Openai za bezprawną śmierć. W odpowiedzi Openai ogłosił, że uwzględni dodatkowe środki bezpieczeństwa i podpowiedzi behawioralne do zaktualizowanego modelu GPT-5. W innych wydarzeniach branżowych antropijne zaktualizowało swoje chatbot, aby umożliwić mu zakończenie rozmów, które są szkodliwe lub obraźliwe, a także charakter. W kwietniu Ziff Davis, spółka macierzysta Mashable, złożyła pozew przeciwko Openai. Pozew twierdzi, że firma naruszyła prawa autorskie do Ziffa Davisa w szkoleniu i prowadzeniu systemów AI.
Source: Meta aktualizacje wytyczne AI Chatbot dla bezpieczeństwa dzieci
