OpenAI opublikowało swój plan bezpieczeństwa dzieci, aby zwiększyć wysiłki USA na rzecz ochrony dzieci w obliczu rosnących obaw związanych z wykorzystywaniem dzieci związanym ze sztuczną inteligencją. Celem planu jest usprawnienie wykrywania, raportowania i prowadzenia dochodzeń w sprawie wykorzystywania dzieci wykorzystującego sztuczną inteligencję.
Fundacja Internet Watch Foundation (IWF) zgłosiła w pierwszej połowie 2025 r. ponad 8000 przypadków treści związanych z wykorzystywaniem seksualnym dzieci generowanych przez sztuczną inteligencję, co stanowi wzrost o 14% w porównaniu z rokiem poprzednim. Przestępcy coraz częściej korzystają z narzędzi sztucznej inteligencji, aby tworzyć fałszywe wizerunki dzieci w celu wykorzystywania seksualnego oraz do generowania przekonujących komunikatów dotyczących uwodzenia.
Inicjatywa ta jest odpowiedzią na wzmożoną kontrolę ze strony decydentów, nauczycieli i zwolenników bezpieczeństwa dzieci, szczególnie w następstwie incydentów, w których młode osoby popełniły samobójstwo po interakcjach z chatbotami AI. W listopadzie Centrum Praw Ofiar Mediów Społecznościowych i Tech Justice Law Project złożyły siedem pozwów przeciwko OpenAI w Kalifornii. Pozwy te zarzucają przedwczesne uwolnienie GPT-4o, twierdząc, że jego psychologicznie manipulacyjny charakter przyczynił się do bezprawnych zgonów i poważnych kryzysów zdrowia psychicznego.
Plan bezpieczeństwa dzieci został opracowany wspólnie z Narodowym Centrum ds. Dzieci Zaginionych i Wykorzystywanych (NCMEC) oraz Stowarzyszeniem Prokuratorów Generalnych, uwzględniając opinie urzędników, w tym prokuratora generalnego Karoliny Północnej Jeffa Jacksona i prokuratora generalnego stanu Utah Dereka Browna. W planie kładzie się nacisk na trzy główne obszary: aktualizację przepisów w celu uwzględnienia materiałów zawierających nadużycia generowane przez sztuczną inteligencję, udoskonalenie mechanizmów zgłaszania na potrzeby egzekwowania prawa oraz osadzenie zabezpieczeń zapobiegawczych w systemach sztucznej inteligencji.
OpenAI twierdzi, że jego celem jest skuteczniejsze wykrywanie potencjalnych zagrożeń i zapewnianie przekazywania śledczym przydatnych informacji. Ten plan opiera się na wcześniejszych inicjatywach, w tym wytycznych dotyczących interakcji użytkowników poniżej 18 roku życia, które zabraniają generowania nieodpowiednich treści i oferowania porad, które mogłyby pomóc ukryć przed opiekunami niebezpieczne zachowania. OpenAI opublikowało także plan bezpieczeństwa dla nastolatków w Indiach.
