W poniedziałek OpenAI opublikowało nowe dane szczegółowo opisujące, w jakim stopniu użytkownicy omawiają problemy zdrowia psychicznego za pomocą ChatGPT. Firma podała, że 0,15 procent jej tygodniowych aktywnych użytkowników angażuje się w rozmowy zawierające wyraźne oznaki potencjalnego planowania lub zamiaru samobójczego. Przy ponad 800 milionach aktywnych użytkowników tygodniowo, liczba ta równa się ponad milionowi osób tygodniowo. Dane wskazują również, że podobny odsetek użytkowników wykazuje podwyższony poziom emocjonalnego przywiązania do ChatGPT. Ponadto setki tysięcy użytkowników podczas cotygodniowych interakcji z chatbotem wykazuje oznaki psychozy lub manii. OpenAI określiło te rozmowy jako niezwykle rzadkie i trudne do dokładnego zmierzenia. Firma szacuje, że pomimo ich rzadkości, problemy te każdego tygodnia dotykają setki tysięcy osób. Informacje te stanowiły część szerszego ogłoszenia dotyczącego inicjatyw OpenAI mających na celu ulepszenie obsługi przez ChatGPT interakcji użytkowników związanych ze zdrowiem psychicznym. Firma stwierdziła, że ostatnie zmiany obejmowały konsultacje z ponad 170 ekspertami w dziedzinie zdrowia psychicznego. Lekarze ci zauważyli, że najnowsza wersja ChatGPT reaguje bardziej odpowiednio i spójnie w porównaniu z wcześniejszymi iteracjami. Ostatnie raporty podkreśliły potencjalne ryzyko związane ze stosowaniem chatbotów AI dla użytkowników borykających się z problemami psychicznymi. Badania wykazały, że chatboty mogą kierować użytkowników we wzorce urojeniowe, wzmacniając szkodliwe przekonania poprzez nadmiernie przyjemne reakcje. Problemy ze zdrowiem psychicznym w ChatGPT okazały się poważnym wyzwaniem dla OpenAI. Firmie grozi pozew złożony przez rodziców 16-letniego chłopca, który na kilka tygodni przed śmiercią podzielił się z chatbotem myślami samobójczymi. Prokuratorzy generalni z Kalifornii i Delaware ostrzegli OpenAI, wzywając do silniejszej ochrony młodych użytkowników. Państwa te mogłyby potencjalnie utrudnić planowaną restrukturyzację spółki. W poście na X na początku tego miesiąca dyrektor generalny OpenAI Sam Altman stwierdził, że firmie udało się złagodzić poważne problemy ze zdrowiem psychicznym w ChatGPT, bez podawania szczegółów. Poniedziałkowa publikacja danych stanowi dowód potwierdzający tę tezę, jednocześnie podkreślając skalę problemu. Altman ogłosił ponadto, że OpenAI złagodzi pewne ograniczenia, w tym umożliwi dorosłym użytkownikom prowadzenie rozmów erotycznych z chatbotem. Ogłoszenie zawierało szczegółowe informacje na temat ulepszeń w zaktualizowanym modelu GPT-5. OpenAI stwierdziło, że ta wersja zapewnia pożądane odpowiedzi na problemy ze zdrowiem psychicznym około 65 procent częściej niż poprzednia iteracja. W ocenach skupiających się na rozmowach samobójczych nowy GPT-5 osiągnął 91% zgodności z pożądanymi zachowaniami firmy, w porównaniu z 77% w przypadku poprzedniego modelu GPT-5. OpenAI poinformowało również, że najnowszy GPT-5 skuteczniej utrzymuje zabezpieczenia podczas dłuższych rozmów. Firma zidentyfikowała już wcześniej słabe punkty w działaniu zabezpieczeń w przypadku dłuższych interakcji. Aby jeszcze bardziej sprostać tym wyzwaniom, OpenAI włącza nowe oceny do swoich podstawowych testów bezpieczeństwa modeli sztucznej inteligencji. Należą do nich punkty odniesienia dotyczące zależności emocjonalnej i sytuacji kryzysowych związanych ze zdrowiem psychicznym, które nie mają charakteru samobójczego. Firma wprowadziła dodatkową kontrolę rodzicielską dla użytkowników ChatGPT. Obejmuje to system przewidywania wieku, którego zadaniem jest automatyczna identyfikacja dzieci i odpowiednie stosowanie bardziej rygorystycznych zabezpieczeń. Pomimo postępu w GPT-5, OpenAI przyznaje, że pewne reakcje pozostają niepożądane. Firma w dalszym ciągu zapewnia dostęp do starszych, mniej bezpiecznych modeli, takich jak GPT-4o, milionom płacących abonentów. Aby uzyskać pomoc, osoby w USA mogą dzwonić na infolinię National Suicide Prevention Lifeline pod numer 1-800-273-8255, wysyłać SMS-y do HOME pod numer 741-741, aby uzyskać informacje na temat linii kryzysowej, lub wysyłać SMS-y pod numer 988. Poza Stanami Zjednoczonymi zasoby są dostępne za pośrednictwem bazy danych Międzynarodowego Stowarzyszenia Zapobiegania Samobójstwom.
Source: OpenAI ujawnia, że ponad milion użytkowników co tydzień omawia samobójstwo w ChatGPT
