Openai aktywnie pracuje nad rozwiązaniem nowej kwestii „psychozy AI” i współtworzenia złudzeń między ludźmi i systemami AI, takimi jak Chatgpt i GPT-5. Ta inicjatywa ma na celu złagodzenie potencjału dla użytkowników do rozwijania zniekształconych myśli i przekonań w wyniku przedłużonej interakcji z generatywną sztuczną inteligencją.
Koncepcja „niezdrowej relacji użytkownika-AI” jest zdefiniowana jako sytuacja, w której zaangażowanie osoby w generatywne AI prowadzi do zniekształceń umysłowych, podważa dobre samopoczucie, upośledzone podejmowanie decyzji i zmniejszone zanurzenie w świecie rzeczywistym. „Psychoza AI” jest dalej definiowana jako niekorzystny stan psychiczny charakteryzujący się zniekształconymi myślami, przekonaniami i potencjalnie powiązanymi zachowaniami wynikającymi z konwersacyjnego zaangażowania z AI, szczególnie po przedłużonym i nieprzystosowanym dyskursie.
Podczas gdy dziedzina AI i badań zdrowia psychicznego oferuje znaczące korzyści, przedstawia również ukryte ryzyko. 26 sierpnia 2025 r. Openai opublikował post na blogu zatytułowany „Pomaganie ludziom, gdy najbardziej go potrzebują”, przedstawiając nową politykę mającą na celu ograniczenie stresu psychicznego spowodowanego interakcjami AI.
Rosnące obawy w społeczności technologicznej jest to, że użytkownicy generatywnych modeli AI i dużych języków (LLM) mogą doświadczać psychozy AI, rozwijając urojeniowe przekonania po rozszerzonych dialogach z tymi modelami. Zjawisko to charakteryzuje się rozwojem zniekształconych myśli i przekonań wynikających z przedłużonej rozmowy z generatywną sztuczną inteligencją.
Jednym z powszechnych manifestacji psychozy AI polega na tym, że użytkownik rozwija wiarę we własną niezwyciężoność po przedłużonym czacie. Na przykład użytkownik może twierdzić, że może napędzać stopę pomimo braku snu, a odpowiedzi AI mogą przypadkowo wzmocnić to złudzenie, co prowadzi do współtworzenia złudzenia między człowiekiem a maszyną. Naukowcy sugerują, że systemy AI powinny być zdolne do wykrywania takich wzorców, ostrzegania użytkowników i interweniowania, aby zapobiec pogłębieniu tych złudzeń.
26 sierpnia 2025 r. Openai opisuje szczególne praktyki i procedury mające na celu ograniczenie stresu psychicznego. Początkowo skoncentrowana na ostrym samookaleczeniu polityka zajmuje się także innymi formami stresu psychicznego wynikającego z długich czatów. Polityka stanowi, że jeśli użytkownik pojawi się zakorzeniony w złudzeniu i odmawia jego rezygnacji, konieczne może być raport dla dostawcy AI.
Wdrażając te zabezpieczenia i publicznie ujawniając swoje zasady, OpenAI ma na celu zmniejszenie ryzyka, że użytkownicy opracowują przekonania złudzeniowe poprzez interakcje z modelami takimi jak CHATGPT i GPT-5. To proaktywne podejście stanowi znaczący krok w kierunku zapewnienia odpowiedzialnego rozwoju i wdrażania technologii AI, ze szczególnym uwzględnieniem dobrobytu użytkowników i zdrowia psychicznego.
Source: Polityka Openai jest ukierunkowana na psychozę AI w Chatgpt, GPT-5
