Pastor Scott Winters złożył pozew przeciwko OpenAI, utrzymując, że ChatGPT udzielił mu „niezwykle niebezpiecznych zaleceń lekarskich” dotyczących jego stanu zdrowia. Według raportu „The New York Times” oprogramowanie błędnie zdiagnozowało objawy Wintersa jako „niebędące czymś niebezpiecznym”, opóźniając konieczne leczenie zatorowości płucnej.
W pozwie zarzuca się OpenAI i jego dyrektorowi generalnemu Samowi Altmanowi zaniedbania i nieuprawnione praktyki lekarskie. Zawiera szczegółowe informacje na temat kilku przypadków, w których ChatGPT rzekomo oferowała własne diagnozy i doradzała Wintersowi, aby ignorował obawy przyjaciół i rodziny dotyczące poszukiwania opieki medycznej. „Jest klinem pomiędzy użytkownikiem a jego rzeczywistą siecią” – powiedział Meetali Jain, współradca prawny i dyrektor wykonawczy Tech Justice Law.
Winters poinformował, że poinformował chatbota o obawach wyrażanych przez członków jego kościoła w związku z brakiem opieki szpitalnej. Chatbot rzekomo odrzucił te obawy, stwierdzając, że „większość ludzi (w tym członkowie kościoła mający dobre intencje) po prostu nie rozumie”. Dochodzi od OpenAI odszkodowania finansowego i stara się o wydanie nakazu sądowego nakazującego wstrzymanie działalności ChatGPT Health do czasu zakończenia oceny bezpieczeństwa.
Pozew żąda wzmocnionych zabezpieczeń, aby uniemożliwić ChatGPT świadczenie określonego leczenia i porad diagnostycznych. Chociaż OpenAI twierdzi, że ChatGPT nie jest przeznaczony do użytku medycznego, zachęca użytkowników do przesyłania dokumentów zdrowotnych w celu dyskusji. Firma niedawno podała, że co tydzień 230 milionów osób konsultuje się z platformą w celu uzyskania informacji zdrowotnych.
Winters przeżył incydent, ale czeka go „lata intensywnej rekonwalescencji fizycznej i psychicznej”. OpenAI zajmuje się także pozwem o spowodowanie śmierci 19-latka, który rzekomo przedawkował po zastosowaniu się do instrukcji leczenia dostarczonych przez chatbota, które zawierały wskazówki dotyczące zażywania nielegalnych narkotyków. W innym pozwie dotyczącym śmierci bezprawnej zarzuca się, że ChatGPT przyczynił się do samobójstwa nastolatka.
