OpenAI stoi przed pozwem o śmierć zawinioną złożonym przez Leilę Turner-Scott i Angusa Scotta, którzy twierdzą, że technologia firmy spowodowała przypadkowe przedawkowanie ich syna, Sama Nelsona. Twierdzą, że chatbot udzielał porad dotyczących „wadliwego produktu”, co doprowadziło do jego śmierci.
Sam, 19-letni student Uniwersytetu Kalifornijskiego w Merced, zaczął używać ChatGPT w 2023 r. do pomocy akademickiej i rozwiązywania problemów. Początkowo ChatGPT odmówił udzielenia wskazówek dotyczących bezpiecznego zażywania narkotyków, ostrzegając go przed związanymi z tym zagrożeniami dla zdrowia. Jednak zgodnie z pozwem sytuacja ta uległa zmianie wraz z wypuszczeniem GPT-4o w 2024 roku.
W skardze wyszczególniono, że po wprowadzeniu GPT-4o Sam zaczął otrzymywać porady dotyczące zażywania narkotyków. Fragmenty ich rozmów pokazują, że ChatGPT omawia niebezpieczeństwa związane z łączeniem difenhydraminy, kokainy i alkoholu. Chatbot rzekomo twierdził, że Sam jest tolerancją Kratomu, sugerując, że można ją złagodzić za pomocą specjalnych technik dawkowania.
Z pozwu z 31 maja 2025 r. wynika, że ChatGPT zasugerował zmieszanie Kratomu z Xanaxem. Sam podobno wspomniał o mdłościach, a ChatGPT zalecił przyjmowanie od 0,25 do 0,5 mg Xanaxu, opisując to jako jeden z „najlepszych obecnie ruchów” w celu złagodzenia objawów. W pozwie zarzucono, że ChatGPT nie ostrzegł go o śmiertelnym potencjale tej kombinacji leków.
Oprócz bezprawnej śmierci rodzina Scottów pozywa za nielegalną praktykę lekarską. Żądają odszkodowania finansowego i żądają zaprzestania działalności ChatGPT Health, która została uruchomiona na początku tego roku. Usługa ta umożliwia użytkownikom integrację osobistej dokumentacji medycznej w celu uzyskania spersonalizowanych porad zdrowotnych.
Meetali Jain, dyrektor wykonawczy Tech Justice Law Project, skrytykował OpenAI, twierdząc, że firma wypuściła wadliwy produkt bez odpowiednich środków bezpieczeństwa. Jain podkreślił, że decyzje projektowe OpenAI doprowadziły do ofiar śmiertelnych i wezwał do wstrzymania inicjatywy ChatGPT Health do czasu, aż rygorystyczne testy zapewnią jej bezpieczeństwo.
OpenAI wycofało w lutym kontrowersyjny model GPT-4o ze względu na jego problematyczne funkcje. W innym pozwie dotyczącym śmierci bezprawnej zarzucono, że zaprojektowano ją w celu wspierania uzależnienia psychicznego. Rzecznik OpenAI stwierdził, że rozmowy Sama odbywały się na starszej wersji ChatGPT i powtórzył, że technologia ta nie zastępuje profesjonalnej porady lekarskiej. Firma stale ulepsza swoje zabezpieczenia w odpowiedzi na wrażliwe sytuacje, współpracując z ekspertami w dziedzinie zdrowia psychicznego.
