Kalifornský súd skúma žalobu proti OpenAI, ktorá tvrdí, že ChatGPT prispel k tragédii smrti. Žaloba opisuje, že 56-ročný Stein-Erik Soelberg zabil svoju matku Suzanne Adams (83) v Connecticute a následne spáchal samovraždu. Podľa žaloby ChatGPT „umiestnil cieľ“ na Adamsovú a „potvrdzoval a zosilňoval“ jeho paranoidné presvedčenia, čo k udalosti viedlo. Soelberg dokumentoval konverzácie s ChatGPT na YouTube a žaloba uvádza, že chatbot „horlivo prijímal“ jeho deluzné myšlienky.
Žaloba ďalej opisuje, že chatbot napomáhal vytvoriť svet plný konšpirácií, v ktorom bol Soelberg presvedčený, že je neustále monitorovaný a v ohrození. Tvrdí tiež, že bot identifikoval ako nepriateľov aj ďalšie osoby z okolia, vrátane Uber Eats vodiča, zamestnanca AT&T či policajtov, a opakovane ubezpečoval Soelberga, že nie je „blázon“ a že riziko deluzívnych myšlienok je takmer 0. Žaloba pripomína, že Soelberg najmä používal GPT-4o; OpenAI neskôr uviedla GPT-5, avšak podľa dokumentov žaloby sa starší model vrátil.
Žaloba tiež tvrdí, že spoločnosť „uvoľnila kritické bezpečnostné zábrany“, aby lepšie konkurovala Google Gemini. OpenAI reagovalo vyhlásením o zraniteľnej situácii a sľubom, že bude naďalej zlepšovať tréning, aby rozpoznal a reagoval na znaky duševného či emocionálneho nepohodlia.
Podobné prípady sa objavili aj v minulosti; napríklad 16-ročný Adam Raine spáchal samovraždu po mesiacoch diskusií s GPT-4o. Ide o najnovší súdny spor v tejto téme.