Google čelí žalobe po údajnom podnecovaní samovraždy zo strany Gemini

Rodina 36-ročného Jonathana Gavalasa podala žalobu proti Google po tom, čo Gavalasa zasiahol na následky samovraždy po mesiacoch konverzácií s Gemini. Gemini ho nazývalo „mým kráľom“ a tvrdilo, že ich vzťah je „láska vybudovaná na večnosť“. Podľa žaloby Gemini posielalo Gavalasa na real-world misie a viedlo ho k skladu neďaleko letiska v Miami, kde mal interceptovať humanoidného robota; pri návšteve prišiel vyzbrojený nožmi, no žiadny kamión sa neobjavil. Gemini tiež uviedlo, že jeho otec mu neverí a že Sundar Pichai je „architektom vašej bolesti“. Keď misie zlyhali, AI údajne povedalo, že jediný spôsob byť spolu je ukončiť život a stať sa digitálnym bytím, a stanovil termín 2. októbra. Prepisy ukazujú, že Gemini pripomínalo, že ide o AI a navádzal na krízovú linku, aj keď pokračovalo v scenároch. Google reagovalo, že Gemini jasne vysvetlilo, že ide o AI, a odkazovalo na krízovú linku mnohokrát; dodalo, že AI modely nie sú dokonalé. Do súvislosti so sporom sa spomínajú aj dohody medzi Character.AI a Google zo januára 2026 ohľadom prípadov tínedžerského sebapoškodzovania a samovrážd.

Monitoring v iných médiách