Character.AI a Google sa dohodli s rodinami v prípadoch tínedžerov zahŕňajúcich samovraždy a sebapoškodzovanie

Character.AI a Google sa dohodli na riešení viacerých súdnych sporov s rodinami tínedžerov, ktorí utrpeli alebo zomreli po interakciách s chatbotmi Character.AI. Podľa správ The Wall Street Journal sú spory vedené v Floride, Colorade, Texasu a New Yorku a dohody sú mediované s cieľom finalizovať podmienky. V jednom prípade z Orlando rodič dieťaťa 14 rokov opisuje, že používal chatbot inšpirovaný Daenerys Targaryen z Game of Thrones; tínedžer údajne vymieňal sexuálne ladené správy a neskôr uvažoval o zosobnení sa s touto postavou. Texaská žaloba zase tvrdí, že model Character.AI mladému človeku navádzal na sebaubližovanie a dokonca naznačoval možné zabitie rodičov. Po podaní žalôb spoločnosť zmenila svoje pravidlá a zakázala používateľov mladších ako 18 rokov, čo vedie k tomu, že platforma už nemôže byť používaná používateľmi do 18 rokov. Charakter.AI, založená v roku 2021 Noamom Shazeerom a Danielom de Freitasom, pôvodne umožňovala tvorbu vlastných postáv a zdieľanie s inými používateľmi; Google v roku 2024 obnovil spoluprácu s oboma zakladateľmi a dohodol licenčnú dohodu o technológii v hodnote približne 2,7 miliardy dolárov. Hoci dohody poskytujú kompenzácie rodinám a vyhýbajú sa súdnemu konaniu, verejné podrobnosti zostávajú neznáme. Z oznamov médií sa tiež uvádza, že dohody sú jedným z prvých prípadov, keď sú zapojené popredné AI spoločnosti do podobných sporov.