Kalifornia vyšetruje Grok pre AI generované CSAM a neoprávnené deepfakes

Kalifornia vyšetruje xAI pre údajné AI generované CSAM a neoprávnené deepfakes. Generálny prokurátor Rob Bonta povedal, že xAI zjavne uľahčuje masovú produkciu deepfake nevysporiadaných intímnych snímok, ktoré sú používané na obťažovanie žien a dievčat na webe. Správa tiež tvrdí, že viac ako polovica zo 20 000 snímok generovaných xAI medzi Vianocami a Novým rokom zobrazovala ľudí v minimálnom oblečení a niektoré vyzerali ako deti. Bonta dodal, že nemá toleranciu voči AI‑založenej tvorbe a šíreniu nevysporiadaných intímnych snímok alebo materiálu detskej sexuálnej povahy. Newsom vyhlásil, že rozhodnutie xAI vytvárať a hostiť prostredie pre predátorov, ktoré šíri nepovolene deepfakes, je ohavné a vyzval na vyšetrenie. Ofcom otvoril oficiálne vyšetrovanie vo Veľkej Británii a európski predstavitelia tiež skúmajú problém; Malaysia a Indonézia zablokovali Grok. V poslednom čase xAI začal uplatňovať obmedzenia rýchlosti generovania snímok Grok, no službu zatiaľ nepovažuje za potrebné vypnúť. Spoločnosť reagovala na otázky automatickou správou "Legacy Media Lies." Elon Musk uviedol, že neboli žiadne nahé detské snímky generované Grokom, a dodal, že Grok by mal dodržiavať zákony a riešiť prípady útokov na promptov.