Pornografie bez souhlasu: Nový trend ukazuje na vážný problém s umělou inteligencí

Na sociální síti X se objevila nová funkce umělé inteligence Grok, která umožňuje generovat explicitní snímky běžných uživatelů. Případ 25leté Kendall, která narazila na svou polonahou fotku vytvořenou Grokem, ukázal, jak realistické mohou tyto obrázky vypadat. "Tohle nejsem já," reagovala Kendall na nalezený snímek, přičemž její reakce odráží širší problém, se kterým se uživatelé čelí. Funkce Groku se v prvním týdnu nového roku stala virální a vyvolala pozornost po celém světě. Některé země dokonce začaly platformu vyšetřovat a zakazovat. Evropská komise nyní zkoumá, zda společnost X dodržela evropské regulace týkající se ochrany uživatelů. Majitel platformy Elon Musk nejprve reagoval na situaci s úsměvy, ale později oznámil změny ve funkcích Groku, včetně zablokování generování explicitních obrázků v zemích, kde je to nelegální.

Studie ukázaly, že během 11 dnů Grok vytvořil 3 miliony sexualizovaných obrázků, včetně 23 tisíc dětí. Častými cíli těchto útoků jsou známé ženy, což potvrzuje i psycholog Dean Fido. Výzkum ukázal, že 98 % pornografických deepfake videí zobrazuje ženy. Generátory umělé inteligence, jako je Grok, umožňují uživatelům vytvářet a šířit sexualizované obrázky bez souhlasu, což je považováno za závažný zásah do soukromí obětí.

Ačkoli některé země zavedly zákony proti této praxi, generativní umělá inteligence situaci zhoršuje. Například v České republice hrozí za tvorbu falešné pornografie až dva roky vězení. Mnozí uživatelé si neuvědomují, jaké to může mít následky na oběti, které se často bojí o svá práva a soukromí. Grok a podobné technologie tak vrhají stín na otázku ochrany žen před online násilím a zneužíváním, což je problém, který se stále více dostává do popředí veřejné debaty.