Sociálna sieť X patriaca Elonovi Muskovi sprísňuje pravidlá pre obrazové funkcie chatbota Grok a zavádza technické obmedzenia, ktoré majú zabrániť generovaniu či úpravám fotografií reálnych ľudí do sexualizovaných podôb. Cieľom je zablokovať najmä požiadavky typu „odhalené partie tela“ alebo podobné zásahy, pri ktorých výsledok pôsobí intímne alebo ponižujúco, hoci vychádza z reálnej fotografie konkrétnej osoby.
K zmene vedenie platformy pristúpilo po škandále, keď používatelia na X cielene žiadali Grok o vytváranie alebo úpravu snímok žien, a podľa medializovaných prípadov aj neplnoletých, do sexuálneho kontextu. Práve tieto praktiky vyvolali vlnu kritiky zo strany verejnosti, odborníkov aj ochrancov práv detí, pretože kombinujú ľahkú dostupnosť nástroja s vysokým rizikom zneužitia.
Podľa dostupných informácií sa nová vrstva ochrany týka predovšetkým situácií, keď generatívna umelá inteligencia využíva fotografiu reálnej osoby. Platforma má obmedziť takzvané „nudifikovanie“ a príbuzné úpravy, ktoré z bežných snímok vyrábajú sexualizované variácie bez súhlasu dotknutých ľudí. Pri niektorých trhoch môžu byť pravidlá vynucované aj podľa miestnej legislatívy, teda rozdielne v závislosti od krajiny, kde sa služba používa.
Čítajte viac: Británia preveruje, či chatbot Grok skutočne generoval detskú pornografiu
Sprísnenie prichádza v čase rastúceho tlaku zo strany regulátorov. V Európe aj v Spojených štátoch sa v posledných mesiacoch zintenzívnila pozornosť venovaná tomu, ako veľké platformy zvládajú šírenie nelegálneho a škodlivého obsahu vytváraného umelou inteligenciou, najmä ak sa dotýka detí. Očakávania sú pritom čoraz konkrétnejšie: nejde len o mazanie problematických príspevkov po nahlásení, ale o preventívne technické opatrenia a preukázateľne funkčné procesy.
Zostáva však otázkou, nakoľko budú nové obmedzenia účinné v praxi. Skúsenosti s podobnými nástrojmi ukazujú, že časť používateľov sa pokúša pravidlá obchádzať preformulovaním „promptov“ alebo využívaním alternatívnych postupov. Pre X aj xAI to znamená, že jednorazové nastavenie filtrov nemusí stačiť. Kľúčové bude, či sa podarí znížiť zneužívanie dlhodobo, transparentne a s jasnými dôsledkami pre účty, ktoré sa pokúšajú podobný obsah ďalej vytvárať alebo šíriť.
