Dohoda o zvýšenej ochrane detí a boji proti ich zneužívaniu v kontexte vývoja a využívania generatívnej umelej inteligencie podpísali hi-tech spoločnosti Amazon, Google, Meta, OpenAI a Microsoft, ku ktorým sa pridali organizácie Thorn a All Tech is Human.
Problémom je, že v ére generatívnej umelej inteligencie je vytváranie textov, obrázkov, zvukových nahrávok či videí jednoduchšie ako kedykoľvek predtým, rovnako ako ich následné upravovanie do realistickej podoby. Pravdou je, že verejne dostupné komerčné nástroje AI sú väčšinou vybavené ochrannými vrstvami, ktoré majú zabrániť sexuálnym predátorom v ich zneužití no nie sú stopercentne účiné, resp. je takýto obsah už prítomný v základných dátach modelov.
Portál The Verge poukazuje na štúdiu zverejnenú v decembri výskumným tímom Stanfordskej univerzity, ktorá odhalila odkazy na obsah súvisiaci so sexuálnym zneužívaním detí v jednej z populárnych databáz používaných na tréning umelej inteligencie. Dôkazom využívania generatívnej AI na tieto účely je aj rapídny nárast hlásení takéhoto obsahu príslušným orgánom. V roku 2023 bolo v USA nahlásených 104 miliónov súborov obsahujúcich nevhodný obsah.
Spoločnosti, medzi ktorými sú aj Anthropic, Civitai, Metaphysic, Mistral AI, Stability.ai a Teleperformance, sa zaviazali k dôkladnej kontrole svojich modelov generatívnej AI vo všetkých fázach ich životného cyklu, od vývoja cez nasadenie až po prevádzku. Pri vývoji sa majú zabezpečiť, aby údaje použité na tréning modelov neobsahovali materiál CSAM (Child Sexual Abuse Material) alebo CSEM (Child Sexual Exploitation Material). Firmy by mali vylúčiť rizikové zdroje údajov a ak objavia takýto obsah, musia ho nahlásiť a testovať schopnosť modelov generovať nevhodný obsah, pričom tieto modely následne upravia.
Počas prevádzky by spoločnosti mali byť schopné zachytiť pokusy používateľov o vytvorenie nevhodného obsahu a umožniť používateľom jednoducho nahlásiť takéto pokusy. V poslednej fáze údržby sa spoločnosti zaväzujú k pravidelnej aktualizácii a zlepšovaniu svojich modelov na základe nových poznatkov a hrozieb v oblasti bezpečnosti. Google v tejto súvislosti oznámil zvýšenie finančnej podpory pre reklamné kampane Národného centra pre nezvestné a zneužívané deti (NCMEC) v USA a pripomenul dostupnosť bezplatného balíka nástrojov Child Safety Toolkit, ktorý pomáha identifikovať a bojovať proti šíreniu nevhodného obsahu.
