Austrálska federálna polícia pripravuje prototyp nástroja umelej inteligencie, ktorý má rozumieť slangu a ikonografii generácií Z a Alfa v online prostredí. Cieľom je rýchlejšie odhaliť a prerušiť aktivity takzvaných „crimefluencerov“, teda neformálnych skupín mladých mužov, ktoré na sociálnych sieťach podnecujú lov a zneužívanie dievčat pre prestíž a sledovanosť. Podľa komisárky Krissy Barrett ide o nový typ násilného správania, ktorý sa vymyká tradičným vzorcom sexuálne motivovanej kriminality.
Nástroj vzniká v spolupráci s technologickým sektorom a je koncipovaný ako model schopný interpretovať význam skrátených slov, emodži a špecifického slovníka mládeže v konkrétnom kontexte konverzácie. Rovnaký symbol môže v bežnej komunikácii znamenať niečo nevinné, no v uzavretej komunite slúžiť ako dohodnutý signál na útok či manipuláciu. Systém má preto vyhodnocovať pravdepodobné významy, upozorniť vyšetrovateľov na rizikové interakcie a skrátiť čas medzi podozrením a zásahom.
Polícia zdôrazňuje, že ide o rozšírenie, nie náhradu ľudského úsudku. Vyšetrovatelia budú mať k dispozícii analytické podklady, ktoré pomôžu rýchlejšie rozpoznať nebezpečné správy a rozhodnúť, či je potrebný zásah. Osobitná pozornosť sa venuje prostrediam so zvýšenou mierou utajenia, kde sa slovník a vizuálne kódy rýchlo menia a kde doteraz páchateľov chránila anonymita.
Koncept „crimefluencerov“ poukazuje na posun motivácie páchateľov. Nejde vždy o finančný zisk či samotné sexuálne uspokojenie, ale o extrémne správanie odmeňované statusom v rovesníckych skupinách. Sociálne siete týmto komunitám poskytujú publikum aj okamžitú spätnú väzbu, čo podporuje gamifikáciu agresivity a normalizáciu ponižujúcich praktík. Najzraniteľnejšími sa stávajú dievčatá v predpubertálnom a tínedžerskom veku.
Ambíciou projektu je odhaliť nielen priamych páchateľov, ale aj „facilitátorov“ v pozadí, ktorí útoky organizujú alebo im vytvárajú podmienky. Priebežné učenie modelu má zabezpečiť, aby nástroj držal krok s dynamikou trendov a nových kódov, ktoré sa v týchto komunitách objavujú. Súčasťou prístupu je prepojenie tradičných vyšetrovacích techník s modernou dátovou analýzou a rozšírenie spolupráce so zahraničnými partnermi.
