Prieskum spoločnosti Kaspersky ukazuje rastúce znepokojenie vysoko postavených manažérov z postupného prenikania generatívnej umelej inteligencie (GenAI) do ich organizácií. Generatívna umelá inteligencia je typ umelej inteligencie, ktorá vytvára nové údaje, napríklad obrázky alebo text, učením sa z existujúcich údajov. Takmer všetci (95 %) opýtaní riaditelia firiem sú si vedomí, že zamestnanci GenAI pravidelne využívajú, a viac ako polovica (53 %) uviedla, že GenAI prakticky riadi chod niektorých obchodných oddelení. Rozsah týchto funkcií je taký, že 59 % vedúcich pracovníkov vyjadruje veľké obavy z možných bezpečnostných rizík, ktoré by mohli ohroziť citlivé firemné informácie a viesť k úplnej strate kontroly nad kľúčovými prevádzkovými funkciami.
GenAI, ktorá bola ešte nedávno považovaná za úplnú technologickú novinku, prenikla do bežného života a transformovala sa do výkonnej pracovnej sily, schopnej automatizovať a vykonávať obrovské množstvo úloh. Z prieskumu však tiež vyplýva, že vedúci pracovníci už stratili kontrolu nad nasadením, používaním a dohľadom nad GenAI. Iba 22 % opýtaných sa zaoberalo zavedením pravidiel a predpisov pre monitorovanie používania GenAI, hoci 91 % z nich uviedlo, že potrebujú lepšie porozumieť tomu, ako zamestnanci zachádzajú s internými dátami, aby ich ochránili pred kritickými bezpečnostnými rizikami a únikmi.
David Emm, hlavný bezpečnostný výskumník spoločnosti Kaspersky, hovorí: „Podobne ako používanie vlastných zariadení zamestnancov ponúka GenAI firmám obrovské výhody v oblasti produktivity. Naše zistenia zároveň ukazujú, že aj keď si vedúci pracovníci pochvaľujú jej zavádzanie v organizáciách, nemajú dostatočný prehľad o účele a rozsahu jej využitia. Rýchly vývoj GenAI v súčasnej dobe nevykazuje známky spomalenia, z čoho vyplýva, že čím dlhšie budú tieto aplikácie fungovať bez dozoru, tým ťažšia bude ich kontrola a zabezpečenie v rámci hlavných podnikových funkcií, ako sú HR, financie, marketing alebo dokonca IT.“
Aby mohla GenAI efektívne fungovať, spolieha na neustále učenie prostredníctvom dátových vstupov – akékoľvek dáta zadané zamestnancom do aplikácie sú okamžite prenesené mimo organizácie, podobne ako pri ich neúmyselnom vyzradení. Obavy vedenia firiem, že by tak mohlo dochádzať k únikom dát, sú reálne, pričom troch z piatich topmanažérov veľmi znepokojuje, že zamestnanci môžu pri zadávaní údajov do platforiem GenAI prezradiť citlivé firemné informácie.
Napriek týmto obavám z prieskumu vyplýva, že polovica manažérov stále plánuje využívať v budúcnosti GenAI a automatizovať repetitívne úlohy, ktoré ich zamestnanci v súčasnosti denne riešia. Ďalších 44 % naznačilo svoj zámer začleniť GenAI do svojich vlastných rutinných postupov za účelom zvýšenia produktivity. Bez ohľadu na bezpečnostné riziká prekvapivo štvrtina vedúcich pracovníkov uviedla, že chce pomocou GenAI automatizovať najmä činnosti oddelenia IT a kybernetickej bezpečnosti.
Emm dodáva: „Dalo by sa predpokladať, že obavy zo straty citlivých dát a straty kontroly nad kritickými podnikovými štruktúrami by mohli manažérov odradiť a prinútiť k väčšiemu zamysleniu sa nad ďalším postupom, naše zistenia však ukazujú, že takmer štvrtina šéfov firiem sa už teraz usiluje o prenesenie niektorých svojich dôležitých funkcií na umelú inteligenciu. Je preto potrebné, aby ďalšej integrácii GenAI do podnikového prostredia predchádzalo komplexné pochopenie správy dát a zavedenie efektívnych pravidiel pre bezpečné nakladanie s informáciami.“
Metodika: Prieskum vykonala spoločnosť Censuswide medzi 25. septembrom a 2. októbrom 2023, pričom oslovila 1 863 vysoko postavených vedúcich pracovníkov vo Veľkej Británii, Francúzsku, Nemecku, Španielsku, Taliansku, Rumunsku, Holandsku a Grécku.
