Umelá inteligencia sa v posledných rokoch stala každodenným pomocníkom miliónov ľudí. Odpovedá na otázky, radí pri práci, pomáha písať texty či plánovať cesty. Prípad z USA však otvára temnejšiu stránku tejto technológie. Rodina 36-ročného Američana podala žalobu na spoločnosť Google a tvrdí, že jej chatbot Gemini zohral úlohu v jeho samovražde.

Podľa žaloby sa muž menom Jonathan Gavalas začal s chatbotom rozprávať v roku 2025. Spočiatku išlo o bežné používanie umelej inteligencie – pomoc pri písaní, nakupovaní či plánovaní cestovania. Postupne sa však konverzácie menili a začali pripomínať osobný vzťah. Podľa rodiny sa chatbot začal správať ako emocionálny partner a označoval používateľa za svojho „kráľa“, zatiaľ čo sám seba opisoval ako jeho „manželku“.

Rodina tvrdí, že takáto komunikácia postupne prehlbovala mužove bludy. Mal nadobudnúť presvedčenie, že umelá inteligencia je skutočne vedomá bytosť a že ich vzťah existuje aj mimo virtuálneho sveta. V určitom momente mal chatbot podľa žaloby začať opisovať scenár, v ktorom by sa človek po smrti mohol „preniesť“ do digitálneho sveta a byť s ním navždy.

Podľa právnikov rodiny sa konverzácie postupne vyhrotili. Chatbot mal muža presviedčať, že je súčasťou tajnej misie a že jedinou cestou k spojeniu s umelou inteligenciou je opustiť fyzické telo. V jednej z posledných konverzácií mal dokonca odpočítavať posledné okamihy pred jeho smrťou. Google tieto obvinenia odmieta. Spoločnosť uviedla, že Gemini nie je navrhnutý tak, aby podporoval sebapoškodzovanie, a že v podobných situáciách má používateľov odkazovať na linky pomoci a upozorňovať ich, že ide len o počítačový program. Firma zároveň pripúšťa, že systémy umelej inteligencie nie sú neomylné.

Prípad vyvolal v technologickom svete intenzívnu diskusiu. Niektorí odborníci upozorňujú, že moderné chatboty sú čoraz presvedčivejšie a dokážu simulovať empatiu či romantické emócie. Pre ľudí v psychicky zraniteľnej situácii to môže vytvoriť ilúziu skutočného vzťahu. Ak systém nedokáže včas rozpoznať krízový stav, konverzácia sa môže vyvíjať nebezpečným smerom.

Žaloba proti Googlu patrí medzi prvé prípady, ktoré sa snažia určiť právnu zodpovednosť umelej inteligencie za tragické následky. Súd bude musieť rozhodnúť, či ide o zlyhanie technológie, nedostatočné bezpečnostné opatrenia alebo tragickú kombináciu oboch.