AI se často stává i nástrojem zneužití, který může ničit životy teenagerů. Stačí jediná fotografie ze sociálních sítí, aby se z ní pomocí umělé inteligence stalo deepfake video či obrázek s devastujícími následky. Ve Spojených státech tento problém označují za „velkou digitální krizi“, která si vynutila nový zákon.
Jediná fotografie zveřejněná na sociálních sítích může v rukou útočníků díky umělé inteligenci (AI) proměnit život teenagera v noční můru. Pomocí dostupných nástrojů dokážou vytvořit realistické deepfake fotografie nebo videa, na nichž je oběť zobrazena například nahá. Tyto materiály se poté rychle šíří na sociálních sítích mezi vrstevníky, což může vést k nevratným škodám na psychice i dobré pověsti. Problém, který odborníci nazývají „velkou digitální krizí“, nabývá na závažnosti a nutí společnost hledat nová opatření. AI se tak stává i nástrojem, který někteří odborníci označují za novou nebezpečnou zbraň.
Podle amerického listu New York Post stačí k vytvoření takového obsahu jediná běžná fotografie, například profilový obrázek na Facebooku či snímek z narozeninové oslavy. „Mladí lidé, zejména dívky, nemusí dělat nic riskantního, jako je například pózování v plavkách nebo kliknutí na podezřelý odkaz. Stačí, že existuje jejich fotografie,“ uvedl Don Austin, superintendent školního obvodu v Palo Altu.
S rostoucí dostupností nástrojů pro tvorbu deepfake obsahu se problém stupňuje. Webové stránky nabízející tyto služby zaznamenaly v první polovině roku 2023 přes 200 milionů návštěv, což ukazuje na masivní rozměr nového fenoménu.
Devastující dopady na mladé lidi
Případy zneužití deepfake technologií nejsou ojedinělé. Ve školách po celých Spojených státech byly zaznamenány situace, kdy se falešné fotografie či videa šířily prostřednictvím skupinových chatů. Oběti, často teenageři, čelí ponižování ještě předtím, než se podaří prokázat, že obsah není reálný. „Než pravda vyjde najevo, škoda už je napáchána,“ konstatuje Austin. Psychické následky, včetně úzkostí, depresí či dokonce sebevražedných myšlenek, jsou v takových případech časté.
Josh Ochs, zakladatel organizace SmartSocial, která se zaměřuje na digitální bezpečnost rodin, zdůrazňuje nutnost prevence. „Rodiče musí být aktivní součástí digitálního života svých dětí. Než dají teenagerovi chytrý telefon nebo mu povolí sociální sítě, měli by s ním o rizicích mluvit – a to pravidelně,“ říká Ochs. Podle něj je klíčová také komunikace s pedagogy, studenty a širší komunitou, aby se povědomí o hrozbách deepfake technologií rozšířilo.
Boj proti digitální krizi
V reakci na rostoucí hrozbu přijímají úřady v USA razantní kroky. V létě 2023 podala kancelář městského zastupitelství v San Franciscu žalobu proti 16 webovým stránkám, které se podílely na tvorbě a šíření deepfake obsahu zneužívajícího děti. Tyto platformy byly obviněny z neoprávněného využívání fotografií a vykořisťování nezletilých.
Kromě toho byl před dvěma měsíci ve Spojených státech schválen zákon, který kriminalizuje nejen zveřejňování, ale i pouhou hrozbu šíření falešné explicitního obsahu vytvořeného pomocí AI bez souhlasu zobrazené osoby. Tento krok je považován za důležitý, ale odborníci varují, že legislativa sama o sobě nestačí.
Technologický pokrok nám přináší nejen výhody, ale i nové hrozby, proti nimž zatím neexistuje jednoduchá obrana. Realističnost deepfake obsahu roste a s ní i obtížnost odhalit manipulaci. „Musíme jednat rychle, protože tento problém může mít tragické následky,“ varuje Ochs. Kromě právních opatření je nezbytné vzdělávat mladé lidi i jejich rodiče o bezpečném chování na internetu. Například omezení zveřejňování osobních fotografií či používání soukromých profilů na sociálních sítích může snížit riziko zneužití.
Experti také apelují na technologické firmy, aby převzaly větší odpovědnost za šíření nástrojů pro tvorbu deepfake obsahu. „Je to závod s časem,“ dodává Austin.
V Česku zatím podobné případy nejsou tak rozšířené, ale odborníci varují, že s rostoucí dostupností AI technologií se může situace brzy změnit. Digitální krize ohrožuje především mladou generaci.
MOHLO BY VÁS ZAJÍMAT: Roboti by mohli do 10 let vyhladit lidstvo. Nejde o sci-fi, varují experti na AI
