Žijeme v překotné době tvorby rychle se šířících AI‑generovaných videí, obrázků a deepfakes. Současné technologie schopné generovat zcela realistické záběry už nejsou omezeny na profesionální tvůrce, ale jsou dostupné komukoliv.
Jaké mají taková videa dopady na svět kolem nás i na nás samotné?
Odborníci popisují, že:
- během posledních dvou let se kvalita vizuálních deepfake výstupů dramaticky zvýšila,
- chyby, podle kterých bylo možné falešná videa identifikovat (např. nepřirozené mrkání, zvláštní mimika), mizí,
- velké technologické firmy (americké i čínské) mezi sebou soupeří o dominanci na poli generativní umělé inteligence.
Firmy jako Meta, Google, OpenAI, Baidu nebo Tencent se předhánějí v tom, kdo vytvoří „defaultní“ platformu, která se stane nepsaným standardem pro generování obsahu. To přináší otázku po regulaci, protože současné právní rámce nestačí držet krok s dobou.
Engagement farming: nová ekonomika pozornosti
Jedním ze stěžejních témat spojených se sociálními sítěmi je pojem „engagement farming“ — tedy produkce obsahu, jehož jediným cílem je maximalizovat interakce:
- virální „šoková“ videa,
- emocionálně nabitý obsah (strach, hněv, pobouření),
- vizuálně atraktivní a extrémní obrázky, často generované umělou inteligencí.
Tento obsah se šíří všude na sociálních sítích, ale najdete ho i na alternativních zpravodajských webech a, bohužel, už známe případy, kdy falešné fotky a videa šířili politici a převzala je i tzv. klasická média.
Tvůrci přitom často nejsou motivováni politicky — dělají to kvůli získání pozornosti, lajku, či zisku z reklamy, případně kvůli růstu vlastních kanálů. Jenže cesta k zisku nechtěně podporuje šíření manipulací.
V pořadu OTARIO TODAY s názvem AI video — What are the real-world consequences for you?kanadské rozhlasové stanice CBC krom názorů odborníků zazněly též kritické hlasy posluchačů:
Your stories trying to navigate the online space as images and video generated by artificial intelligence multiply exponentially. Our guest for the hour is Philip Mai, executive director and senior researcher at the Social Media Lab at Toronto Metropolitan University. We also hear from CBC’s Christian Paas-Lang who works at CBC’s Visual Investigations Unit.
Několik posluchačů zde sdílí osobní zkušenosti s tím, co ve skutečnosti s lidmi dělá přemíra obrazu a videa:
- Jeden volající mluví o tom, že ztratil přehled o tom, co je skutečné, a že některá falešná videa na něj měla silný emoční dopad.
- Jiný popisuje, že mu deepfake obsah rozkládá vztahy v rodině, protože jeho blízcí věří věcem, které jsou ve skutečnosti uměle vyrobené.
- Další posluchač říká, že sociální média změnila jeho vnímání světa natolik, že se cítil úzkostný, izolovaný a odpojený od reality.
Tato svědectví podporují hlavní tezi pořadu: „Deepfake obsah neovlivňuje jen to, co si myslíme, ale také to, jak se cítíme.“
Politický dopad: eroze demokracie a manipulace veřejným míněním
Odborníci upozorňují, že:
- deepfakes jsou stále častěji využívány v politických kampaních,
- mohou být vytvořeny tak, aby přesně ladily s předchozími názory určité skupiny — a posouvaly je ještě dál,
- jde o silný nástroj pro polarizaci společnosti,
- tyto technologie mohou podkopávat důvěru v demokratické instituce, protože lidé přestávají věřit i skutečným záznamům.
Falešná videa mohou být použita k tomu, aby:
- poškodila kandidáta nebo politickou stranu,
- vyvolala strach z migrantů, menšin nebo geopolitických protivníků,
- podpořila příklon k násilí a vyvolala nenávits,
- zasela nedůvěru ve státní média, veřejné služby a neziskové organizace.
Ve výše zmíněném rozhlasovém pořadu zazní i srovnání s klasickou propagandou: rozdíl je zejména v rychlosti → „dnes se dezinformace šíří rychleji než pravda“.
Role sociálních sítí: algoritmy preferují extrémní obsah
Výzkumníci vysvětlují, že sociální sítě fungují na principu:
„Čím silnější emocionální reakce, tím více algoritmus video posune dál.“
To znamená:
- uživatelé vidí obsah, který v nich vyvolává vztek, pobouření nebo strach,
- algoritmy tím posilují extrémní postoje,
- uživatel postupně ztrácí kontakt s obsahem, který jeho názory vyvažuje.
Sítě tedy nejsou neutrální — podporují radikalizaci.
Praktické problémy: fact‑checking nestačí, běžní lidé jsou zahlceni
Moderátor pořadu AI video — What are the real-world consequences for you? se několikrát ptá, co je řešením. Odborníci upozorňují:
- fact‑checking přichází pozdě,
- falešná sdělení už jsou mezitím milionkrát sdílena,
- digitální gramotnost zdaleka nedrží krok s technologickým vývojem,
- starší uživatelé nebo ti méně zkušení s technologiemi jsou „snadný cíl“.
Ukazuje se také, že neexistuje žádná účinná a rychlá legislativa — a ani globální dohoda o tom, jak deepfakes regulovat.
Návrhy řešení: vzdělávání, ověřovací nástroje, regulace a osobní zodpovědnost
Odborníci navrhují víceúrovňový přístup:
A) Digitální gramotnost
- učit děti i dospělé, jak rozpoznat umělou manipulaci,
- porozumět principu algoritmů, které určují obsah.
B) Transparentní technologie
- budování nástrojů, které označí AI‑vytvořený obsah,
- vytváření databází rozpoznaných padělků.
C) Legislativní opatření
- společná regulace na úrovni států,
- tlak na platformy, aby identifikovaly a blokovaly manipulativní obsah.
D) Uživatelé jako první linie obrany
- omezit nebo přímo odmítnout sledování krátkých videí,
- učit se zastavit se a ověřovat si fakta,
- nereagovat na emoce, která v nás mají falešná videa a fotky vyvolat,
- naučit se rozpoznávat „podezřele přesný“ obsah, který se až příliš zapadá do našich předsudků,
- přijmout fakt, že s námi majitelé velkých sociálních sítí nehrají čistou hru a nechrání nás před falešným obsahem, ale naopak umožňují jeho nárůst,
- pochopit, že mnoha uživatelům sociálních sítí jde na prvním místě o peníze a neváhají pro pozornost a zisk udělat cokoli nekalého,
- naučit se žít i mimo internet, scházet se s lidmi a věnovat se činnostem, při kterých nemáte čas pobývat na internetu,
- podporovat vzdělávací platformy a občanské iniciativy, které napomáhají bezpečnosti na internetu a rozvoji demokracie.
Existenciální rovina tématu: realita vs. konstrukce
Rozhlasový pořad AI video — What are the real-world consequences for you? několikrát naráží i na hlubší otázku:
- co vlastně znamená „pravda“ v době, kdy lze obraz i zvuk libovolně vytvořit,
- jak může člověk udržet stabilní názorový rámec, když se realita rozplývá v záplavě digitálních podvrhů.
Někteří volající říkají, že se už naučili „nevěřit ničemu“, což je samo o sobě nebezpečné — nihilismus je také cesta k manipulaci.
Závěr: AI nás staví před historicky novou výzvu
Na konci pořadu se všichni shodnou na zásadním poselství:
AI mění způsob, jakým vnímáme svět, rychleji, než se společnost dokáže adaptovat.
Deepfake videa:
- ovlivňují emoce,
- formují politiku,
- narušují společenskou soudržnost,
- komplikují rodinné vztahy,
- a mohou mít velmi reálné dopady na bezpečnost, volební procesy i mezilidskou komunikaci.
Rozhlasová diskuse s odborníkem a posluchači končí výzvou k bdělosti, kritickému přemýšlení a nutnosti dlouhodobých systémových řešení.
Jak se bránit?
Odborníci doporučují:
- digitální a mediální gramotnost od školního věku,
- ověřování informací,
- využívání fact-checkingových nástrojů,
- rozpoznávání vizuálních a hlasových znaků deepfake obsahu,
- výraznější regulaci velkých technologických firem.
Podcast & blog by Pepik Hipik & Knižní kočka 