Technologie umělé inteligence se vyvíjí a stejně jako může být užitečná v boji proti dezinformacím, je také účinná při jejich vytváření a šíření.
Slovensko i Česká republika již mají s deepfake obsahem své negativní zkušenosti. O co však jde a na co si dát v případě obsahu vytvářeného umělou inteligencí pozor?
Deepfake obsah je na vzestupu a je stále sofistikovanější. Nemusí se šířit jen v prostoru sociálních médií a zranitelné jsou prakticky všechny sféry společnosti. Nástroje k jeho vytváření jsou relativně snadno dostupné komukoli – jde jen o to, kdo využije možností generativní umělé inteligence (AI).
Vzhledem k rostoucí kvalitě a dostupnosti deepfake obsahu je rozeznávání reality od fikce stále náročnější. Největší nebezpečí představuje možnost šíření falešných informací, které předstírají, že pocházejí z důvěryhodných zdrojů. V sázce je mimo jiné ohrožení demokratických procesů a integrity voleb.
Šíření dezinformací a manipulativního obsahu způsobilo v posledních letech nezdravou polarizaci společnosti, vedlo k oslabení důvěry v instituce a média a stálo za nárůstem toxicity v informačním prostoru. Současně si pevně upevnil pozici účinného nástroje politiků k mobilizaci voličů. Deepfake obsah posouvá tento boj o srdce a mysl lidí na novou úroveň.
Na závažnost tohoto problému upozornil před parlamentními volbami v roce 2023 na Slovensku také Národní bezpečnostní úřad (NSA). Varování NSA se nakonec potvrdila a v období před volbami jsme byli svědky několika pokusů o ovlivnění veřejného mínění prostřednictvím deepfake obsahu.
Vykonstruovaný rozhovor předsedy Progresivního Slovenska Michala Šimečky s novinářkou Denníku N Monikou Tódovou však jistě nebude posledním produktem umělé inteligence, která se snaží manipulovat společností ve slovenském prostoru. Vždyť se blíží volby do Evropského parlamentu a slovenské prezidentské volby.
Co je to deepfake obsah?
Podstatou deepfake obsahu je zavádějící a neautentický obsah, který může mít zvukovou i vizuální podobu. Případně se jedná o kombinaci obojího v podobě videí, jejichž hrozba v současné době rezonuje nejvíce. Ačkoli tvorba falešného obsahu není v žádném případě novinkou, deepfakes využívají techniky strojového učení a umělé inteligence k syntéze nebo generování obsahu, který může publikum klamat efektivněji.
Slovo „deep“ pochází z termínu „hluboké učení“, což je metoda trénování počítačů a umělé inteligence na obrovském množství dat tak, aby prováděly úkoly podobné lidským. „Falešný“ znamená, že jde o uměle vytvořená média, která je obtížné odlišit od těch, která vytvořil člověk.
Zjednodušeně řečeno, deepfake videa navenek napodobují vzhled a hlas osoby, aby předaly falešnou informaci nebo zprávu vytvořenou útočníkem. Nejčastější použití této technologie spočívá v nahrazení obličeje a hlasu osoby na videu obličejem a hlasem někoho jiného. Toho lze využít k vytvoření přesvědčivých videí, která vyvolávají dojem, že daná osoba říká nebo dělá něco, co ve skutečnosti nikdy neřekla nebo neudělala.
Vytváření deepfake videí je snadné zejména pro veřejně známé osoby. K jejich vytvoření je totiž nutné mít k dispozici banku vizuálních (fotografie, videa atd.) nebo zvukových dat (např. zvukové nahrávky), se kterými pak umělá inteligence pracuje.
Buď se zaměřuje na syntézu různých obsahů (manipuluje s nimi kombinováním a porovnáváním), nebo je vycvičen pomocí neuronových sítí k vytváření zcela nového neautentického obsahu. Tento proces zahrnuje zdokonalování umělé inteligence v napodobování nejen řečových vzorů a intonace, ale také podoby, vlastností a výrazu tváře konkrétních osob.
Při vytváření a zdokonalování deepfake obsahu se používají především dva algoritmy – generátor a diskriminátor. Generátor generuje sadu natrénovaných dat na základě požadovaného výstupu, čímž vytváří počáteční falešný digitální obsah. Diskriminátor analyzuje, nakolik je počáteční verze obsahu realistická nebo falešná. Tento proces se opakuje, čímž se generátor zlepšuje ve vytváření realistického obsahu a diskriminátor se zdokonaluje v odhalování chyb.
Používání a hrozba deepfake technologií
Oblasti, v nichž lze deepfake technologie využít, se liší, stejně jako motivace jejich tvůrců. Klíčová je však buď snaha o finanční zisk, nebo sledování politických zájmů. Patří sem i hybridní hrozby, kdy se deepfake obsah postupně stává součástí propagandy nebo jiných hybridních akcí jiných států s cílem poškodit cíl. V takovém případě může aktér podkopávat důvěru v demokracii nebo tradiční média, polarizovat společnost, ovlivňovat volby nebo zpochybňovat zahraničněpolitickou orientaci daného státu.
Deepfake obsah také velmi úzce souvisí s problematikou narušení soukromí, kyberšikany nebo obtěžování. Je také dokonalým nástrojem pro podvodníky, kteří mohou pomocí vygenerovaných klonů důvěryhodných osob (např. přátel nebo rodiny) požadovat zaslání peněz. Jednoduše použijí neautentický zvuk během telefonního hovoru s nic netušící obětí.
Některé webové stránky umožňují zákazníkům zakoupit deepfake pornografii s osobami podle vlastního výběru. V jiných případech zločinci kombinují veřejně dostupné fotografie nic netušících lidí, celebrit nebo dokonce nezletilých s pornografickými snímky a videi a používají je k vydírání nebo pomstě.
Jak se bránit a na co si dát pozor?
V současné době se obecně uznává, že v online prostoru bychom měli být co nejvíce ostražití, pokud jde o naši důvěru ve zdroje a informace, které přijímáme. Kvalita a možnosti deepfake obsahu se zvyšují a v některých případech se bez specializovaného softwaru stávají nerozeznatelnými od reality. Přesto existuje několik klíčových doporučení, která mohou pomoci při jeho identifikaci.
Při snaze rozlišit deepfake obsah bychom se měli zaměřit nejen na audiovizuální složku, kterou slyšíme a vidíme, ale také na samotný obsah a kontext. Motivací tvůrců deepfake videí je často vyvolat emoce, strach, nejistotu nebo pobouření. Skandální, těžko uvěřitelné nebo nečekané výroky mohou samy o sobě naznačovat, že jde o deepfake. To platí zejména v kritických okamžicích demokratických procesů nebo v době krize.
Po audiovizuální stránce odborníci obecně doporučují všímat si zejména zvláštních nebo nepravidelných pohybů obličeje, zejména v oblasti očí a úst. Věnujte proto pozornost nepřirozené mimice, mrkání nebo pohybům rtů. Varovným signálem jsou také nepravidelnosti v rysech obličeje nebo těla – jejich nepřirozené postavení, nepoměr velikosti hlavy k tělu, neobvyklý odstín pleti, nesrovnalosti ve zbarvení obličeje a těla osoby.
Nepravidelnosti se mohou objevit také ve způsobu řeči, tónu a výslovnosti. Deepfakes nemusí přesně kopírovat původní hlas, což může vést k tomu, že na videu zůstanou tzv. zvukové pozůstatky, například robotický hlas. Problémem může být také synchronizace zvuku a videa. Jednou z nejčastějších chyb je nesoulad mezi řečí a pohyby rtů osoby nebo osob na videu.
Důležité je také všímat si vizuální stránky každého snímku videa. Zejména v okolí obličejů nebo jiných objektů můžeme najít rozmazání nebo zkreslení. Neměli bychom zapomínat ani na pozadí videa, kde se může objevit několik anomálií – například plovoucí objekty, nepřirozené osvětlení nebo neobvyklé stíny.
Pokud se subjekt (např. politik) objeví v prostředí, které není typické pro jeho obvyklý kontext, může to být známkou manipulace. Zároveň platí staré dobré ověřování zdrojů. Pokud je nespolehlivý nebo nedůvěryhodný, je pravděpodobnější, že obsah, který nabízí, je deepfake.
Tento článek na webu INFOSECURITY.sk vznikl s podporou NATO. Za obsah odpovídají výhradně autoři.
Zdroj: INFOSECURITY.sk | Prečo je dôležité rozpoznávať deepfake obsah (DISINFO BASICS) | Autor článku: Peter Dubóczi
Infosecurity.sk je projekt zameraný na kontrolu informačného priestoru s ohľadom na dezinformácie a bezpečnosť na sociálnych sieťach, ktorý stojí v opozícii proti aktivitám dezinformačných aktérov. Cieľom je odhaľovanie a vyvracanie nebezpečného a nepravdivého obsahu, ozdravovanie informačného priestoru a budovanie povedomia o dôležitých celospoločenských témach.
Verejný diskurz a politické kampane sa do veľkej miery presunuli do netransparentného kyberpriestoru a na sociálne siete. Dezinformátori, politici a extrémisti sa pred zákonom, či verejným tlakom skrývajú za rúšku virtuálnej anonymity tak, ako by si to v reálnom svete nikdy dovoliť nemohli.
Svojou činnosťou erodujú piliere liberálnej demokracie, šíria nenávisť a rozdeľujú spoločnosť.
Portál vznikol ako odpoveď na novú situáciu v rýchlo sa meniacom informačnom prostredí.Ak sa tradičný, či nový hráč, zvnútra krajiny, alebo zo zahraničia zameria na to, aby cez skreslené alebo falošné informácie rozdeľoval a poháňal vlastné vojenské, politické či obchodné ambície, jedná sa o narušenie informačnej integrity a bezpečnostnú hrozbu pre spoločenstvo.
Od januára 2022 je Infosecurity.sk projektom a organizačnou jednotkou organizácie Adapt Institute, ktorá zodpovedá za uverejnený obsah.
Kontakt na šéfredaktorku michaela.ruzickova@infosecurity.sk
Adapt Institute je mimovládna, nadstranícka, nezisková inštitúcia, analytický think-tank, ktorý sa zaoberá obrannou a bezpečnostnou politikou so špecifickým zameraním na strategické adaptácie a zmeny v týchto oblastiach. Cieľom Adapt Institute je rozvíjať slovenskú bezpečnostnú komunitu prostredníctvom vzdelávania, rozvoja expertnej siete a podnetného dialógu na národnej i medzinárodnej úrovni a skvalitňovať verejnú diskusiu a dávať priestor odborníkom.
Adapt Institute, skrátene Adapt, vznikol v roku 2022 a v plnej miere nadväzuje na tradíciu svojich dvoch predchodcov – Inštitútu strategických politík (Stratpol) a Slovenského inštitútu pre bezpečnostnú politiku (SSPI). Adapt zúročuje skúsenosti svojich predchodcov a čerpá z praxe realizácie množstva projektov v oblastiach ako hybridné hrozby, ozbrojené konflikty, spoločenská odolnosť, euroatlantické vzťahy či zahraničný vplyv. Náš tím stál za úspešnými konferenciami, verejnými aj neverejnými prezentáciami a brífingami pre tvorcov politíka predstaviteľov verejnej správy. Sú medzi nami autori výskumným správ, odporúčaní k tvorbe politík, ale aj komentárov či vystúpení v médiách.
Realizácia priorít Adapt Institute prebieha formou vlastnej výskumnej činnosti, intenzívnym expertným dialógom a vzdelávaním i popularizáciou bezpečnostných tém.
Projekt Euro-Atlantic dáva priestor pre širokú expertnú diskusiu na Slovensku v súvislosti so smerovaním bezpečnostnej a obrannej politiky SR vo svetle nových výziev a hrozieb. Kladie si tiež za cieľ zvýšiť výmenu poznatkov a povedomia expertov v tejto oblasti, ale aj osôb s rozhodovacou právomocou a štátnych predstaviteľov. Všetky výstupy sú interpretované širokej verejnosti, čím projekt prispieva k podpore konsenzu na prioritách obrany a bezpečnosti Slovenskej republiky.
Bezpečnostná akadémia je programom pre vzdelávanie a prípravu mladých odborníkov a odborníčok. Účastníci programu majú unikátnu príležitosť v online, ale aj offline formáte spoznať popredných slovenských i zahraničných bezpečnostných expertov a oboznámiť sa s praktickým chodom bezpečnostných štátnych inštitúcií.
V oblasti boja proti dezinformáciám je organizačná zložka Adapt Institute, Infosecurity.sk, jednou z najväčších a najpopulárnejších verejných multimediálnych platforiem. Portál publikuje analytické články, komentáre a podcasty na témy ako fungovanie sociálnych sietí, šírenie dezinformácií či kybernetickej bezpečnosti v slovenskom informačnom priestore.
Pre širokú verejnosť Adapt prináša nepravidelný newsletter Adapt Newsletter, ktorý prináša analytické komentáre týkajúce sa obranných a bezpečnostných tém a aktuálneho medzinárodného diania.
Adresa
Adapt Institute
Na vŕšku 8
811 01 Bratislava
Slovenská republika
Další články k tématu:
INFOSECURITY.sk | Ako si overovať informácie: fact-checking a debunking (DISINFO BASICS)
Keď sa v roku 2020 po vypuknutí pandémie koronavírusu začali vo veľkom šíriť nielen staré, ale aj nové dezinformácie, médiá a organizácie zamerané na fact-checking začali oveľa intenzívnejšie venovať pozornosť vyvracaniu faktov.
K prívalu nepravdivých informácií prispeli aj tvrdenia bývalého prezidenta USA Donalda Trumpa o údajných volebných podvodoch, ktoré viedli k útoku na Kapitol po prezidentských voľbách v roku 2020. Ruská invázia na Ukrajinu či izraelsko-palestínsky konflikt sú taktiež bohatým zdrojom klamlivých tvrdení.
To všetko prispelo k vzniku nových fact-checkingových organizácií. Centrum pre výskum žurnalistiky The Reporters’ Lab na Sanford School of Public Policy na Duke University každoročne zverejňuje správu z monitoringu fack-checkingových organizácií. V roku 2023 evidovali 417 oficiálnych overovateľov faktov, aktívnych vo viac ako 100 krajinách a 69 jazykoch.
Napriek tomu, že fact-checking je reaktívnym nástrojom, môže napomáhať k zvyšovaniu odolnosti voči dezinformáciám. Vďaka aktívnemu overovaniu faktov v informačnom priestore totiž rastie povedomie o mediálnych manipuláciách, môže tiež prispievať k mediálnej gramotnosti a kritickému mysleniu.
CENTRUM EDUKACJI MEDIALNEJ | Deepfakes, fotomontáže, boti a manipulace – co to je? | Deepfake’i, fotomontaże, boty i manipulacje – czym są?
Autoři dezinformací používají různé triky, aby nás oklamali. Pouhá informovanost a schopnost ověřování nemusí tváří v tvář high-tech trikům stačit. Navzdory záplavě dezinformací a mnoha různým technikám, které jejich autoři používají, nejsme bezbranní. Naštěstí existují nástroje, které nám umožní ověřit pravdivost fotografií, zkontrolovat, zda video nebylo upraveno, nebo zjistit více informací o autorovi podezřelých příspěvků. Našimi nejdůležitějšími zbraněmi v boji proti dezinformacím však zůstává všímavost a obezřetnost.
Jaké jsou nejčastější způsoby šíření dezinformací?
V dobe sociálnych sietí sa dezinformácie šíria rýchlejšie než kedykoľvek predtým. Nepravdivé či zavádzajúce informácie zdieľajú predovšetkým osobnosti a skupiny, ktoré chcú presadiť konkrétnu agendu. The four key ways disinformation is spread online
Co je to dezinformace. Definice
Různé antisystémové skupiny a spolky, ale i jednotlivci a mezi nimi právník s minulostí v Komunistickém svazu mládeže Tomáš Nielsen tvrdí, že se začínají objevovat tendence cenzurovat, zasahovat do právních předpisů bez širší diskuse, že chtějí pomoci vrátit společnost do systému právního státu, zajistit lidem účinnou ochranu před zásahy státu a že tu jsou snahy státu postihovat jakési takzvané dezinformace, aniž by existovala jasná představa, co to dezinformace je.
Jak to tedy s definicí pojmu dezinformace doopravdy je?
Boti/trollové vás přimějí k interakci – konkrétně k odpovědi – tím, že záměrně zveřejní slabé, snadno vyvratitelné argumenty. Jako slušný člověk nechcete, aby převládaly nepravdy, a tak odpovíte. Jakmile vás bot přiměje k interakci, přesune se do oblasti, kdy ho uvidí více uživatelů, kteří následně ještě více interagují, čímž se problém ještě prohloubí a aktér hrozby, který za botem stojí, získá přesně to, co chce.
Desatero pro lepší porozumění a čelení dezinformacím
Dezinformace je nepravdivá informace šířená záměrně s úmyslem manipulovat cílové publikum.
Skupina expertů představuje iniciativu sloužící k lepšímu pochopení a zvládání dezinformací v Česku.
Proč naše mozky milují Fake News a jak se jim můžeme bránit?
Psycholog Jay Van Bavel z Newyorské univerzity se věnuje nejnovějším výzkumům toho, jak může stranická loajalita narušovat analytické myšlení.
Zfalšovaná studie z minulosti způsobuje, že lidé se odmítají očkovat
Jak vznikl fenomén antivaxu?
📌 Nemoci zabíjejí dohromady více lidí než všechny války na světě, porazily je až vakcíny
📌 Přesto je někteří lidé už od jejich počátku odmítali a šířili o nich dezinformace a hoaxy
📌 Lidstvo se nepoučilo ani dnes a mnozí autismus připisují vakcínám, a to na základě 22 let staré, dávno vyvrácené a zfalšované studie
Nová příručka pro učitele zaměřená na posilování mediální gramotnosti s názvem Na pravdě záleží – Jak učit o pravdě a lži na internetu (příručka pro učitele), kterou pro pedagogy připravili Kamil Kopecký, Dominik Voráč a René Szotkowski z Pedagogické fakulty Univerzity Palackého v Olomouci v rámci vědeckovýzkumného hubu CEDMO. Příručka nabízí různé možnosti, jak s tématem pravdy a lži v online prostředí pracovat.
Karl Popper bol významný filozof 20. storočia, ktorý svoje postoje formoval pred, počas aj po druhej svetovej vojne. Jeho skúsenosť s horormi a zlom, ktoré do Európy priniesli extrémne ideológie ho viedli k tomu, že vo svojej práci sformuloval aj tzv. paradox tolerancie, ten znie nasledovne: „Neobmedzená tolerancia musí viesť k zániku tolerancie. Ak rozšírime neobmedzenú toleranciu aj na tých, ktorí sú netolerantní, ak nie sme pripravení brániť tolerantnú spoločnosť proti náporu netolerantných, potom budú tolerantní zničení, a s nimi aj tolerancia.“
Proč se věnovat něčemu tak nepříjemnému a zároveň samozřejmému, jako je strach? Protože strach je psychologicky velmi zajímavý fenomén. Pro psychoterapeuty je strach a úzkost denní chleba. A pro všechny, kteří se zajímají o veřejné dění, je strach hybnou silou a zmrazovačem zároveň.
Podcast & blog by Pepik Hipik & Knižní kočka 