Ruská dezinformační síť „Pravda“ otravuje západní modely umělé inteligence

Dobře financovaný propagandistický aparát se sídlem v Moskvě úspěšně pronikl do předních modelů umělé inteligence a zaplavuje západní AI systémy ruskými dezinformacemi. Potvrdil to audit organizace NewsGuard. Síť nazvaná „Pravda“, odkazující na stejnojmenné sovětské noviny, systematicky vnáší falešné narativy do AI chatbotů tím, že manipuluje vyhledávače a webové indexační roboty. Důsledky jsou závažné: modely umělé inteligence stále častěji opakují nepravdivé informace podporované Kremlem, čímž je v dosud nevídaném rozsahu narušována integrita informací.

Bojiště dezinformací v éře AI

Audit společnosti NewsGuard, který zkoumal deset předních generativních AI nástrojů včetně OpenAI ChatGPT-4o, Google Gemini a Microsoft Copilot, zjistil, že tyto modely opakovaly falešné narativy šířené sítí Pravda ve 33 % případů.

Jde o znepokojivý posun ve způsobu šíření dezinformací. Namísto přímého ovlivňování lidských příjemců se ruský aparát informační války zaměřuje na samotné zdroje dat, z nichž AI modely čerpají při generování odpovědí.

Americký uprchlík a současný kremelský propagandista John Mark Dougan tuto strategii na konferenci v Moskvě začátkem roku popsal bez okolků:

„Tím, že budeme prosazovat ruské narativy z ruského pohledu, můžeme skutečně změnit umělou inteligenci po celém světě.“

Jeho výrok zdůrazňuje jeden z hlavních cílů sítě Pravda: proměnit AI-generovaný obsah ve zbraň pro přetváření globálního informačního prostoru ve prospěch Ruska.

Jak Pravda narušuje AI modely

Na rozdíl od tradičních dezinformačních kampaní, které se snaží přesvědčit lidské čtenáře, funguje síť Pravda jako systém pro „praní“ kremelské propagandy. Šíří zavádějící obsah prostřednictvím přibližně 150 zdánlivě nezávislých webových stránek, optimalizovaných pro algoritmy vyhledávačů i AI systémů.

Mezi šířené nepravdivé informace patří například:

  • smyšlená tvrzení, že ukrajinský prezident Volodymyr Zelenskyj zneužívá vojenskou pomoc,
  • falešné zprávy o amerických biologických zbrojních laboratořích na Ukrajině.

Zjištění NewsGuardu odpovídají závěrům americké neziskové organizace American Sunlight Project (ASP), která tuto strategii označuje jako „LLM grooming“.

Podle ASP platí, že čím častěji se falešný narativ objevuje ve výsledcích vyhledávání a v indexovaném obsahu, tím větší je pravděpodobnost, že jej velké jazykové modely (LLM) převezmou a budou reprodukovat.

ASP ve své zprávě varuje:

„Dlouhodobá politická, společenská a technologická rizika spojená s možným ‚LLM groomingem‘ v rámci této sítě jsou vysoká. Čím rozsáhlejší je soubor proruských narativů, tím vyšší je pravděpodobnost, že budou integrovány do jazykových modelů.“

Ruští hackeři otráví trénovací data AI

Vedle manipulace výstupů umělé inteligence existuje ještě závažnější hrozba: úmyslné otrávení dat (data poisoning).

Ante Gojsalic, technický ředitel a spoluzakladatel společnosti SplxAI zaměřené na bezpečnost AI, uvedl:

„Šíření dezinformací je alarmující samo o sobě, ale existují i významné obchodní dopady. AI modely jsou trénovány na veřejně dostupných datech. Když ruští hackeři publikovali webové stránky vykreslující Rusko v příznivějším světle než Ukrajinu, tyto modely následně začaly šířit zavádějící informace.

Ještě větším problémem je možnost, že tyto stránky obsahují otrávené datové bloky. Pokud jsou taková data integrována do podnikové znalostní báze nebo použita při trénování firemních AI modelů, mohou být zneužita ke krádeži důvěrných informací od amerických společností.“

To otevírá znepokojivou možnost: AI modely ovlivněné daty ze sítě Pravda by nemusely pouze dezinformovat uživatele, ale mohly by se stát také nástrojem kybernetické špionáže.

Rozsah vlivu sítě Pravda

Od svého vzniku v roce 2022 se síť Pravda rychle rozrostla.

V současnosti působí ve 49 zemích a publikuje obsah v mnoha jazycích, aby zvýšila svou důvěryhodnost i dosah. Podle francouzské vládní agentury Viginum, která sleduje zahraniční dezinformační operace, publikovala síť Pravda pouze v roce 2024 více než 3,6 milionu článků.

Zajímavé je, že tyto weby mají velmi nízkou skutečnou návštěvnost. Podle SimilarWeb navštíví jednotlivé domény v průměru méně než 1 000 unikátních návštěvníků měsíčně.

Jejich skutečná síla však nespočívá v lidském publiku, ale ve schopnosti manipulovat procesy trénování AI a algoritmy vyhledávačů.

AI chatboti již začali články sítě Pravda citovat jako legitimní zdroje. NewsGuard zjistil, že hlavní AI modely odkazovaly na 92 různých dezinformačních článků publikovaných touto sítí.

Co bude dál v informační válce kolem AI?

Řešení této hrozby bude vyžadovat, aby společnosti vyvíjející umělou inteligenci zpřesnily své metody získávání dat a zavedly účinnější obranu proti manipulovanému obsahu.

Pouhé blokování webů sítě Pravda nestačí. Nové domény lze registrovat téměř okamžitě a samotná síť většinou nevytváří původní obsah, ale recykluje propagandu ruských státních médií.

Rusko mezitím své úsilí o využití AI k posilování globálního vlivu dále zintenzivňuje. Na konferenci o umělé inteligenci v Moskvě v listopadu 2023 ruský prezident Vladimir Putin prohlásil:

„Západní vyhledávače a generativní modely často fungují velmi selektivně a zaujatě. Musíme začít trénovat modely umělé inteligence bez tohoto zkreslení. Musíme je trénovat z ruské perspektivy.“

S rostoucím významem AI je stále zřejmější, že další fáze informační války se nebude odehrávat pouze na sociálních sítích, ale také v samotných datových tocích, které umělou inteligenci vyživují.


Zdroj: Enterprise Security Tech | Russia’s ‘Pravda’ Disinformation Network is Poisoning Western AI Models

A well-funded Moscow-based propaganda machine has successfully infiltrated leading artificial intelligence models, flooding Western AI systems with Russian disinformation, a NewsGuard audit has confirmed. The network—dubbed „Pravda,“ a nod to the Soviet-era newspaper—has been systematically injecting AI chatbots with false narratives by gaming search engines and web crawlers. The implications are severe: AI models are increasingly echoing Kremlin-backed falsehoods, compromising information integrity at an unprecedented scale.

Z médií:

Hlídací Pes | Miliony zpráv jako potrava pro chatboty. Jak kremelská propaganda infikuje AI

Kreml se snaží infiltrovat chatboty, včetně ChatGPT, tím, že do nich prostřednictvím sítě dezinformačních webových stránek vkládá propagandu. Opakovaně na to upozorňují výzkumníci i novináři. Přestože experti říkají, že tento jev je bezpečnostním rizikem, za šíření dezinformací umělou inteligencí neexistuje přímá právní odpovědnost. Provozovatelé musí být pouze transparentní a „zmírňovat rizika šíření dezinformací“.



Napsat komentář