Jména a tváře známých lékařů v Británii jsou stále častěji zneužívána při propagaci pofidérních, údajně léčivých produktů. Videa, na nichž lékaři tyto výrobky vychvalují, ovšem nejsou skutečná, ale jde o tzv. deepfake vytvořené umělou inteligencí. Fenoménem se zabývá článek nyní publikovaný v odborném časopise British Medical Journal.
Tag Archives: deepfakes
Umíme čelit deepfake podvodům?
Praha, 8. července 2024: Zneužití deepfake v podvodných kampaních se už dotklo i Česka a s rozvojem umělé inteligence lze očekávat nárůst padělaných vyjádření politiků či falešný pornografický obsah s tváří celebrit. Problematice deepfake videí nebo zvukových nahrávek se však česká věda a výzkum věnuje jen okrajově a systematická podpora výzkumu problematiky deepfake v Česku chybí, jak ukazují výsledky studie Technologického centra (TC) Praha.
AI a propaganda
Plošná reklama v politických kampaních a propagandě je old school. Online prostor prochází rychlou proměnou a nabízí neustále nové možnosti manipulace lidí. Jakou roli v celé mašinérii hraje AI? Jaký mají vliv doporučovací systémy? Co přináší generativní umělá inteligence? Je vůbec možné se účinně bránit — ať už systémově nebo jako jednotlivci?
Společnost Meta začne na Instagramu a Facebooku označovat obrázky generované umělou inteligencí
Když se v loňském roce rozšířil obrázek papeže v bílém nadýchaném plášti vytvořený umělou inteligencí, uživatelé internetu diskutovali o tom, zda je papež skutečně tak stylový. Podobný zmatek vyvolaly i falešné obrázky zatčeného bývalého prezidenta Donalda Trumpa, přestože osoba, která obrázky vygenerovala, uvedla, že byly vytvořeny pomocí umělé inteligence.
Proč je důležité umět rozpoznat deepfake obsah
Technologie umělé inteligence se vyvíjí a stejně jako může být užitečná v boji proti dezinformacím, je také účinná při jejich vytváření a šíření.
Slovensko i Česká republika již mají s deepfake obsahem své negativní zkušenosti. O co však jde a na co si dát v případě obsahu vytvářeného umělou inteligencí pozor?
Deepfake obsah je na vzestupu a je stále sofistikovanější. Nemusí se šířit jen v prostoru sociálních médií a zranitelné jsou prakticky všechny sféry společnosti. Nástroje k jeho vytváření jsou relativně snadno dostupné komukoli – jde jen o to, kdo využije možností generativní umělé inteligence (AI).
Biologické centrum AV ČR se důrazně ohrazuje proti podvodnému videu
Biologické centrum AV ČR: Upozornění na deepfake: zmanipulované video s tváří našeho vědce šíří bludy o parazitech
Biologické centrum AV ČR se důrazně ohrazuje proti podvodnému videu zmanipulovanému pomocí umělé inteligence (deepfake), které se šíří na sociální síti Facebook. V tomto deepfake videu byla zneužita identita našeho kolegy prof. Julia Lukeše z Parazitologického ústavu BC AV ČR pro šíření dezinformací o parazitech. Technickou úpravou s použitím umělé inteligence mu byla vložena do úst nesmyslná tvrzení o tom, že existuje 99% šance, že máte nebezpečné parazity v těle. K podvodu bylo zneužito originální video s přednáškou Julia Lukeše, vytvořeného Biologickým centrem AV ČR. Toto zneužití je zcela nepřípustné a míří proti vědeckému poslání Biologického centra Akademie věd ČR, jehož cílem je získávat a rozšiřovat nové poznatky a poskytovat věrohodné, odborné a ověřené informace veřejnosti.
Praktické dopady dezinformací na českou společnost
Co vlastně dezinformace jsou? Ministerstvo vnitra je definuje jako systematické a úmyslné klamání. Pojem „dezinformace“ znamená “šíření záměrně nepravdivých informací, obzvláště pak státními aktéry nebo jejich odnožemi vůči cizímu státu nebo vůči médiím, s cílem ovlivnit rozhodování nebo názory těch, kteří je přijímají. (Ministerstvo vnitra ČR)
Gaslighting: forma psychické manipulace a citového vydírání
Americký slovník Merriam-Webster zvolil jako slovo roku 2022 „gaslighting“
Word of the Year 2022 | ‚Gaslighting,‘ plus ‚sentient,‘ ‚omicron,‘ ‚queen consort,‘ and other top lookups of 2022
In this age of misinformation—of “fake news,” conspiracy theories, Twitter trolls,and deepfakes—gaslighting has emerged as a word for our time.
A driver of disorientation and mistrust, gaslighting is “the act or practice of grossly misleading someone especially for one’s own advantage.” 2022 saw a 1740% increase in lookups for gaslighting, with high interest throughout the year.
Jak uvedl vydavatel, počet dotazů na toto slovo v roce 2022 vzrostl oproti roku 2021 o 1740 % – a vysoký zájem byl pozorován po celý rok. „V tomto věku dezinformací – fake news, konspiračních teorií, twitterových trollů a deepfakes – se ‚gaslighting‘ stalo slovem naší doby,“ vysvětlili tvůrci slovníku svou volbu.
‚Gaslighting‘ označuje psychickou manipulaci člověkem, obvykle dlouhodobou, která způsobuje, že oběť pochybuje o správnosti vlastních myšlenek, vnímání reality nebo vzpomínek, a obvykle vede ke zmatení, ztrátě důvěry a sebeúcty, nejistotě ve vlastní emocionální nebo duševní odolnost a v závislost na manipulátoru.
Podcast & blog by Pepik Hipik & Knižní kočka 