Nebezpečné psychologické hry na Facebooku v podobě emocionálně laděného obsahu produkováného „content farms“

Nový výzkum publikovaný v Computers in Human Behavior ukazuje, že AI‑generované obrázky na Facebooku mají silnou schopnost manipulovat emocemi uživatelů a využívat kognitivní zkratky, které snižují naši kritičnost při prohlížení obsahu. Studie zjistila, že nejúspěšnější jsou obrázky s nostalgickými venkovskými motivy, zanedbanými dětmi, nebo jinými vizuálně dojemnými tématy – tedy takové, které vyvolávají silné emoce a „vypínají“ racionální vyhodnocování obsahu sdělení.

Většina takového obsahu pochází z „content farms“ – stránek produkujících masové množství levného, emocionálně laděného obsahu s cílem maximalizovat engagement a reklamní příjmy. Autor studie, Márk Miskolczi z Corvinus University v Budapešti, upozorňuje, že debata kolem deepfakes se často soustředí na technické chyby či detekci, ale méně na psychologii, která vysvětluje, proč lidé reagují na nereálné obrázky, jako by byly pravé.

Studie využila Grounded Theory a sledovala skutečné uživatelské prostředí – 12 Facebookových stránek typických pro content farms. Výzkum ukazuje, že platformy podporující engagement jsou náchylné k šíření emocionálních AI obrázků, které uživatelé navzájem „sociálně validují“ prostřednictvím lajků, komentářů a sdílení, což dále posiluje iluzi autenticity.