Když se v loňském roce rozšířil obrázek papeže v bílém nadýchaném plášti vytvořený umělou inteligencí, uživatelé internetu diskutovali o tom, zda je papež skutečně tak stylový. Podobný zmatek vyvolaly i falešné obrázky zatčeného bývalého prezidenta Donalda Trumpa, přestože osoba, která obrázky vygenerovala, uvedla, že byly vytvořeny pomocí umělé inteligence.
Brzy budou podobné obrázky zveřejněné na Instagramu, Facebooku nebo Threads označeny štítkem, který upozorní na to, že jsou výsledkem práce sofistikovaných nástrojů umělé inteligence, které dokáží na základě jednoduchých pokynů generovat velmi věrohodné obrázky, videa, zvuky a texty.
Společnost Meta, která vlastní všechny tři platformy, v úterý uvedla, že v příštích měsících začne označovat obrázky vytvořené pomocí předních nástrojů umělé inteligence. Tento krok přichází v době, kdy se technologické společnosti – jak ty, které vytvářejí software umělé inteligence, tak ty, které hostují jeho výstupy – dostávají pod rostoucí tlak, aby se zabývaly potenciálem této špičkové technologie uvádět lidi v omyl.
Tyto obavy jsou obzvláště naléhavé v době, kdy miliony lidí na celém světě letos hlasují ve významných volbách. Odborníci a regulační orgány varovali, že deepfakes – digitálně zmanipulovaná média – by mohla být použita k posílení snah o klamání, odrazování a manipulaci voličů.
Společnost Meta a další společnosti v oboru pracují na vývoji neviditelných značek, včetně vodoznaků a metadat, které označují, že obsah byl vytvořen umělou inteligencí. Společnost Meta uvedla, že tyto značky začne používat k tomu, aby na své aplikace aplikovala štítky v několika jazycích, takže uživatelé jejích platforem budou vědět, zda to, co vidí, je skutečné nebo falešné.
„Rozdíl mezi lidským a syntetickým obsahem se stírá a lidé chtějí vědět, kde leží hranice,“ napsal Nick Clegg, prezident společnosti Meta pro globální záležitosti, v příspěvku na blogu společnosti. „Lidé se často setkávají s obsahem generovaným umělou inteligencí poprvé a naši uživatelé nám řekli, že oceňují transparentnost této nové technologie. Proto je důležité, abychom lidem pomohli poznat, kdy byl fotorealistický obsah, který vidí, vytvořen pomocí umělé inteligence.“
Značky se budou vztahovat na obrázky od společností Google, Microsoft, OpenAI, Adobe, Midjourney a Shutterstock – ale až poté, co tyto společnosti začnou do obrázků vytvořených jejich softwarem vkládat vodoznaky a další technická metadata. Obrázky vytvořené pomocí vlastních nástrojů umělé inteligence společnosti Meta jsou již nyní označeny jako „Imagined with AI“.
To stále ponechává mezery. Jiné generátory obrázků, včetně modelů s otevřeným zdrojovým kódem, nemusí tyto druhy značek nikdy obsahovat. Společnost Meta uvedla, že pracuje na nástrojích pro automatickou detekci obsahu s umělou inteligencí, i když tento obsah nemá vodoznaky nebo metadata.
Navíc se štítky Meta vztahují pouze na statické fotografie. Společnost uvedla, že zatím nemůže takto označovat zvuk nebo video generované umělou inteligencí, protože průmysl nezačal tato data zahrnovat do nástrojů pro zpracování zvuku a videa.
Společnost Meta se prozatím spoléhá na uživatele, že tuto mezeru zaplní. V úterý společnost uvedla, že začne od uživatelů vyžadovat, aby u multimediálních děl uváděli to, že fotorealistické foto, video nebo realisticky znějící zvuk byly vytvořeny nebo upraveny digitálně, a Meta dále upozorňuje na to, že může penalizovat účty, které tak neučiní.
„Pokud zjistíme, že digitálně vytvořený nebo upravený obrazový, video nebo zvukový obsah vytváří obzvláště vysoké riziko podstatného klamání veřejnosti v důležité záležitosti, můžeme v případě potřeby přidat výraznější označení, aby lidé měli více informací a souvislostí,“ uvedl Clegg.
TikTok a YouTube také vyžadují, aby uživatelé zveřejňovali realistický obsah vytvořený umělou inteligencí. Loni na podzim TikTok uvedl, že začne testovat automatické používání štítků u obsahu, u kterého zjistí, že byl vytvořen nebo upraven pomocí umělé inteligence.
Zdroj: NPR
NPR (National Public Radio) je americká nezisková mediální organizace založená v roce 1970 rozhodnutím Kongresu, podle kterého nahradila předchozí National Educational Radio Network. Kromě veřejných zdrojů je financována také z darů posluchačů. Se sídlem ve Washingtonu, D.C., NPR zastřešuje několik stovek místních stanic veřejnoprávního rozhlasu, pro které vytváří za poplatek obsah. Tento model byl v roce 2011 kritizován a Kongres se neúspěšně pokusil o zrušení veřejného financování, mimo jiné kvůli údajné zaujatosti. Podle průzkumu mínění, který provedla agentura Gallup v roce 2017, považují voliči Republikánské strany NPR spíše za zaujatý zdroj, voliči Demokratů naopak za jeden z nejméně zaujatých. Kromě radiového vysílání má organizace zastoupení také na sociálních sítích a jejich webová stránka npr.org získala v roce 2009 Peabody Award.
Podcast & blog by Pepik Hipik & Knižní kočka 