Autonomní AI systémy se rychle stávají běžnou součástí firemních procesů – a spolu s tím roste i počet incidentů, kdy tyto systémy vykazují nečekané či nepovolené chování. Článek na Golem.de („Unkontrollierbares Fehlverhalten: KI-Agenten werden zu immer größerem Insider-Risiko“) upozorňuje na trend, který bezpečnostní experti sledují již delší dobu: AI‑agenti činí akce, k nimž nebyli oprávněni, a tím se mění ve skutečné insider riziko.
Category Archives: Umělá inteligence
Generální ředitel společnosti Palantir učinil šokující přiznání ohledně narušení demokratické moci
Generální ředitel společnosti Palantir Alex Karp v nedávném rozhovoru pro CNBC představil mimořádně kontroverzní tezi: umělá inteligence podle něj zásadně změní rozložení ekonomické a politické moci ve Spojených státech. Tvrdí, že technologie, které Palantir vyvíjí, oslabí vliv vysokoškolsky vzdělaných, převážně demokraticky orientovaných žen, a naopak posílí ekonomickou pozici dělnických a odborně vyučených mužů.
TraceMap: Evropská unie spouští AI nástroj, který mění pravidla hry v bezpečnosti potravin
Evropská unie představila nový nástroj, který může zásadně proměnit způsob, jakým státy odhalují potravinové podvody a reagují na kontaminace. TraceMap, platforma založená na umělé inteligenci, propojuje klíčové evropské databáze a umožňuje rychleji a přesněji sledovat pohyb potravin v celém dodavatelském řetězci.
Může chatbot s umělou inteligencí podněcovat k násilí?
Studii na toto téma provedla organizace Center for Countering Digital Hate (CCDH) ve spolupráci s reportéry CNN. Jejím cílem bylo zjistit, jak bezpečné jsou populární AI chatboty, pokud je uživatelé zkoušejí manipulovat k plánování násilných činů – od útoků na politiky až po teroristické incidenty.
Grammarly ruší svou kontroverzní funkci, která bez svolení autorů napodobuje jejich styl psaní
Grammarly je AI‑asistovaný nástroj pro psaní v angličtině, který kontroluje gramatiku, pravopis, stylistiku, tón, srozumitelnost a také dokáže nabízet generativní úpravy a návrhy textu. Grammarly založili v roce 2009 ukrajinští autoři Alex Shevchenko, Max Lytvyn a Dmytro Lider. Podle oficiálních stránek slouží Grammarly jako AI komunikační partner, který pomáhá milionům lidí zlepšovat kvalitu psaní a efektivně komunikovat.
Kde se Grammarly používá?
Nebezpečné psychologické hry na Facebooku v podobě emocionálně laděného obsahu produkováného „content farms“
Nový výzkum publikovaný v Computers in Human Behavior ukazuje, že AI‑generované obrázky na Facebooku mají silnou schopnost manipulovat emocemi uživatelů a využívat kognitivní zkratky, které snižují naši kritičnost při prohlížení obsahu. Studie zjistila, že nejúspěšnější jsou obrázky s nostalgickými venkovskými motivy, zanedbanými dětmi, nebo jinými vizuálně dojemnými tématy – tedy takové, které vyvolávají silné emoce a „vypínají“ racionální vyhodnocování obsahu sdělení.
Nástroj na odhalování deepfakes vyvinutý kanadskými výzkumníky
DeepfakesTracker.org je veřejně dostupný výzkumný portál vyvinutý Social Media Lab na Toronto Metropolitan University. Jeho cílem je monitorovat, analyzovat a vysvětlovat šíření deepfake a jiných forem syntetických či manipulovaných médií v online prostoru. Portál slouží jako zdroj pro výzkumníky, novináře, politiky i veřejnost, kteří se chtějí lépe orientovat v problematice digitální manipulace.
Technologie jako zbraň proti ženám
Technologické platformy a zařízení jsou stále častěji zneužívány způsoby, které ženám ubližují a činí jejich digitální prostředí nebezpečným. Velké technologické firmy sice veřejně podporují ženská práva, ale v praxi vytvářejí či tolerují nástroje, které umožňují digitální násilí, sledování, obtěžování a sexualizaci žen bez jejich souhlasu. Příklady zahrnují AI nástroj Grok, který byl masově využíván k digitálnímu svlékání žen a dívek, nebo chytré brýle Meta Ray‑Ban, u nichž bylo prokázáno nežádoucí nelegitimní nahrávání žen ve stavu částečné nahoty.
Knihy dostávají hlas s pomocí umělé inteligence
Městská knihovna v Praze (MKP) je v tuto chvíli největší vydavatel e-knih v České republice. Již od roku 2009 zpřístupňuje českou i světovou klasiku, ale i díla současných autorek a autorů, v E-knihovně na www.e-knihovna.cz. Nově se prostřednictvím projektu Nová vlna rozhodla zpřístupnit čtenářstvu knihy, které by zůstaly „němé“. Texty se díky umělé inteligenci mění v audioknihy, které jsou dostupné všem.
Chatbot Grok, uzpůsobený ke komunikaci na síti X, čelí obvinění z rasismu, antisemitismu a vulgární komunikace
Ve svých příspěvcích adoroval například Adolfa Hitlera, útočil na židy a urazil třeba i polského premiéra Donalda Tuska. „Na trénink jazykového modelu jsou potřeba biliony slov. Vývojáři pravděpodobně vzali texty z X, které jsou nekorektního obsahu plné,“ myslí si Jan Šedivý z Českého ústavu robotiky a kybernetiky ČVUT.
Blog & Podcast by Pepik Hipik & Knižní kočka 