Nestačí napsat „nejsem člověk“. Bezpečná AI potřebuje lepší design

Umělá inteligence se rychle stává součástí běžných rozhovorů, rozhodování i osobních situací. Chatboti už nejsou jen nástroje pro hledání informací nebo psaní textů. Často působí jako společníci, rádci nebo emocionální opora. Právě proto už otázka bezpečnosti AI není jen technická. Je také otázkou designu, odpovědnosti a toho, jak produkty reagují ve chvílích, kdy se uživatel dostává do zranitelné situace.

Další

Technologické firmy v roli kulturního barbara aneb Staré knihy jako krmení pro umělou inteligenci

Existují věci, které nelze převést jen na data. Starý dopis. Rukopis s poznámkami na okraji. Kniha, jejíž zažloutlé stránky přežily desetiletí nebo staletí lidských rukou, knihoven, stěhování, válek, domácností a zapomnění. Taková kniha není pouze nosičem textu. Je svědectvím. Je stopou lidské snahy porozumět světu. A právě proto působí tak znepokojivě zprávy, že některé technologické firmy kupují tištěné knihy ve velkém, rozřezávají jejich vazby, skenují stránky a fyzické originály následně likvidují, aby získaly trénovací data pro systémy umělé inteligence

Další

Další varování před „AI apokalypsou“ je opět hlasitější

V posledních měsících se v debatách o umělé inteligenci znovu objevuje výrazně zneklidňující motiv: mohla by AI představovat existenční riziko pro lidstvo? Téma získává pozornost nejen na sociálních sítích, ale i v respektovaných vědeckých médiích — například v rozsáhlém textu na serveru Nature od reportérky Elizabeth Gibney. Ukazuje proč varování sílí, kde jsou sporná místa a také jaké vedlejší škody může vyvolat přehnaná debata o existenčních rizicích včetně úplného podřízení lidí strojům.

Další

Když miliardáři „optimalizují“ stát i naše hlavy: jak technologické elity ohýbají politiku, sociální sítě a veřejné mínění – a jak se bránit

Je snadné uklidnit se představou, že technologičtí miliardáři jsou jen „výrazné osobnosti“, které čas od času vyvolají skandál na sítích. Jenže stále častěji nejde o excentricitu – jde o model moci. Historik Quinn Slobodian to v rozhovoru pro Byline Times popisuje jako „muskismus“: uspořádání, v němž několik technologických impérií koncentruje ekonomickou sílu, buduje závislost státu na své infrastruktuře a zároveň formuje informační prostředí, ve kterém si společnost vytváří názory.

Další

Když se AI přestěhuje z cloudu do krajiny: 6 trendů, které teď formují „éru hyperscale“

Ještě před pár lety se debata o umělé inteligenci točila hlavně kolem modelů, promptů a produktů. Jenže dnes se AI čím dál víc chová jako infrastrukturní průmysl: potřebuje pozemky, energii, vodu, politickou podporu, a hlavně – obrovský kapitál. A s tím přichází i druhá stránka: odpor komunit, tlak na regulaci, kulturní války o „smysl“ technologií a nové, často znepokojivé experimenty na hraně bioetiky.

Níže naleznete přehled trendů, kam se AI ekosystém posouvá a co si v roce 2026 hlídat.

Další

Technologie jako zbraň proti ženám

Technologické platformy a zařízení jsou stále častěji zneužívány způsoby, které ženám ubližují a činí jejich digitální prostředí nebezpečným. Velké technologické firmy sice veřejně podporují ženská práva, ale v praxi vytvářejí či tolerují nástroje, které umožňují digitální násilí, sledování, obtěžování a sexualizaci žen bez jejich souhlasu. Příklady zahrnují AI nástroj Grok, který byl masově využíván k digitálnímu svlékání žen a dívek, nebo chytré brýle Meta Ray‑Ban, u nichž bylo prokázáno nežádoucí nelegitimní nahrávání žen ve stavu částečné nahoty.

Další

Dnešní sociální sítě nejsou pro děti aneb Australská vzpoura proti BIG TECHU

Tento text napsala a uveřejnila na FB 10. prosince 2025 Michaela Mlíčková Jelínková. Kráceno.

Austrálie po roce příprav zavedla věkové omezení pro používání sociálních médií dětmi do 16 let.

💥 Není to poprvé, co se Austrálie vzepřela velkým technologickým firmám: byla i první významnou ekonomikou, která zabránila společnostem zabývajícím se AI trénovat na materiálech chráněných autorskými právy bez povolení. Jako první na světě zavedla kodex pro vyjednávání s médii, aby donutila Google a Facebook jednat s vydavateli médií.

Další