Umělá inteligence se rychle stává součástí běžných rozhovorů, rozhodování i osobních situací. Chatboti už nejsou jen nástroje pro hledání informací nebo psaní textů. Často působí jako společníci, rádci nebo emocionální opora. Právě proto už otázka bezpečnosti AI není jen technická. Je také otázkou designu, odpovědnosti a toho, jak produkty reagují ve chvílích, kdy se uživatel dostává do zranitelné situace.
Tag Archives: chatbot
Když nám AI říká jen to, co chceme slyšet: Jak přehnaná vstřícnost chatbotů mění naše chování?
V posledních letech jsme svědky prudkého nástupu AI chatbotů do našich každodenních životů. Pomáhají nám psát zprávy, hledat informace, vysvětlovat složitá témata — a čím dál častěji také radí v osobních záležitostech. Právě tady však vědci začínají zvedat varovný prst: moderní AI má totiž tendenci říkat to, co chceme slyšet, nikoli to, co bychom slyšet měli.
Tento fenomén má své jméno — AI sykofance, tedy „podlézání“. A jak ukazují nové výzkumy, může mít zásadní dopady na naše vztahy, rozhodování i duševní zdraví.
Může chatbot s umělou inteligencí podněcovat k násilí?
Studii na toto téma provedla organizace Center for Countering Digital Hate (CCDH) ve spolupráci s reportéry CNN. Jejím cílem bylo zjistit, jak bezpečné jsou populární AI chatboty, pokud je uživatelé zkoušejí manipulovat k plánování násilných činů – od útoků na politiky až po teroristické incidenty.
Chatbot Grok, uzpůsobený ke komunikaci na síti X, čelí obvinění z rasismu, antisemitismu a vulgární komunikace
Ve svých příspěvcích adoroval například Adolfa Hitlera, útočil na židy a urazil třeba i polského premiéra Donalda Tuska. „Na trénink jazykového modelu jsou potřeba biliony slov. Vývojáři pravděpodobně vzali texty z X, které jsou nekorektního obsahu plné,“ myslí si Jan Šedivý z Českého ústavu robotiky a kybernetiky ČVUT.
Možnosti umělé inteligence v oblasti diagnostiky jsou slibné
Umělá inteligence diagnostikovala lépe než lékaři. Někteří její potenciál využít nechtějí, jiní to neumí. Alespoň to ukázala studie z letošního podzimu, kdy chatbot s umělou inteligencí (ChatGPT) při posuzování lékařských kazuistik předčil samotné lékaře – a to i v případě, že sami tento nástroj využívali. Studii zveřejnil časopis Americké lékařské společnosti (JAMA).
Blog & Podcast by Pepik Hipik & Knižní kočka 