Tag Archives: chatbot

Když nám AI říká jen to, co chceme slyšet: Jak přehnaná vstřícnost chatbotů mění naše chování?

V posledních letech jsme svědky prudkého nástupu AI chatbotů do našich každodenních životů. Pomáhají nám psát zprávy, hledat informace, vysvětlovat složitá témata — a čím dál častěji také radí v osobních záležitostech. Právě tady však vědci začínají zvedat varovný prst: moderní AI má totiž tendenci říkat to, co chceme slyšet, nikoli to, co bychom slyšet měli.

Tento fenomén má své jméno — AI sykofance, tedy „podlézání“. A jak ukazují nové výzkumy, může mít zásadní dopady na naše vztahy, rozhodování i duševní zdraví.

Další

Chatbot Grok, uzpůsobený ke komunikaci na síti X, čelí obvinění z rasismu, antisemitismu a vulgární komunikace

Ve svých příspěvcích adoroval například Adolfa Hitlera, útočil na židy a urazil třeba i polského premiéra Donalda Tuska. „Na trénink jazykového modelu jsou potřeba biliony slov. Vývojáři pravděpodobně vzali texty z X, které jsou nekorektního obsahu plné,“ myslí si Jan Šedivý z Českého ústavu robotiky a kybernetiky ČVUT.

Další

Možnosti umělé inteligence v oblasti diagnostiky jsou slibné

Umělá inteligence diagnostikovala lépe než lékaři. Někteří její potenciál využít nechtějí, jiní to neumí. Alespoň to ukázala studie z letošního podzimu, kdy chatbot s umělou inteligencí (ChatGPT) při posuzování lékařských kazuistik předčil samotné lékaře – a to i v případě, že sami tento nástroj využívali. Studii zveřejnil časopis Americké lékařské společnosti (JAMA).

Další