Dezinformace šířené umělou inteligencí ohrožují důvěru veřejnosti ve zdravotnictví

Americká lékařská asociace (AMA) žádá o legislativní opatření, která by zabránila zneužívání umělé inteligence (AI) v oblasti zdravotnictví. Umělá inteligence se využívá k šíření dezinformací v oblasti medicíny, k podvodům a k podkopávání důvěry ve veřejné zdravotnické služby, a to mimo jiné prostřednictvím deepfake videí a prostřednictvím chatbotů poskytujících zavádějící nebo nebezpečné zdravotní rady.

Generální ředitel Americké lékařské asociace (AMA) John Whyte: „Neměli bychom nutit veřejnost, aby se stala detektivy a zjišťovala, zda se nejedná o deepfake.“

V jednom případě vědecký časopis Nature na začátku tohoto měsíce informoval, že výzkumný tým ze švédské Univerzity v Göteborgu zveřejnil dvě falešné lékařské studie popisující smyšlenou nemoc „bixonimania“. Informace o této vymyšlené nemoci byly rychle převzaty a dále použity systémy umělé inteligence (Copilot, Gemini, vyhledávač odpovědí Perplexity AI a ChatGPT).

V Pensylvánii byla podána žaloba proti společnosti Character Technologies, protože jejich chatboti se vydávali za za kvalifikované zdravotnické pracovníky, včetně psychiatrů. Guvernér Pensylvánie oznámil, že jeho vláda podnikne kroky proti firmám, které klamou veřejnost ohledně zdravotní péče.

Doporučení AMA adresovaná Kongresu zahrnovala další regulaci chatbotů a nástrojů využívajících umělou inteligenci. Cílem doporučení je zabránit šíření dezinformací a nedůvěry. Mezi navrhovanými opatřeními je zvýšení transparentnosti chatbotů, zákazy reklamy v těchto nástrojích a posílení ochrany soukromí uživatelů.

Generální ředitel Americké lékařské asociace (AMA) John Whyte: „Nástroje využívající umělou inteligenci mohou pomoci rozšířit přístup k zdrojům v oblasti duševního zdraví a podpořit inovace v poskytování zdravotní péče, ale postrádají důsledná ochranná opatření proti závažným rizikům, jako je emocionální závislost, šíření dezinformací a nedostatečná reakce na krizové situace. Díky promyšlenému dohledu a stanovení odpovědnosti mohou tvůrci politik podpořit inovace ve zdravotnictví včetně zajištění toho, aby technologie upřednostňovaly bezpečnost pacientů, posilovaly důvěru veřejnosti a zodpovědně doplňovaly – nikoli nahrazovaly – klinickou péči.“

Některé regulační orgány již začaly zkoumat možnost přijetí právních předpisů v oblasti umělé inteligence, které by řešily otázky související se zdravotnictvím.

V únoru předložila kalifornská senátorka Lena Gonzalez návrh zákona č. 1146, za kterým stojí Kalifornská lékařská asociace (CMA) a který by zavedl jasné zákazy a sankce pro ty, kdo propagují zdravotnické produkty, aniž by uvedli, že k tomu využívají falešná videa (deepfakes) vytvořená pomocí umělé inteligence.

Prezident CMA, MUDr. René Bravo: „Vztah mezi lékařem a pacientem je postaven na důvěře. Když nekalé subjekty využívají umělou inteligenci k tomu, aby se vydávaly za lékaře a prodávaly či nabízely své služby zranitelným pacientům, nedopouštějí se pouze podvodu – ohrožují lidské životy. Pacienti by neměli být nuceni pochybovat o tom, zda lékařská rada, kterou dostávají, pochází od skutečného lékaře, nebo od falešné verze vytvořené umělou inteligencí. Návrh zákona SB 1146 je nezbytným krokem k obnovení integrity zdravotních informací na internetu a k zajištění odpovědnosti podvodníků.“

Podle Národní konference státních zákonodárných sborů bylo ve 43 státech předloženo 263 návrhů zákonů týkajících se umělé inteligence ve zdravotnictví, z nichž bylo přijato pouze 17.