Otazníky kolem Aktu o umělé inteligenci a používání AI na evropských univerzitách

Evropské univerzity mohou čelit zásadním změnám v důsledku používání umělé inteligence v souvislosti s nástupem Aktu o umělé inteligenci (AI ACT). Podle vyjádření expertů pro portál Times Higher Education se regulace dotkne i běžných akademických praktik, například využívání nástrojů typu ChatGPT ze strany akademiků při hodnocení studentů.

„Pokud používáte AI k hodnocení, podle tohoto aktu existuje celá řada požadavků, které musíte splnit – jako uživatel i jako poskytovatel. A je fér říci, že velké jazykové modely tato kritéria nesplňují, zejména pokud jde o transparentnost a data, na nichž byly trénovány,“ uvedl ředitel pro koordinaci politik Thomas Jørgensen z European University Association. Jørgensen zároveň ve svém vyjádření upozornil i na právní nejistotu: „Pro učitele používající ChatGPT k hodnocení existuje riziko, že je to nelegální – ale zatím to jistě nevíme, protože nemáme pokyny od Evropského úřadu pro AI,“ dodal s odkazem na orgán (AI Office) dohlížející na implementaci legislativy.

Podle Jørgensena univerzity již na nástup generativní AI v letech 2022 a 2023 reagovaly – vytvářely pracovní skupiny, doporučení a strategie odpovědného využívání v oblasti výuky. Nyní se však blíží fáze, kdy bude nutné tyto přístupy sladit s konkrétními regulatorními požadavky.

Další problém pak podle Times Higher Education představuje závislost na amerických AI modelech. V lednu zveřejnila European University Association zprávu vedenou Jørgensenem, která upozorňuje, že většina trénovacích dat pochází z anglicky mluvícího prostředí, především ze Spojených států. To podle autorů zvyšuje potřebu rozvoje evropských alternativ.