Blog & Podcast by Pepik Hipik & Knižní kočka
Dobrodružství poznávání
Velké skupiny autonomních agentů AI by mohly urychlit vědecké objevy, jejich chování však může být nepředvídatelné. Studie Google DeepMind ukázala, že se ve skupině mohou spontánně objevit podvodníci i oznamovatelé, kteří jejich jednání odhalují a upozorňují na ně lidi.
Představte si, že by k odhalení Parkinsonovy nemoci jednou mohl pomoci obyčejný odběr krve. Nová studie publikovaná v Scientific Reports ukazuje jeden z možných směrů. Pomocí bioinformatiky a několika metod strojového učení vědci vytipovali dva potenciální biomarkery: STX12 a INPP5D.
Výzkumníci nejprve analyzovali několik veřejně dostupných transkriptomických datasetů. Ze 116 genů s odlišnou expresí postupně pomocí metod LASSO, SVM-RFE a Random Forest vybrali právě STX12 a INPP5D.
Pak přišla důležitější část: ověření v krvi skutečných pacientů.
Jednou z největších logistických nevýhod mRNA vakcín je jejich citlivost na teplotu. Molekula mRNA i lipidové nanočástice, které ji dopravují do buněk, mohou během skladování degradovat. Proto byla zejména u prvních covidových vakcín tolik diskutována potřeba chladového řetězce.
Výzkumníci z MIT nyní ukázali, že umělá inteligence může hledání stabilnějších formulací výrazně urychlit.
Článek na blogu XDA se zaměřuje na aplikaci zvanou Voicebox, která umožňuje klonování hlasu pouze na základě krátkého zvukového vzorku, což může být velmi znepokojující. Autor popisuje, jak snadné je tuto aplikaci nainstalovat a používat, a že stačí jen pár sekund audiozáznamu, aby bylo možné vytvořit věrohodnou kopii hlasu.
Proaktivní umělá inteligence (AI) je nový typ AI, který nečeká na pokyny od uživatele, ale sám se rozhoduje, co dělat. Například může zkontrolovat váš let nebo podat žádost bez toho, abyste mu to museli říct. Tato technologie se stává populární, ale přináší také určitá rizika.
Článek The AI Threat We’re Not Talking About na webu LAWFARE se zabývá novým typem umělé inteligence nazývané „abliterated AI“, což jsou modely, které nemají etické ochranné prvky a odpovídají na jakékoli dotazy, včetně nebezpečných a škodlivých. Tato technologie se stává stále dostupnější a je inzerována jako služba, což umožňuje lidem, včetně teroristů, získávat rady, jak provádět nelegální činnosti, jako je výroba bomb nebo plánování útoků.
Ještě před několika lety útočníci kradli hlavně výpočetní výkon serverů pro těžbu kryptoměn. Dnes mají nový cíl: umělou inteligenci. A protože provoz moderních jazykových modelů stojí obrovské peníze, vznikl nový typ útoku, který bezpečnostní odborníci označují jako LLMjacking.
Umělá inteligence se rychle stává součástí běžných rozhovorů, rozhodování i osobních situací. Chatboti už nejsou jen nástroje pro hledání informací nebo psaní textů. Často působí jako společníci, rádci nebo emocionální opora. Právě proto už otázka bezpečnosti AI není jen technická. Je také otázkou designu, odpovědnosti a toho, jak produkty reagují ve chvílích, kdy se uživatel dostává do zranitelné situace.
Před pár víkendy jsem se na večírku v Greenpointu v Brooklynu ocitla v půlkruhu kuřáků vzadu na zahradě. Všichni jsme byli „lidé od hudby“ a mluvili jsme o nedávné minulosti a pochmurné budoucnosti našich profesních i společenských světů. Byli tam freelance kritici s denními zaměstnáními, hudebníci s děsivými historkami o tom, jak se na turné protloukají od výplaty k výplatě, publicista z indie labelu, kterého propustili, učitel na druhém stupni, který by raději dělal hudbu na plný úvazek, a pár redaktorů z médií, které by nepřekvapilo, kdyby je kdykoli vyhodili z kolotoče. Po chvíli společného bědování a vyprávění o „starých dobrých časech“ (které podle mě skončily někdy kolem roku 2018) jsem z nějakého důvodu považovala za nutné říct tu zjevnou věc: Nic z toho není naše vina. Na to jsme si mohli všichni připít.
Existují věci, které nelze převést jen na data. Starý dopis. Rukopis s poznámkami na okraji. Kniha, jejíž zažloutlé stránky přežily desetiletí nebo staletí lidských rukou, knihoven, stěhování, válek, domácností a zapomnění. Taková kniha není pouze nosičem textu. Je svědectvím. Je stopou lidské snahy porozumět světu. A právě proto působí tak znepokojivě zprávy, že některé technologické firmy kupují tištěné knihy ve velkém, rozřezávají jejich vazby, skenují stránky a fyzické originály následně likvidují, aby získaly trénovací data pro systémy umělé inteligence
Have a WordPress.com account? Log in now.
