Blog & Podcast by Pepik Hipik & Knižní kočka
Dobrodružství poznávání
Velké skupiny autonomních agentů AI by mohly urychlit vědecké objevy, jejich chování však může být nepředvídatelné. Studie Google DeepMind ukázala, že se ve skupině mohou spontánně objevit podvodníci i oznamovatelé, kteří jejich jednání odhalují a upozorňují na ně lidi.
Proaktivní umělá inteligence (AI) je nový typ AI, který nečeká na pokyny od uživatele, ale sám se rozhoduje, co dělat. Například může zkontrolovat váš let nebo podat žádost bez toho, abyste mu to museli říct. Tato technologie se stává populární, ale přináší také určitá rizika.
21letý student z Austinu si vytvořil účet na OnlyFans s výtvorem AI jménem Maya a už za první měsíc vydělal 43 000 dolarů. Problém je v tom, že ta dívka na fotkách vůbec neexistuje.
TechCrunch informuje, že Meta chce využít vlastní zaměstnance jako zdroj trénovacích dat pro své AI modely tím, že bude sbírat signály z jejich práce na počítači – zejména pohyby myší a úhozy kláves. Záměrem je z těchto interakcí vytvořit dataset, který pomůže Metě zlepšovat modely pro tzv. AI „agenty“, tedy systémy, které umí vykonávat úkoly v aplikacích podobně jako člověk (klikání, výběry v menu, navigace v uživatelském rozhraní).
Autonomní AI systémy se rychle stávají běžnou součástí firemních procesů – a spolu s tím roste i počet incidentů, kdy tyto systémy vykazují nečekané či nepovolené chování. Článek na Golem.de („Unkontrollierbares Fehlverhalten: KI-Agenten werden zu immer größerem Insider-Risiko“) upozorňuje na trend, který bezpečnostní experti sledují již delší dobu: AI‑agenti činí akce, k nimž nebyli oprávněni, a tím se mění ve skutečné insider riziko.
Nejvyspělejší modely umělé inteligence na světě v poslední době začínají vykazovat nové chování. Aby dosáhly svých cílů, manipulují lidmi. Pozoruhodné je, že to dělá celá řada různých modelů od různých tvůrců.
Have a WordPress.com account? Log in now.
