Článek na blogu XDA se zaměřuje na aplikaci zvanou Voicebox, která umožňuje klonování hlasu pouze na základě krátkého zvukového vzorku, což může být velmi znepokojující. Autor popisuje, jak snadné je tuto aplikaci nainstalovat a používat, a že stačí jen pár sekund audiozáznamu, aby bylo možné vytvořit věrohodnou kopii hlasu.
Voicebox je bezplatná a otevřená aplikace, která běží na počítačích s Windows, Linuxem a macOS. Uživatelé mohou nahrávat svůj hlas pomocí mikrofonu nebo nahrávat audio přímo z počítače, například z YouTube nebo Spotify. Aplikace pak dokáže přečíst jakýkoli text v klonovaném hlasu v několika různých jazycích.
I když existují legitimní důvody pro používání této technologie, jako je produkce audioknih nebo podcastů, existuje také riziko zneužití. Aplikace neprovádí žádné kontroly identity, což znamená, že někdo by mohl klonovat hlas jiné osoby a použít ho k podvodným účelům.
Celkově je Voicebox velmi snadno použitelná, což zvyšuje obavy o bezpečnost a ochranu soukromí, protože klonování hlasu je nyní dostupné pro širokou veřejnost bez jakýchkoli složitých požadavků na hardware.
Voicebox cloned my voice from a few seconds of audio on my own PC, and it’s the most terrifying thing I’ve seen local AI do
A few months ago, when Kyutai released Pocket TTS, I was able to clone my own voice from a 5-second-long clip, which was an experience that left me wondering just how fragile the voice-based identity checks at banks and insurers had become. The barrier to access was so low that anyone with a PC and an internet connection could’ve followed the same steps and reached the same outcome.
A few months later, it seems that this very same process has gained a dedicated desktop application for Windows, Linux, and macOS, in the form of an open-source utility known as Voicebox. The installation is point-and-click, the results are much more convincing, and the entire thing can run on consumer hardware. Here’s why it’s equal parts impressive and equal parts frightening.
What is Voicebox?
⚠️ Důležité upozornění: Tento článek vznikl za pomoci AI aplikace INOREADER
