Vzhledem k tomu, že umělá inteligence (AI) stále rychle postupuje, je výrobce ChatGPT OpenAI v čele tohoto pokroku. Výzkumná laboratoř odhalila novou výkonnou technologii klonování hlasu nazvanou Voice Engine. S pouhou 15sekundovou zvukovou ukázkou může generovat syntetickou kopii hlasu osoby popisovanou jako „přirozeně znějící“ a „emotivní“. I když si společnost představuje potenciální přínosy, tato technologie s sebou nese také značná rizika, zejména s tím, jak se „deepfake“ manipulace stává stále sofistikovanější.
We're sharing our learnings from a small-scale preview of Voice Engine, a model which uses text input and a single 15-second audio sample to generate natural-sounding speech that closely resembles the original speaker. https://t.co/yLsfGaVtrZ
— OpenAI (@OpenAI) March 29, 2024
Co je Voice Engine?
Voice Engine je tedy rozšířením stávající technologie převodu textu na řeč OpenAI. Pomocí tohoto nástroje může kdokoli nahrát 15sekundový zvukový vzorek hlasu a vygenerovat syntetickou repliku. OpenAI pečlivě omezuje dostupnost nástroje během jeho testovací fáze, aby vyhodnotil potenciál technologie pro pozitivní i negativní aplikace. Společnost zdůrazňuje, že je důležité porozumět rizikům a vyvinout bezpečnostní opatření před zveřejněním širší veřejnosti.
Překvapivě se Voice Engine nespoléhá na ukládání nebo dolaďování zvukových vzorků odeslaných uživatelem. Využívá sofistikovaný model umělé inteligence, který analyzuje poskytnutý zvukový úryvek i text, který má být přečten, a generuje odpovídající hlas v reálném čase bez vytváření trvalého záznamu hlasu jednotlivce.
I když klonování hlasu není nic nového, OpenAI tvrdí, že jeho přístup poskytuje vynikající kvalitu. Navíc agresivní ceny odhalené v prvních marketingových materiálech podtrhují potenciál Voice Engine narušit odvětví závislá na práci s hlasem.
Potenciální výhody…
OpenAI si představuje Voice Engine, který pomáhá při potížích se čtením, překládá jazyky a dokonce pomáhá lidem, kteří ztratili řečovou komunikaci. Citují pilota Brown University, kde pacient trpící poruchou řeči použil klon Voice Engine vytvořený ze staré školní nahrávky projektu.
…Ale také vážná rizika
S tím, jak se generování hlasu AI stává pokročilejším a dostupnějším, není těžké pochopit, jak by špatní herci mohli tuto technologii zneužít ke škodlivým deepfakeům. Voice Engine přichází do prostředí, kde jsou dezinformace podporované realistickou manipulací se zvukem a videem již velkým problémem. OpenAI uznává „vážná rizika“, která jsou během volebního roku ještě výraznější.
Voice Engine by také mohl zkomodifikovat práci s hlasem, čímž by bylo levnější a jednodušší pro podniky využívat syntetické hlasy místo najímání lidského talentu. Zatímco některé společnosti s umělou inteligencí nabízejí tržiště nebo modely odměňování pro hlasové aktéry, jejichž hlasy jsou klonované, přístup OpenAI primárně spoléhá na souhlas uživatele a řádné zveřejnění. Uvidí se, jak se průmysl přizpůsobí a zda budou zavedena nařízení, která zajistí spravedlivou odměnu a etické využití talentu hlasového herectví.
Zpožděné zavedení, ceny a větší obrázek
OpenAI si uvědomuje potřebu opatrnosti a provádí omezený náhled a začleňuje zpětnou vazbu z různých sektorů, aby se snížila možnost poškození. Testeři náhledu musí souhlasit se zásadami zakazujícími předstírání jiné identity bez souhlasu a vyžadujícími jasné zveřejnění řeči generované umělou inteligencí. OpenAI navíc implementuje vodoznak pro sledování původu zvuku a bude sledovat, jak je systém používán. Cílem „no-go voice listu“ je zabránit generování hlasů prominentních osobností.
Zatímco oficiální datum vydání není známo, uniklé informace a zpráva Tech Crunch naznačují, že Voice Engine by mohl být neuvěřitelně cenově dostupný – stojí 15 dolarů za dostatek textu na naplnění románu Stephena Kinga. To podkopává mnoho konkurentů a audioknihy generované umělou inteligencí by mohly být lákavé. Oznámení OpenAI přesahují Voice Engine. Tento týden také odhalili partnerství s Microsoftem na vybudování superpočítače „Stargate“ AI, údajně projekt za 100 miliard dolarů.