Vodafone uvede aplikaci pro ověřování pravosti videí i dalšího obsahu

Společnost Vodafone Czech Republic představila nový projekt zaměřený na ochranu zákazníků před rostoucími hrozbami spojenými s generativní umělou inteligencí. V září uvede na trh aplikaci Vodafone Verify, která umožní ověřovat autenticitu digitálního obsahu a pomáhat odhalovat deepfake videa, audio nahrávky nebo zmanipulované dokumenty. Na vývoji Vodafone spolupracuje s technologickou společností Synhawk. Uzavřel s ní dohodu o strategické spolupráci, sdělili zástupci vedení Vodafone v sobotu na tiskové konferenci v Karlových Varech.

Aplikace bude zákazníkům společnosti dostupná od září. Vodafone zatím neupřesnil, za jakých finančních podmínek ji bude možné používat. Učiní tak až před jejím plánovaným uvedením. Česko ale bude prvním trhem, kde se taková aplikace objeví. Společnost přitom plánuje, že uvedení na další trhy bude následovat.

Vodafone se dlouhodobě věnuje ochraně zákazníků před podvodnými hovory. Podle firmy se však charakter hrozeb s rozmachem AI rychle mění. Vedle falešných telefonátů přibývají případy, kdy útočníci využívají umělou inteligenci k napodobení hlasu blízkých osob, vytváření kompromitujících videí nebo k manipulaci dokumentů. Rizika se týkají nejen jednotlivců, ale také firem. Mezi scénáře, které mohou být stále častější, patří například deepfake účastníci videokonferencí v aplikacích Teams či Google Meet, podvržené faktury a smlouvy nebo šikana prostřednictvím synteticky vytvořeného obsahu.

„Generativní umělá inteligence zásadně změnila ekonomiku podvodů. Útoky, které dříve vyžadovaly odborné znalosti a značné lidské kapacity, jsou dnes levné, snadno škálovatelné a mnohem sofistikovanější. Naší odpovědností jako operátora je stejným způsobem změnit ekonomiku obrany. Proto jsme mezi prvními v Evropě, kdo zákazníkům a zákaznicím přináší detekci deepfake obsahu v reálném čase, od mobilní aplikace až po síťovou vrstvu,“ zdůvodnila Violeta Luca, generální ředitelka Vodafonu v České republice.

Podle výzkumu Univerzity Karlovy se s deepfake videem setkala již čtvrtina Čechů. Ve třech čtvrtinách případů šlo o investiční podvody. Ve Spojených státech pak podle dat FBI dosahují škody způsobené deepfake podvody miliard dolarů ročně. „Naším primárním cílem je, aby naši zákazníci mohli znovu věřit tomu, co čtou, co slyší a co vidí,“ zdůraznila Veronika Brázdilová, viceprezidentka Vodafonu pro firemní zákazníky.

Řešení aplikace Vodafone Verify bude funkční na operačních systémech Android a iOS. Založeno je na principu ověřování přímo v zařízení uživatele a umožňuje analyzovat různé typy obsahu, například hlasové zprávy z komunikačních aplikací typu WhatsApp, Messenger apod., fotografie nebo videa. Lidé tak mohou získat rychlou informaci o důvěryhodnosti obsahu ještě předtím, než na něj zareagují. Tímto způsobem se lze podle operátora vyvarovat podvodům spojeným například s falešnými žádostmi o peníze od rodinných příslušníků nebo třeba pokusům o podvody během obchodních transakcí. 

Společnost Synhawk se hrozbou deepfake videí začala zabývat poté, co byla zneužita identita ukrajinského prezidenta během války na Ukrajině. Významnou roli sehrál také vývoj spoluzakladatele společnosti, studenta Matyáše Boháčka, kterého Lukáš Foral podpořil stipendiem na Stanfordově univerzitě. Postupně podle něj dozrálo přesvědčení, že pro masové nasazení technologie je ideálním partnerem telekomunikační operátor. Pouze na úrovni infrastruktury lze totiž sledovat širší souvislosti přenosu dat.

„Řešení musí znát kontext, chápat cestu kusu signálu, ať je to audio, video či jiný signál,“ vysvětlil Foral. Jako příklad reálného dopadu podobných útoků zmínil případ podnikatele z IT sektoru, který přišel o významnou finanční částku po podvodném deepfake videohovoru.

Matyáš Boháček vysvětlil, že moderní generativní modely po sobě zanechávají v datech charakteristické stopy, které běžný člověk není schopen rozpoznat, strojově jsou ale detekovatelné. Firma proto vyvíjí vlastní multimodální foundation modely, které analyzují audio, video i další typy dat. Součástí výzkumu je také vytváření nových forem deepfake útoků v laboratorním prostředí, aby bylo možné obranné mechanismy připravovat s předstihem. Úspěšnost rozpoznatelnosti falešných videí má dosahovat 99,9 %. 

„Povaha a tempo podvodů s využitím umělé inteligence zpochybňují předpoklady, na kterých byla postavena konvenční ochrana komunikace. Efektivní obrana musí být založena na neustálém výzkumu a integrována přímo do vrstvy infrastruktury, kde komunikace probíhá, což z Vodafonu dělá přirozeného partnera. Vytvořili jsme základní modely, které analyzují veškerý dostupný kontext, a tím posuzují holistickou integritu signálu při jeho pohybu po síti. Jsme nadšeni, že můžeme i nadále rozvíjet náš výzkum a zpřístupňovat ho zákazníkům prostřednictvím tohoto partnerství,“ přiblížil Boháček.

Díky partnerství se společností Synhawk nabídne Vodafone ochranu na třech úrovních. První z nich bude mobilní aplikace pro ověřování digitálního obsahu Vodafone Verify. Druhou bude představovat služba zabezpečující online schůzky Vodafone Verify Meetings. Třetí úroveň, Vodafone Verify Network, přinese detekci podvodného obsahu přímo v síti operátora.