Facebook jde proti manipulativním videím

Po vylhaných zprávách se snaží provozovatelé sociálních sítí vypořádat i s další informační hrozbou – falešnými videi, která například vkládají do úst známých osobností věty, které nikdy v životě neřekly. Podle největší sociální sítě světa má takový obsah značný manipulativní potenciál, a proto nyní Facebook upřesnil, jak hodlá vůči takzvaným deepfakes postupovat. A jeho přístup rozhodně příliš smířlivý být nemá. Pokud bude video splňovat charakteristiky deepfake, dojde k jeho smazání. Facebook podmínky odstranění takového obsahu definuje následovně:

• Video bylo upraveno nebo vytvořeno takovým způsobem, který přesahuje rámec úprav nutných pro zvýšení jasnosti nebo kvality obrazu. Jde o změny, jež nejsou průměrnému člověku na první pohled patrné a které by vedly recipienty k domnění, že postava na videu sděluje slova, který ve skutečnosti neřekla.
• Jde o produkt umělé inteligence nebo strojového učení vytvořený spojením, nahrazením či překrytím obsahu ve videu, čímž je navozen dojem, že je video autentické

Tvůrci satiry a parodií by se ale prý obávat neměli, na tento typ humoru se výše uvedená pravidla nevztahují. A to ani na klipy, které prošly editací podle Facebooku „jen kvůli tomu, aby došlo ke změně pořadí slov nebo vynechání některých z nich“.

Zpravodajské agentury a zahraniční média ale v této situaci připomínají, že potenciálně škodlivý dopad mohou mít i zdánlivě nevinné úpravy videa, které se definicím „deepfakes“ vymykají. Jde například o loňskou kauzu s předsedkyní americké Sněmovny reprezentantů Nancy Pelosiovou. Na sociálních sítích se objevily záběry jejího projevu, jež byly schválně zpomalené. Celý výjev pak vyvolával dojem, že je politička opilá nebo vážně nemocná. „Upravené video předsedkyně Pelosiové nesplňuje měřítka tohoto opatření a nebylo by smazáno. Blokována budou jen videa vytvořená umělou inteligencí, která ukazují lidi, jak říkají fiktivní výroky,“ sdělil Facebook agentuře Reuters.

Firma však ubezpečuje, že i videa, která nejsou určena ke smazání, podléhají ověření faktické správnosti. Pokud je fotografie nebo videoklip shledán alespoň částečně lživým, sociální síť prý výrazně sníží jeho dosah a znemožní jeho placenou propagaci. Uživatelé snažící se obsah sdílet uvidí upozornění, že svými kroky napomáhají šíření pochybného obsahu.

Facebook by se mohl při řešení hraničních případů hypoteticky inspirovat i u konkurence. V závěru loňského roku začal připravovat vlastní interní směrnici zaměřenou na deepfakes také Twitter. Zároveň spustil anketu, ve které zjišťoval, za jak velký problém uživatelé falešná videa považují, případně jaké kroky by uvítali k jeho řešení. Na téma deepfakes se ale začínají zaměřovat i společnosti jako Google či Microsoft.

Postoj širší veřejnosti se v této záležitosti jeví celkem jasně. Podle červnového průzkumu institutu Pew Research se zhruba tři čtvrtiny dospělých Američanů domnívají, že k upraveným videím s cílem manipulovat veřejnost by měly být použity restriktivní postupy. Naopak jen 22 procent dotazovaných upřednostňuje pohled, v rámci něhož by měl být i zavádějící obsah zahrnut pod ochranu svobody projevu.

Jak podotkl server Social Media Today, blížící se prezidentské volby v USA dosud provázely obavy z rozmachu lživých zpráv – jako snad ještě větší hrozba se ale postupně ukazují manipulativní videa.

-riv-