Sora 2 ukazuje budoucnost sociálních sítí s AI. Má ale rizika

Společnost OpenAI vydala druhou generaci svého AI generátoru videa Sora. Ta přináší výrazný pokrok ve schopnosti vytvářet fotorealistická krátká videa ve stylu sociálních sítí, a nejde o náhodu. Zároveň totiž na platformě Sora vznikla vlastní sociální síť, která vyzývá uživatele k vytváření krátkých a vtipných klipů.

Všechny novinky jsou zatím oficiálně dostupné jen na území Spojených států a Kanady, což ale samozřejmě neznamená, že se k nim nedá méně oficiální cestou dostat i v Evropě.

První dva týdny provozu ukazují, že jde o skutečně mocný nástroj. Nejde o to, že už dříve nešlo pomocí AI vytvářet videa nerozeznatelná od reality. Nová Sora ale tento proces zjednodušuje a zpřístupňuje i úplným laikům. Výsledkem je, že sociální sítě (a nejen ta vytvořená tvůrci modelu) zaplavují videa, ve kterých kočky střílí góly na fotbalových hřištích, influenceři předvádějí muzikálová čísla a slavní vědci na invalidním vozíku skáčou ze skokanského můstku. Obzvlášť přesvědčivá jsou videa napodobující záběry z nekvalitních kamer – například z domovních zvonků nebo z uniformy policie.

Dvě strany stejné mince

Přístupnost a pokročilost modelu mají dvě strany mince. Na té jedné konečně můžeme říct, že už nás při produkci videa (do značné míry) neomezuje technická schopnost, ale jen vlastní představivost. Běžní uživatelé i profesionální kreativci mohou konečně naplno popustit uzdu fantazii.

Na druhé straně je však logicky mnohem jednodušší vytvářet velmi přesvědčivé deepfaky. Tomu zatím zabraňuje vodoznak, který označuje každé vytvořené video, ale i to samozřejmě není neprůstřelné řešení. Evidentní humor problémem není, zdánlivě autentické záběry různě motivovaného násilí nebo nevhodného chování celebrit už ale nebezpečné jsou. Obzvlášť v moderním formátu úderných klipů na sociálních sítích, u kterých při znuděném scrollování nad pravdivostí přemýšlíme ještě méně než jindy.

Tenká hranice mezi příležitostí a rizikem

Vstupujeme do doby, kdy můžeme mnohem jednodušeji podvrh vytvořit než pak dokázat jeho nepravdivost.

Co to znamená pro komunikační profesionály? Paradoxně bychom měli místo příležitostí potřeba mluvit spíše o riziku. Značkám a klíčovým osobnostem firem více než kdy dříve hrozí zneužití podoby nebo hlasu a další formy diskreditace. Vstupujeme do doby, kdy můžeme mnohem jednodušeji podvrh vytvořit než pak dokázat jeho nepravdivost. Značky tedy musí pečlivě monitorovat co se na internetu objevuje a musí být připraveny rychle jednat, pokud ke zneužití dojde.

Pokrok ve vývoji AI generátorů videí, ale i zvuku nebo obrazu, je fascinující. Otevírá prostor maximální kreativitě, ale zároveň stále intenzivněji testuje naši schopnost rozpoznávat realitu od fikce. Hrozí tak, že hranice mezi pravdou a iluzí zmizí. Nebo bude tak tenká, že ji rozpozná jen málokdo.

Autor textu: Tadeáš Pepř, Client Manager, FleishmanHillard