Startup elv.ai: Čtvrtina komentářů na webech je toxických

Slovenský technologický startup elv.ai, který se věnuje moderování diskusí na internetu, od začátku svého působení zkontroloval 15 milionů komentářů. Z pohledu počtu komentářů moderuje celou třetinu slovenského trhu, přičemž největšími klienty elv.ai jsou mediální domy JOJ Group, Markíza a News & Media Holding, magazín Refresher.sk, Zastoupení Evropské komise na Slovensku nebo Všeobecná zdravotná poisťovňa. 

Z dat elv.ai vyplývá, že zhruba 25 % všech komentářů, které se objeví na stránkách jeho klientů, obsahuje nenávist, vulgarismy, dezinformace či spamování, případně se jedná o příspěvky z falešných účtů. Firma pomocí své technologie identifikovala pět tisíc takových účtů. 

„Člověk zvládne zkontrolovat asi 300 komentářů za hodinu, to je však vzhledem k celkovému množství příspěvků nedostatečné,“ říká Jakub Šuster, CEO elv.ai. „Vyvinuli jsme proto technologii využívající umělou inteligenci, díky níž dokážeme obsáhnout tisíc komentářů za hodinu.“

Firma měsíčně zkontroluje více než milion komentářů na 50 profilech médií, nevládních organizací, firem a institucí na Slovensku a od léta 2023 i v Česku. Ke klientům na českém trhu patří Economia, Refresher.cz a několik společností produkt testuje.

„Zatím není možné, aby si AI byla stoprocentně jistá, lidská obsluha je nezbytná. Proto máme i v Česku tým místních lidí, kteří dokážou správně vyhodnotit kontext. Vyhneme se tak skrývání komentářů, které umělá inteligence mylně vyhodnotí jako toxické. Od začátku je pro nás velmi podstatné, abychom při moderování neskrývali něčí názory nebo politické přesvědčení,“ vysvětluje Gabriel Tóth, jeden ze zakladatelů elv.ai.

-mav-