Nový program Verifee má poznat dezinformace na webech

Filip Trhlík, Michal Bravanský a Matyáš Boháček vyvíjí spolu s Centrem pro umělou inteligenci O2, Dataclair.ai, program, který má hodnotit články a upozornit čtenáře na možné nebezpečí šíření dezinformací. Výsledkem by měl být komplexní nástroj, který dokáže detekovat manipulativní aspekty textu či další nedostatky objektivnosti předání informací. Projekt představili v rámci Verifee Workshopu, který proběhl v tomto týdnu.

Podle vývojářů program Verifee pracuje podobně jako antivir. Má varovat čtenáře před tím, než by si chtěli přečíst nedůvěryhodný článek. Podle dostupných informací navštěvuje dezinformační weby měsíčně víc než deset milionů uživatelů. 

Verifee má kultivovat český mediální prostor a rozvíjet mediální výchovu a gramotnost. Program mají v plánu spustit v příštím roce ve webových aplikacích s prohlížečovými rozšířeními. Časem chtějí také mobilní aplikaci. Na tomto projektu spolupracují také s Fakultou sociálních věd UK a Národním ústavem duševního zdraví.

Program zanalyzuje článek a na základě parametrů určí skóre důvěryhodnosti podle předem daných kritérií. „Hodnotíme metriky jako útočnost, stereotypizace, nebo přítomnost citací. Naším cílem je být co nejvíce transparentní,“ popsal Filip Trhlík. Program také odůvodní rozhodnutí. „Model vytvoří skóre a je schopný přesně říct, proč se tak rozhodl,“ dodal Matyáš Boháček.

Protože každý vnímá důvěryhodnost odlišně, byly vytvořeny čtyři základní kategorie pro hodnocení článků: důvěryhodný, částečně důvěryhodný, zavádějící, manipulativní. Aby mohl být článek důvěryhodný, je nutné dodržet několik parametrů, jako jsou například citace relevantních expertů k tématu, pohledy všech zúčastněných stran nebo fakta zasazená do kontextu.

Mentory vývoje jsou Jan Romportl z Dataclair.ai, Václav Moravec z Fakulty sociálních věd a Jiří Horáček z Národního ústavu duševního zdraví.

-tšl-