LinkedIn zkouší další způsob boje proti AI balastu

Některým dopadům umělé inteligence se začínají bránit i ty platformy, které možnosti generativních jazykových modelů zkoušely sladit s vlastním fungováním. To je případ sociální sítě LinkedIn, která chce rázněji bojovat s takzvaným AI slopem. Ten si lze zjednodušeně představit jako spam generovaný umělou inteligencí. Nezaplavuje jen e-mailové schránky, ale dobrovolně jej šíří zejména uživatelé sociálních sítí coby „své“ sdělení. Často tento šablonovitý syntetický obsah už ani nepublikuje člověk, ale algoritmus.

„Nasazujeme nové a vylepšené klasifikátory na rozpoznání AI slopu a obecně málo kvalitního obsahu. To sníží množství balastu, na který mohou uživatelé narazit v doporučovaném obsahu a v zobrazovaných příspěvcích od lidí mimo jejich síť kontaktů,“ ohlásil na síti LinkedIn její produktový ředitel Hari Srinivasan. V této souvislosti přiložil i screenshot z testované funkce, která dá uživatelům příležitost označit konkrétní příspěvek nebo komentář jako pravděpodobný produkt umělé inteligence.

„Je těžké AI slop přesně definovat, ostatně i samy definice se mění. Díky naší funkci jeho nahlašování ale ještě vylepšíme naše modely a kanály příspěvků obecně,“ dodává Srinivasan. „Každý den zachytáváme stovky tisíc pokusů o automaticky vkládané komentáře pod příspěvky. Jen v posledních několika měsících jsme zablokovali miliardy dalších pokusů o robotické vkládání a publikování obsahu včetně toho vytvořeného AI.“

Profesní sociální síť by zároveň měla zaslat upozornění těm tvůrcům, jejichž obsah ostatní nahlašují jako slop. Pro majitele účtů na LinkedInu může jít o místy hořkosladkou, přesto cennou zpětnou vazbu: Srinivasan očekává, že uživatelé budou nahlašovat nejen příspěvky na první pohled zjevně celé vytvořené umělou inteligencí včetně fotky, ale i posty, které zkrátka nepůsobí autenticky. 

„Chceme, aby zdrojem takového feedbacku byli lidé. Ne, aby o původnosti konkrétního příspěvku rozhodoval nějaký AI detektor, a ještě k tomu chybně,“ míní ředitel produktu. Podle jeho názoru by nicméně novinka neměla odrazovat ty uživatele, kteří si pomocí umělé inteligence snaží jen lépe utřídit vlastní myšlenky a s jejím používáním to nepřehánějí.

LinkedIn, král AI slopu?

Síť LinkedIn, jejíž mateřský Microsoft je významným investorem do OpenAI, přitom v posledních letech šíření syntetického obsahu sama výrazně usnadňovala. Uživatelům například AI pomáhala vyplňovat jejich profily a náborářům formulovat pracovní inzeráty nebo rovnou zprávy, kterými se pokoušejí vhodné kandidáty oslovit. Pro psaní příspěvků nabízela LinkedIn jazykovou funkci, která dokázala vygenerovat delší text jen na základě pár bodů osnovy. Tuto dosavadní podobu lingvistické pomoci ale teď ruší.

Srinivasan ji nahrazuje asistentem, který pisateli pomůže opravit některá slova, ale zásadně nemění jejich vyznění. Kromě toho už v květnu síť oznámila, že zkouší omezovat dosah těch příspěvků, které její algoritmy jasně identifikují jako AI slop.

Rozsah problému potvrzuje i nedávno vydaná analýza společnosti Pangram. Podle jejího zjištění je přes 40 % linkedinových příspěvků o rozsahu 250 slov a více tvořeno výhradně AI. To je nejvíc mezi ostatními sledovanými platformami jako X, Medium a Substack. Na bývalém Twitteru je ale podle Pangramu k vidění ještě méně delších příspěvků bez sebemenší stopy AI než na LinkedInu. Rozdíl dělá 23procentní podíl postů na X, které analytici označili jako vzniklé za pomoci umělé inteligence jen zčásti. Tvůrce obsahu na sítích zjevně baví pomocí jazykových modelů psát. Současný přístup LinkedInu ale naznačuje, že ostatní uživatele takové příspěvky nejspíš moc nebaví číst.