5.6.2023 (SITA.sk) - Slovenská technologická spoločnosť TrollWall vyvinula unikátne softvérové riešenie na skrývanie nenávistných komentárov na báze umelej inteligencie. Nástroj je už dostupný a momentálne funguje na platformách Facebook a Instagram. Jazykový model rozumie slovenčine a češtine. Postupne pribúdajú nové funkcionality a jazyky a rozširujú sa aj možnosti moderovania diskusií v online priestore. Už dnes TrollWall používajú pri správe sociálnych sietí napríklad v kancelárii českého prezidenta Petra Pavla, ale aj Denník N či desiatky mimovládnych a neziskových organizácií, ktoré dnes majú softvér zadarmo.

Slovenská technológia pomáha moderovať diskusiu

Spoločnosť TrollWall vyvinula vlastný model neurónovej siete, ktorý je schopný pomáhať moderovať diskusie vo virtuálnom priestore. Umelá inteligencia zo Slovenska dokáže rozpoznať a automaticky schovať komentáre, ktoré vyhodnotí ako vulgárne alebo nenávistné. Tým chráni reputáciu majiteľov profilov na sociálnych sieťach, ale najmä samotných používateľov pred toxickým vplyvom nenávistnej diskusie a prispieva k tvorbe bezpečnejšieho online prostredia.

Model bol natrénovaný na analýze viac ako štvrť milióna komentárov zo sociálnych médií. Vďaka anotáciám viacerých nezávislých expertov sa umelá inteligencia naučila rozpoznávať a detegovať nenávistný a vulgárny obsah. A to nielen podľa kľúčových slov, ale aj z kontextu. "TrollWall dokáže rozpoznať nielen známe nadávky a ich variácie, ale aj kontextuálny hejt. Napríklad spojenie "ty si potkan" označí za hejt, kým "uhryzol ma potkan" nie," hovorí Pavol Bujňák, šéf technológií v TrollWall. Ľudský faktor však úplne nezmizol. Administrátor má plnú kontrolu nad moderovaným obsahom s tým, že dokáže jednoducho odkryť akýkoľvek komentár, ktorý umelá inteligencia vyhodnotila ako problematický.

"Veľkú pozornosť sme venovali etickým aspektom trénovania modelu. Záleží nám na tom, aby umelá inteligencia vyhodnocovala komentáre v čo najväčšej možnej miere nezaujato a zohľadňovala rôzne perspektívy. Počas jej vývoja neustále prebiehala manuálna kontrola našimi expertami s cieľom minimalizovať nespravodlivé hodnotenia. Model sa neustále spresňuje, pretože sa učí na dátach z praxe," uviedol Filip Stryčko, šéf vývoja umelej inteligencie v TrollWall.

Škálovateľný nástroj využiteľný v každom odvetví

Vďaka svojej schopnosti identifikovať a automaticky skrývať príspevky, ktoré sú vulgárne alebo obsahujú nenávistné prejavy, TrollWall výrazne znižuje množstvo obsahu, ktorý musia manuálne kontrolovať komunitní manažéri, moderátori alebo administrátori stránok na sociálnych sieťach.

Výsledkom je efektívna správa profilov, takmer okamžitá reakcia na problémový obsah a celkové zlepšenie bezpečnosti komunít na sociálnych sieťach. "Najťažšie je ustrážiť diskusiu na profiloch, ktoré generujú veľký počet komentárov. Naša technológia vie reagovať v priebehu sekúnd a zabráni tomu, aby sa nenávistné komentáre presadili a boli viditeľné na popredných pozíciách. V budúcnosti plánujeme zapracovať aj ďalšie pokročilé funkcie. Chceme byť schopní pomáhať komunitným manažérom rýchlejšie reagovať, napríklad navrhovaním odpovedí na časté otázky na základe vlastných podkladov. Posvietiť si chceme aj na dezinformácie a hoaxy. Už dnes pracuje TrollWall s databázou konšpirátori.sk, no v odhaľovaní a potláčaní dezinformácií máme väčšie ambície," uviedol Tomáš Halász, CEO TrollWall.

Softvérové riešenie TrollWall robí komunitný manažment škálovateľným a dostupným pre každého – od firiem všetkých veľkostí, neziskových organizácií až po verejné inštitúcie alebo stránky médií bez ohľadu na objem komentárov. "TrollWall je dostupný ako klasické SaaS (software as a service) cloudové riešenie za veľmi férových podmienok, pretože chceme, aby bol dostupný pre každého. Od začiatku preto podporujeme mimovládne organizácie, ktoré sú často poddimenzované, no čelia veľkému počtu nenávistných komentárov. Sami sme v minulosti spravovali diskusie a vieme, aké to je zažiť nálet hejterov a nemať kapacitu to riešiť. Aj vďaka stále rastúcemu počtu spokojných komerčných klientov vieme TrollWall bezplatne poskytnúť organizáciám, ktoré ho potrebujú a nemôžu si ho dovoliť za komerčné ceny," pokračuje Tomáš Halász.

TrollWall skontroloval na slovenskom Facebooku už viac ako 2 milióny komentárov a skryl vyše 300-tisíc hejtov. Na manažovanie diskusií ho používa napríklad Denník N alebo kancelária českého prezidenta Petra Pavla. Slovenská umelá inteligencia už dnes chráni desiatky profilov z radov firiem, mimovládnych a neziskových organizácií či médií.

Článok pokračuje na nasledujúcej strane: