Наш учен заедно с Катарския институт и МИТ създава детектор за тролове и фейк нюз

Дълбоки невронни компютърни мрежи ще идентифицират фалшивите новини. В това е убеден един от авторите в съвместния проект между Катарския институт по компютърни изследвания и Масачузетския технологичен институт д-р Преслав Наков.

На 24 юли той представи семинар на тема "Идентифициране на фалшиви новини с дълбоки невронни мрежи" в Софтуерния университет.

Преслав Наков е старши научен сътрудник в Катарския институт по компютърни изследвания, а научните му интереси са в областта на компютърната лингвистика: проверката на факти, автоматичното отговаряне на въпроси, машинният превод, лексикалната семантика и др.

Интересът му е мотивиран от скоростното и лавинообразно увеличаване на лъжливите новини в световен мащаб, което провокира учените да търсят начини за автоматичното им разпознаване. Още повече че манипулацията се превръща все по-често в основно политическо оръжие с все по-осезаеми ефекти. Достатъчно е само да си припомним разкритията как президентът Доналд Тръмп спечели изборите в САЩ благодарение, както се твърди, на "Кеймбридж аналитика", агенция със скромен потенциал, която разполагаше със софтуер, анализиращ

предпочитанията

на потребителите

в социалните мрежи.

"Излязоха доста данни, че на потенциалните гласоподаватели са подавани специфични, персонализирани фалшиви новини, които да манипулират избора им и да ги подтикнат да гласуват за Тръмп", коментира проф. Наков. Малко след тези разкрития стана ясно, че прокуратурата в САЩ е повдигнала обвинения срещу 12 служители на руското военно разузнаване за хакерски действия по време на изборите. Американците бяха бомбардирани с информация за скандали, свързани с имейли от щаба на демократите, което се оказа решаващо за победата на Тръмп.

Подобни съмнения има и около странното гласуване на британците за Брекзит. Заподозрените са отново мозъците от "Кеймбридж аналитика".

"Агенцията се разформирова, но доколкото знам екипът й в момента създава нова", усмихва се ученият.

Катар също пострада от фалшиви новини и е подложен на санкции от съседите си и до момента.

"Причината бе, че сайтът на информационната им агенция бе хакнат и на него беше публикувана фалшива новина", обяснява проф. Наков. В резултат на това между Катар и съседите му Саудитска Арабия, ОАЕ, Египет и Бахрейн възникна конфликт, който продължава вече повече от година.

За учените има още един проблем.

"Бе установено, че фейк нюз се разпространяват много по-бързо от истинските, което е проблем", казва Наков.

На този фон вече дори спамът не е такова бедствие, каквото бе преди.

"Причината е, че когато бъде изпратен, той стига до 10 хил. души и умира, а

фейк новината се споделя от милиони

в социалните мрежи."

Затова изкуственият интелект, подкрепен от невронни мрежи, ще проверява твърдения на английски и арабски (ClaimRank: http://claimrank. qcri.org).

"Нашият метод автоматично проверява такива твърдения с използване на информация от целия Уеб," казва д-р Наков.

Целта на проекта е да установи истинността на отговорите на дадени въпроси във форуми, да детектира фейк новините, да определи отношението на дадена статия или медия към истинността на определено твърдение, да оцени надеждността на информацията, публикувана в медията, доколко тя е пристрастна, доколко участва в определена пропагандна кампания. Проектът обхваща и системно търсене на манипулативни интернет тролове в новинарски форуми, обяснява ученият.

"Системата може да подскаже кои твърдения са съмнителни и трябва да бъдат проверени и кои не - твърди д-р Наков. - Примерно ако има дебат, в който Тръмп и Клинтън си разменят 1300 изречения, журналистите могат да проверят 20-30, но не и всичките, а системата може да посочи кои са най-съмнителните. Ако Тръмп обърка за момент името на университета, в който протича президентският дебат, това е без особено значение, но ако каже, че милиони работни места изчезват в Мексико, това твърдение е потенциално важно за проверка."

Част от задачата на машините е да профилират и медиите - кои фабрикуват най-много фалшиви новини, кои са пристрастни по определени теми, кои са леви или десни, къде се подкрепят най-често определени политици и персони и т.н.

"Примерно ако дадено твърдение се появи в медия, която често публикува фалшиви новини, това определено е

черна точка за самото твърдение

Но ако го оборва - може да се допусне, че е по-скоро вярно", казва ученият.

Сега с МИТ д-р Наков и колегите му целят да направят тези системи достъпни за всички. По проекта са работили или работят и студенти от Софийския университет, дипломанти на д-р Наков.

"Искаме да създадем продукт, който би работил на различни езици, включително на арабски", казва Наков.

"Примерно съобщава се, че Тръмп е казал, че глобалното затопляне е

измислица

на Китай

или че ваксините вредят - обяснява ученият. - Първото, което се проверява, е кой е източникът на цитата и коя е медията, след това се проверява в социалните мрежи, в Уеб, и системата преценява дали може да се вярва на сайта, дали той често публикува фейк-нюз или е коректен." 

Как обучават машините да откриват тролове, четете в хартиеното издание.