5 социално-инженерни технологии за суперманипулации

Българският случай с Машината за сайтове гъби стана известен в цял свят с 85 хил. статии на тримесечие

От скандала с Cambridge Analytica изминаха 9 години, но вместо тези социално-инженерни технологии да бъдат поставени под някакъв контрол, те се използват от все по-опитни манипулатори и периодично повеждат за носа част от обществото в някое кътче по света.

Независимо дали става дума за "еврото върколак", което ще ни удуши и ще ни завлече на дъното на фалита, или за "вълчия капан Шенген" и лавината от мигранти, която ще унищожи България. Преди това същото беше с конспирацията "Пица гейт" за демократите педофили в САЩ, прераснала по-късно в QuAnon - движението, борещо се с педофилите сатанисти, управляващи света. Покрай пандемията обществеността бе облъчвано месеци наред, че фармацевтичната "мафия" настървено крои пъклени заговори за унищожаване на човечеството и иска да ни чипира с ваксини. Дребен щрих в тази история бе, че средната възраст на човечеството стремглаво расте, но защо да се мисли критично, като всичко е толкова лесно и елементарно? Едните са лошите, а другите добрите – като в компютърна игра.

Общото между всички тези viral теории, които ни засягат все по-осезаемо, е, че се разпространяват светкавично, провокират неистови страхове и възмущение и чрез манипулация водят до взимането на погрешни решения на национално ниво. За да се постигне това обаче, се изисква специфичен микс от задълбочени знания - не само по психология, теория на комуникацията и политически инженеринг. В случая най-важното е владеенето до съвършенство на социалните мрежи и специфичните им алгоритми.

Кампаниите обикновено започват с някакво прозрение - често истина или полуистина, което светкавично трябва да бъде разпространено, защото само така част от обществото може да бъде лишено от способността за критично мислене. Оттам нататък всичко е въпрос на технология. Известно е, че алгоритмите в социалните мрежи са нещо като екосистеми – колкото едно съдържание е по-ангажиращо, толкова по-масово се разпространява.

Именно на този принцип платформи като Facebook, Instagram, YouTube и TikTok приоритизират публикациите, класирайки по-напред тези с огромен брой харесвания, споделяния и коментари. За да се постигне тази цел обаче, е необходима талантлива игра с емоциите на публиката – най-вече възмущение и страх. Колкото една теория е по-провокативна и по-конспиративна, толкова по-бързо се задейства точно този ефект. В случая дори не е необходимо да се прибягва до софтуер от типа на този на Cambridge Analytica, който като хидра събираше данни за психопрофилите на хората, за да отсее манипулативните и да ги бомбардира още повече със страхове и предразсъдъци.

Вторият етап е активирането на т.нар. ехокамери. Ако даден потребител попадне във вълчия им капан, почти няма шанс да се отърве. Причината е, че чисто технологично тогава го облъчват с лавинообразни послания, за да му се внуши някакъв абсурд. Конструкциите на ехокамерите в социалните мрежи са такива, че той вижда и чува единствено потвърждение на дадената теза, без нито едно оспорване. Така постепенно внушението се превръща в чиста истина за него.

На третия етап се задействат алгоритмите за препоръки, които при някои мрежи водят до едно по-особено радикализиране, защото натрапват все по-екстремно съдържание. Примерно, ако някой енергично оспорва логични аргументи или научни проучвания, веднага ще му се мярнат пред погледа видеа и постове, че Земята е плоска, че ваксините всъщност са чипове и други подобни. Нещо напълно различно, но то ще подкрепи праведния гняв срещу системата.

Четвъртият етап залага на мрежовите ефекти, чрез които една теза да се превърне във viral, колкото и безумна да изглежда на пръв поглед. Достатъчно е да се започне с малка група хора, въоръжени със специфични хаштагове, с репостове от инфлуенсъри и с майсторски изработени мемета. Ако в тях има кодове и тайни послания – тогава успехът е гарантиран и това стана ясно след "Пицагейт" и QuAnon.

Много често за подсилване на ефекта се прибягва до автоматизирани или полуавтоматизирани акаунти, които заливат социалните мрежи с конспирации и лъжи, за да ги "ослепят". Ако нещо се разпространява масово и навсякъде, то алгоритмите го възприемат като истина и го лансират.

В потвърждение на всичко това е нашумелият в цял свят "Български случай", за който научихме благодарение на задълбочените изследвания на Фондацията за хуманитарни и социални изследвания - София.

"Екипът ни откри Машината от сайтове за руска пропаганда с експоненциален ръст, но тя загина, след като я осветлихме – разказа пред "24 часа – 168 истории" проф. Димитър Вацов. – Използваха платформата Share4pay първо в Китай с подобна акция в Югоизточна Азия. Стана ясно, че работи, и я приложиха тук." Според Вацов било относително лесно за него и колегите му да идентифицират Машината, защото свръхактивно провеждала руска пропаганда.

"Мултипликацията е осъществена, като към няколко основни домейна биват "клонирани" стотици субдомейни – отбелязват от екипа. - Онлайн платформата Share4Pay привлича потребители, чиято задача е да споделят съдържание от сайтовете гъби в социалните мрежи срещу заплащане. Така машината от сайтове гъби се превръща в най-големия разпространител на проруско съдържание онлайн в България."

"През август 2024 г. с различни инструменти за търсене на субдомейни открихме, че 39 основни домейна са се сдобили с по над 10 хил. субдомейна всеки – обясняват учените. - Т.е. сайтовете гъби са станали над 400 хил.

Те са произведени механично по общ списък с имена от платформата Share4Pay. Веднага трябва да се отбележи, че стотиците хиляди гъби не са активни – те са латентни или потенциални. Т.е. зад тях не стои жив човек, който да ги споделя в социалните мрежи. Тяхната първа функция е да лъжат алгоритмите на Google – щом един материал е препечатан стотици хиляди пъти в кратък период, значи той е много viral.

А и всеки латентен сайт чака в готовност: ако за него се появи добър стопанин – истински трол, който да го споделя в социалните мрежи по формулата на Share4Pay – той ще се активизира."

Благодарение на тази платформа и след разкритията България се прочува в цял свят.

Учените установяват, че през първо тримесечие на 2022 г. "Машината" създава 29 555 публикации, през следващото те са 27 хил., през трето – 19 хил., а през четвърто внушителните 48 хил. Първите три месеца на 2023 г. стартират с невероятните 85 973 статии, от април до средата на годината те са 63 хил., през трето тримесечие – 52 хил., а през четвърто – 27 хил. Тази ситуация продължава до есента на 2024 г., когато ДАНС и прокуратурата започват разследване.

Според учените това е началото на края и в момента "Машината" е насочена да подпомага продажбите на басейни.

Независимо дали ще се прибегне до този подход, или не, накрая идва ред на така наречения аstroturfing, или на създаването на фалшиви движения, уж спонтанно формирани от обикновени хора.

Целта е да се създаде впечатлението за някакъв мащабен консенсус и задаващо се всенародно въстание. Но заедно с тази технология е активирана и тази за deep fake. Причината е, че част от хората вече са достатъчно добре "обработени", пространството е пренаситено със страхове и емоции, парализиращи обективното мислене, и идва времето за най-големите лъжи и манипулации.

Не трябва да се забравя обаче, че цялата тази мрежа е конструирана на базата на вечни истини в психологията и ако се научим да ги разпознаваме, това ще е една добра "имунизация".

Най-важният в случая е стадният инстинкт – да си част от стадото и никога срещу него. Той се базира на редица вълнуващи експерименти, които доказват, че около 75% от участниците в тях са се съобразили поне веднъж с грешното мнение на мнозинството. В случая точно на това се разчита при социално-инженерните манипулации – "след като всички смятат, че нещо е вярно, значи то е вярно". Според специалисти тук сработва и т. нар. Ефект на илюзорната истина, открит от нацистите - когато една лъжа се повтаря многократно, това увеличава шанса тя да бъде възприета като истина, не защото в нея има логика, а защото звучи безкрайно познато.

Друг похват, на който се разчита, е силният когнитивен дисонанс. Известно е, че когато човек е изправен пред противоречива информация, за която няма никакъв личен опит, както е с еврото, тогава най-често се отхвърля логиката и се дава предимство на емоционалния комфорт. Както и на принадлежността към дадена група. Важен щрих в тези сюжети е да има послания, предизвикващи силен страх и тревожност – дали това ще са опасения от национален или личен фалит, от епидемии, мигранти, терористи, чипове, мрежи 5G и др., няма значение. Те винаги са ефективни в подобни кампании, защото ужасът изключва критичното мислене, а възмущението дава скорост и енергия на протестите. Така неусетно се формира принадлежност към дадена група, бореща се за „справедлива" кауза. Според психолозите тогава всяко доказателство, оборващо дадена абсурдна теза, се възприема като болезнена лична атака срещу самия човек. Тогава той нито е в състояние да чуе разумни аргументи, нито да ги осмисли.

За съжаление, във всички тези истории прозира един още по-неприятен нюанс – за да е успешна която и да е манипулация, е необходимо да се внуши недоверие към институциите, медиите и научната общност. Така кампания след кампания постепенно могат да ерозират фундаментите на по-лабилни общества като българското.

Учените все още се опитват да разгадаят този странен феномен, предизвикващ непонятна лавина от реакции. Дали конспиративните групи дават чувство за принадлежност и насищат живота със смисъл и идентичност на определени хора? Или предлагат прости и елементарни обяснения за хаотичната реалност като в компютърна игра? Или че тази особена група осигурява пространство, в което творческият потенциал и усилия на всеки неин член са високо ценени? Но е възможно за всичко да е виновен и вроденият човешки стремеж да разгадаваме мистерии. Засега въпросите са повече от отговорите и се търси противоотрова, а това са независимите и почтени медии, които с факти показват истината и провокират критичното мислене.