Сред най-големите рискове за подрастващите в интернет са пристрастяващите функции, кибертормозът и порнографското съдържание, сочи доклад на Съвета за цифрови услуги

Инициативите на ЕС за безопасността на децата онлайн вече влизат в една по-решителна фаза - докато доскоро фокусът беше върху инструментите за родителски контрол и дигиталната грамотност, сега Брюксел почна да обръща повече внимание на дизайна на самите платформи и това каква отговорност носят техгигантите.

Новите предложения за общоевропейска забрана или строги възрастови ограничения за достъп на деца до социални мрежи и какво всъщност ще представляват те се очаква да бъдат обявени от шефката на ЕК Урсула фон дер Лайен по време на годишната реч за състоянието на съюза на 16 септември, разкриха източници от Брюксел. В общи линии това е отговор на нарастващия натиск от страна на някои национални правителства. Страни като Франция, Испания, Германия, Дания и Гърция вече разработват и въвеждат свои собствени ограничителни мерки. Наред с това Ирландия, която в момента е ротационен председател на Съвета на ЕС, също постави онлайн безопасността на децата сред своите най-значими приоритети. А Брюксел със сигурност е наясно, че ако не предложи единна рамка, рискува сериозна фрагментация на единния цифров пазар на ЕС.

Позицията на Фон дер Лайен е категорична. Преди дни тя загатна каква е основната философия на предстоящите регулации: “Въпросът не е кога децата или тийнейджърите ще имат достъп до социалните мрежи. По-скоро

въпросът е кога социалните мрежи ще получат достъп до нашите деца и тийнейджъри”

27-те страни членки ще получат повече яснота съвсем скоро, тъй като се очаква на 13 юли специалната експертна група на германката за безопасността на децата онлайн да представи своя финален доклад с препоръки към комисията. Фон дер Лайен отбеляза, че се надява докладът да даде “цялостна концепция за забавянето в социалните мрежи за различните възрастови групи”. За подобен подход заговори и еврокомисарят по правосъдието Майкъл Макграт. Ирландецът обясни, че е вероятно да има “постепенен метод, при който потенциално някои настройки са изключени по подразбиране, родителският контрол е по-лесен, а за определени възрастови групи има различна дълбочина на регулирането и предпазните мерки”.

Докато блокът очаква политическите решения през септември, технологичните и правни рамки вече се изготвят благодарение на Закона за цифровите услуги на ЕС (DSA). Преди дни Съветът за цифрови услуги на блока публикува своя втори годишен доклад за най-сериозните системни рискове в много големите онлайн платформи (VLOPs - Very Large Online Platform) и търсачки (VLOSEs - Very Large Online Search Engines).

Докладът прави детайлен анализ на функциите, които превръщат социалните мрежи в опасна среда за деца и тийнове. Доста внимание се обръща на пристрастяващия дизайн на големите платформи. Авторите на доклада отбелязват, че системите за препоръчване на съдържание, които целят да задържат потребителите максимално дълго време онлайн, са отговорни за компулсивното поведение и увеличават риска децата постепенно да бъдат насочени към все по-вредно съдържание.

Голям риск крие също и функцията за безкрайното превъртане на съдържание (infinite scroll), като открай време в онлайн средите се зароди и жаргон, който описва прекалено дългото време, което човек може да прекара, докато гледа клипове в тикток, инстаграм, фейсбук или ютюб шортс - дуумскролинг (doomscrolling, doom - гибел, scrolling - превъртане). За това някой да стане интернет зависим допринасят и функции като автоматичното възпроизвеждане на видеа (autoplay), които стимулират непрекъснатото потребление на съдържание без естествен момент за прекъсване. Именно затова ЕК препоръчва в профилите на непълнолетни тези функции да бъдат изключени по подразбиране, а чувствителното съдържание да се замъглява и да се показва само след изрично предупреждение.

Докладът обръща специално внимание и на материалите със сексуално насилие над деца (Child Sexual Abuse Material - CSAM), които все още са сред най-сериозните системни рискове на онлайн платформите. Освен че се разпространяват вече съществуващи снимки и клипове, все по-често се срещат и случаи, при които деца са принуждавани сами да създават интимни материали, възрастни изпращат секссъдържание на непълнолетни, а също така се създават и изображения, генерирани с изкуствен интелект. Докладът предупреждава, че генеративният ИИ може да бъде използван

за създаване на сексуални дийпфейк изображения на деца,

както и да помага при т.нар. сексуално примамване (grooming - да спечелиш доверието на дете с цел манипулация и бъдеща сексуална експлоатация), или дори чрез него да се дават инструкции как да бъде извършено подобно престъпление.

Като основна мярка срещу подобно съдържание се препоръчва използването на технологии за автоматично откриване и премахване на CSAM (материали, свързани със сексуално насилие над деца), включително чрез т.нар. hash matching. При този метод всяка вече установена незаконна снимка или видеоклип получава уникален цифров отпечатък (hash). При качване на нов файл платформата автоматично сравнява неговия отпечатък с база данни от известни материали със сексуално насилие над деца. Ако има съвпадение, съдържанието

може да бъде блокирано или премахнато още преди да стане публично

достъпно. Сред препоръките в доклада е това платформите да развиват инструменти за откриване на опити за grooming, както и механизми, чрез които децата лесно да подават сигнали за злоупотреби и да им бъде оказана навременна подкрепа.

Основното послание в доклада на Съвета за цифрови услуги е, че защитата на децата трябва да бъде ключов момент още при самото разработване на онлайн услуги. Вместо платформите да реагират едва след като възникне проблем, ЕК настоява принципът “безопасност още при проектирането” (safety by design) да се превърне в стандарт. Така рисковете не само ще бъдат минимизирани, а предотвратявани още преди потребителите да се сблъскат с тях.