Захист дітей у цифровому середовищі: що настратегувало Мінцифри

Максим Дворовий

Тематика захисту дітей від шкідливого контенту є однією з провідних у царині прав людини протягом останніх десятиріч. Цим питанням присвячена низка статей Директиви ЄС про аудіовізуальні медіапослуги, включно з її оновленою редакцією від 2018 року. Зокрема, оновлена редакція Директиви передбачає обов’язок платформ спільного доступу до відео захищати дітей від шкідливої для їх фізичного, ментального та морального розвитку аудіовізуальної інформації, реклами та користувацького контенту.

Міністерство цифрової трансформації України звернуло увагу на проблематику та у рамках власного мандату щодо розвитку цифрових прав громадян розробило проєкт Національної стратегії із захисту дітей у цифровому середовищі на період до 2025 року. Документ, як це випливає з назви, має стратегічний характер, а тому є достатньо рамковим та окреслює основні напрями подальшої роботи з врегулювання сфери.

Юрист Лабораторії цифрової безпеки Максим Дворовий проаналізував документ, його переваги та недоліки, а також запропонував, як можна покращити стратегію.

Що ми маємо сьогодні?

На сьогодні українське законодавство насправді містить достатньо обмежений інструментарій для боротьби зі шкідливим контентом в інтернеті. Існує декларативна норма статті 28 Закону України “Про інформацію”, яка забороняє використовувати інформацію для посягання на права інших людей, а також норма статті 20 Закону України “Про охорону дитинства”, якою забороняється пропагування у засобах масової інформації культу насильства і жорстокості, розповсюдження порнографії та інформації, що зневажає людську гідність і завдає шкоди моральному добробуту дитини.

Також можна згадати й норму статті 40 Закону України “Про телекомунікації”, згідно з якою оператори телекомунікацій зобов’язані на підставі рішення суду обмежувати доступ своїх абонентів до ресурсів, через які здійснюється розповсюдження дитячої порнографії.

Втім, з оновленням законодавства у сфері електронних комунікацій в ухваленому у першому читанні Проєкті закону “Про електронні комунікації” подібна норма може зникнути, оскільки розробники законодавства пропонують закріпити повний імунітет постачальників електронних комунікаційних послуг щодо відповідальності за зміст інформації, що передається їх мережами.

Що нам пропонує проєкт Стратегії?

Основним ризиком для дітей у цифровому середовищі визначається сексуальна експлуатація та насильство над дітьми (“СЕНД”). Документ подає різні приклади того, що визначається як СЕНД – кібергрумінг, кіберсталкінг, кібербулінг, заклики до насильства, контент, що містить мову ворожнечі, порнографічний контент, принизливе стереотипне зображення та надмірна сексуалізація жінок і дітей тощо.

Після значної вступної частини та аналізу стану регулювання сфери захисту прав дитини у цифровому середовищі у національному та міжнародному праві, а також статистичних даних щодо проблематики в Україні, проєкт постулює мету, цілі та завдання Стратегії.

Метою Стратегії визначено забезпечення прав і свобод дитини, її захист від будь-яких форм насильства, експлуатації та зловживань у цифровому середовищі. Стратегія планує покривати сферу інтернету, мобільних технологій, відповідних пристроїв, що дають можливість доступу до таких технологій, цифрові мережі, бази даних, контент та послуги. Також документ ставить 4 основні стратегічні цілі, кожна з яких має власні організаційні цілі та відповідні завдання, виконання яких є необхідним для досягнення тієї чи іншої цілі.

Суспільство свідомо та активно підтримує безпеку цифрового середовища для дітей.

1.1. Учасники індустрії демонструють піклування про безпеку дитини в цифровому середовищі.

1.2. Діти обізнані щодо наявних ризиків у цифровому середовищі, мають знання і володіють навичками безпечного використання інтернету та знають, куди звертатися по допомогу.

1.3. Батьки та особи, які їх замінюють, педагогічні, соціальні працівники обізнані щодо наявних ризиків для безпеки та здоров’я дітей у цифровому середовищі, мають знання і володіють навичками їхнього попередження, виявлення та подолання.

1.4. Громадськість демонструє нетерпимість до порушення прав, свобод та безпеки дитини у цифровому середовищі.

Використання інтернет-мережі під час освітнього процесу та у повсякденному житті дитини є безпечним та захищеним.

2.1. Персональні дані дітей у цифровому середовищі захищені.

2.2. Контент та сервіси, доступні в інтернеті під час освітнього процесу та в місцях повсякденного перебування дитини, фільтруються.

Встановлена відповідальність за злочини або замах на злочини, що скоєні цифровому середовищі.

3.1. Діє механізм виявлення та розслідування злочинів, скоєних у цифровому середовищі, внаслідок яких постраждалими є діти.

3.2. Діє порядок притягнення до відповідальності за злочини або замах на злочини, скоєні у цифровому середовищі та постраждалими в яких є діти.

Діє система сервісів для підтримки, супроводу та реабілітації постраждалих дітей та дітей-свідків злочинів, скоєних у цифровому середовищі, батьків та осіб, що їх замінюють.

4.1. Діє система сервісів для підтримки, супроводу та реабілітації постраждалих дітей та дітей-свідків злочинів, скоєних в цифровому середовищі, батьків та осіб що їх замінюють.

Стратегія містить розлогі положення, що стосуються медіаграмотності, підвищення кваліфікації працівників правоохоронних та інших органів, інших просвітницьких заходів та кампаній, програм підтримки, а також реабілітації як злочинців, так і дітей-жертв СЕНД.

Втім, пропонуємо сконцентруватися на тих завданнях, які безпосередньо стосуються цифрових прав людини та встановлення правового режиму боротьби з поширенням СЕНД.

Однією з ключових запропонованих новел є пропозиція закріпити у законодавстві правовий режим щодо видалення та блокування матеріалів, які містять СЕНД. Мінцифри пропонує два концептуальних шляхи: негайне видалення матеріалу провайдерами інтернет-послуг у тому разі, якщо хостинг надається на території України, або ж блокування доступу до інтернет-ресурсу на території України у випадку, якщо хостинг здійснюється за межами території України, з подальшим залученням правоохоронних органів відповідної держави задля видалення матеріалу.

Поряд з реагуванням держави на такі порушення Мінцифри пропонує залучати індустрію до розробки стандартів соціальної відповідальності задля ефективнішої протидії СЕНД. Зокрема, індустрію хочуть заохотити до негайного інформування правоохоронних органів при виявленні СЕНД, запровадження програмного забезпечення (що, зокрема, використовуватиме хешування) для порівняння з попередньою базою даних та подальшого обмеження розповсюдження СЕНД, а також до публікації звітів про прозорість із зазначенням обсягів ідентифікованого шкідливого контенту.

Окрім створення стандартів соціальної відповідальності, Стратегія також концентрується і на створенні належних механізмів повідомлення та реагування на порушення прав дитини у мережі, які мають бути доступними та зручними.

Значна увага надається захисту персональних даних дітей: пропонується надати персональним даним дітей в інтернеті вищої категорії захисту та більших гарантій їх обробки у маркетингових цілях, обмежити профайлінг, запровадити батьківську згоду на обробку даних дітей, молодших за 14 років, а також зобов’язати розпорядників персональних даних формулювати чіткі та зрозумілі тексти політики конфіденційності та захисту персональних даних для дітей.

Важливим елементом стратегії є і прагнення встановити кримінальну відповідальність за окремі види правопорушень, що здійснюються проти дітей у мережі. Задля полегшення притягнення до відповідальності пропонується створити єдину безпечну національну базу матеріалів СЕНД, доступ до якої матимуть правоохоронні органи та яка буде синхронізованою з подібними базами іноземних держав.

Стратегія передбачає три етапи реалізації. На першому етапі (у 2020 році) передбачаються підготовчі дії: розробка та формування Плану дій, розробка нормативно-правових актів на виконання стратегії, формування Координаційної ради з питань захисту дітей у цифровому середовищі при Кабінеті Міністрів України, початок діалогу щодо створення Білої книги щодо стандартів соціальної відповідальності, запуск механізмів повідомлення та реагування на контент та сервіси у цифровому середовищі, що містять СЕНД, тощо.

Другий етап (2021-2024 роки) передбачає продовження розробки відповідних актів, розвиток та розширення механізмів повідомлення на контент, що містить СЕНД, впровадження та адаптацію провідних технічних рішень для розслідування злочинів та запобігання їм у цифровому середовищі, постраждалими яких є діти, запровадження системи фільтрування контенту та сервісів в інтернеті у місцях навчання та повсякденного перебування дитини, створення у рамках департаменту кіберполіції сектору для розслідування злочинів у цифровому середовищі, постраждалими яких є діти, а також низку освітніх, інформаційних заходів і розроблення програм реабілітації.

Третій етап (2025 рік) передбачає аналіз проведеної роботи та підбиття підсумків, зокрема опублікування Білої книги, що містить стандарти соціальної відповідальності для учасників індустрії, збір статистики щодо розслідувань та моніторинг судових рішень у сфері захисту прав дітей у цифровому середовищі, оцінку результатів роботи механізмів повідомлення та реагування на контент та сервіси у цифровому середовищі, що містять СЕНД, а також аналіз освітніх ефектів реалізації Стратегії.

Організаційне забезпечення Стратегії здійснюватиме Мінцифри та Координаційна рада з захисту дітей у цифровому середовищі при Кабінеті Міністрів, в той час як до реалізації Стратегії пропонують залучати, серед іншого, і громадські організації. Очікуваним результатом виконання Стратегії є безпечне для дітей цифрове середовище та захищені основоположні права і свободи дитини.

Що викликає питання?

Попри загалом якісний виклад та розуміння проблематики, що є предметом Стратегії, варто наголосити на декількох моментах, що можуть бути вдосконаленими перед затвердженням Стратегії.

Нечіткість визначення СЕНД: згідно з положеннями Стратегії, всі категорії контенту, що перераховані, належать до СЕНД. І хоч низка з них достатньо зрозуміла, втім, трактування положень, що забороняють принизливе стереотипне зображення та надмірну сексуалізацію жінок і дітей може бути достатньо розмитим та не відповідати стандарту правової визначеності.
Процедура обмеження доступу до СЕНД: зрозумілим з боку творців Стратегії є бажання закріпити пришвидшену позасудову процедуру обмеження доступу матеріалів, що містять СЕНД. Водночас, через не чітке визначення того, які матеріали належать до СЕНД, така процедура може призвести до обмеження доступу контенту, що є правомірним.

Саме тому, на нашу думку, доречним буде обмежити досудовий порядок обмеження доступу до окремих категорій СЕНД, які є однозначно протиправними (наприклад – дитяча порнографія), а також чіткіше вживати термінологію щодо тих, хто матиме зобов’язання з видалення контенту.

Участь громадськості у виробленні Білої книги щодо стандартів соціальної відповідальності: Стратегія передбачає залучення представників індустрії до розробки стандартів соціальної відповідальності щодо захисту дітей у цифровому середовищі (див. завдання операційної цілі 1.1). Заразом далі, в описі планів щодо етапів реалізації згадується потреба щодо залучення до діалогу зі створення Білої книги профільних громадських організацій. На нашу думку, доречним було б також зазначення необхідності участі таких організацій серед опису завдань операційних цілей.
Фільтрування контенту та сервісів у місцях навчання та повсякденного перебування дитини: тоді як потреба такого фільтрування є зрозумілою та насправді може якісно слугувати захистові дітей від шкідливого контенту, варто пам’ятати про суттєві ризики, які несе собою таке фільтрування. Вже у Стратегії, на нашу думку, варто зазначити, що таке фільтрування має бути суворо пропорційним щодо мети, яку планують досягнути.

Крім того, вже при подальшому втіленні положень Стратегії у життя важливо пам’ятати, що встановлення обладнання для фільтрування інформації коштом постачальників проміжних послуг (intermediaries) порушуватиме свободу здійснення ними підприємницької діяльності (див. пункт 47 рішення Суду ЄС у справі Scarlet Extended).

Механізм повідомлення та реагування на загрози та випадки порушення прав дитини: варто пам’ятати та зазначити, що будь-який подібний механізм має супроводжуватися ефективними запобіжниками для осіб, чий контент може бути обмежено у доступі – такими запобіжниками можуть слугувати участь таких осіб у провадженні щодо видалення контенту та повідомлення їх про те, що їх контент порушує вимоги законодавства, а також можливість судового контролю та апеляції.
Єдина безпечна національна база матеріалів, що зображають СЕНД, та відповідне програмне забезпечення: створення такої бази даних та програмного забезпечення, зокрема задля обміну відповідними матеріалами з правоохоронними органами інших держав, а також оперативної ідентифікації вже поширених матеріалів СЕНД є зрозумілим та потрібним заходом, що перегукується з веденням бази даних ICSE Інтерполом. Втім, в умовах низької культури захисту персональних даних в Україні варто окремо наголосити на потребі якісного забезпечення безпеки даних, що міститимуться у таких базах, а також відповідності такого програмного забезпечення фундаментальним правам людини.