У 1955 році письменник-фантаст Айзек Азімов опублікував розповідь про «електронну демократію» – експеримент, відповідно до якого обирався один громадянин, який представляє інтереси всього населення, і відповідав на запитання комп’ютера «Мультивак». Машина обробляла отримані дані та прогнозувала можливі результати виборів, які, таким чином, були не потрібні. Історія Азімова розгортається в Блумінгтоні, штат Індіана, однак уже сьогодні в сучасному Китаї створюється комп’ютер «Мультивак».
«Для будь-якого авторитарного режиму основна проблема – створення аналітичного центру, завдання якого – відстежувати процеси, що відбуваються в нижчих прошарках суспільства і в суспільстві в цілому», – каже Дебора Селігсон, політолог і експерт із Китаю з Університету Вілланова у Філадельфії.
- Як ефективно керувати країною, в якій проживає кожна п’ята людина на планеті, та економік а якої швидко ускладнюється, якщо ви не допускаєте публічних дебатів, громадянської активності та електорального фідбеку?
- Яким чином збирати достатню кількість інформації для ухвалення рішень?
- І як уряд, який не запрошує своїх громадян до участі в управлінні, підтримує рівень довіри і контролює суспільну поведінку, не розставляючи поліцейських біля кожних дверей?
Ху Цзіньтао (Hu Jintao), лідер Китаю з 2002 по 2012 рік, спробував вирішити ці проблеми, дозволивши скромну демократичну відлигу, і давши змогу скаргам населення дійти вух правлячого класу. Його наступник Сі Цзіньпін (Xi Jinping) повністю змінив цю тенденцію. Його стратегія розуміння і реагування на події в країні з населенням 1,4 мільярда осіб заснована на поєднанні пильного спостереження, штучного інтелекту і величезних баз даних, що дають змогу детально відстежувати життя і поведінку людей.
Люди в Пекіні завжди перебувають під пильним поглядом Мао та безлічі камер спостереження. Фото: MIT Technology Review
Допомагає те, що бурхливі роки неспокою в демократичних країнах світу змусили політичну еліту Китаю взяти на себе відповідальність і виправдати дії, спрямовані на стримування виборців. Такі події, як обрання Дональда Трампа, Brexit, активізація вкрай правих партій по всій Європі та панування терору Родріго Дутерте на Філіппінах, виявляють процеси, які багато критики називають проблемами, притаманними демократії, а саме: популізм, нестабільність і нестабільне, персоналізоване керівництво.
З тих пір, як у 2012 році він став генеральним секретарем Комуністичної партії Китаю, Сі намітив низку амбітних планів розвитку країни, багато з яких засновані на нових технологіях, зокрема й амбітну мету зробити Китай світовим лідером у сфері штучного інтелекту до 2030 року.
Сі закликає до «кібер-суверенітету», виправдовує посилення цензури і тотальний контроль над інтернетом всередині країни. У травні 2018 року він сказав на засіданні Академії наук Китаю, що нові технології є ключем до досягнення «великої мети побудови модернізованої соціалістичної нації»
У січні, коли Сі Цзіньпін виступав перед нацією по телебаченню, на книжкових полицях позаду нього було видно як класичні видання, на кшталт Das Kapital, так і сучасні , зокрема дві книги про штучний інтелект: «Майстер Алгоритм» (The Master Algorithm) Педро Домінгоса і «Доповнена версія Бретта Кінга: Augmented: Life in the Smart Lane».
«Жоден із урядів не має більш амбітних планів використання інформації для керування країною, ніж уряд Китаю», – каже Мартін Чорземпа з Інституту міжнародної економіки Петерсона у Вашингтоні (округ Колумбія).
Іноземні спостерігачі, які бачать картину здалеку, можуть відчувати спокусу задатися запитанням, чи є такий спосіб керування, заснований на управлінні даними, життєздатною альтернативою все більш дисфункціональній виборчій моделі. Однак надмірний розрахунок на мудрість технологій і баз даних має свої ризики.
Збір даних замість діалогу
Китайські лідери давно прагнули керувати громадською думкою, не відчиняючи дверей для гарячих дебатів і критики влади. У більшій частині імперської і сучасної китайської історії існувала традиція незадоволених людей з сільської місцевості, які їздили до Пекіна і влаштовували невеликі демонстрації як публічні «петиціонери». Петиціонери думали, що якщо місцева влада не розуміє або не звертає уваги на невдоволення людей, то тільки імператор може ухвалити правильне рішення.
За Ху Цзіньтао деякі члени Комуністичної партії допускали обмежену відкритість як можливий спосіб викриття і вирішення деяких проблем у суспільстві. Блоги, антикорупційні журналісти, адвокати-правозахисники та онлайн-критики, що висвітлюють корупцію на місцях, підвели громадську думку до завершення правління Ху.
На початку свого терміну керування країною Сі мав щоденні брифінги про проблеми і заворушення з соціальних мереж, що підтверджує колишній американський чиновник, який знав про це. В останні роки петиціонери приїжджали до столиці, щоб привернути увагу до таких скандальних питань, як незаконне захоплення земель місцевою владою, зараження сухого молока тощо.
Однак поліція все більше перешкоджає петиціонерам діставатися до Пекіна. «Зараз для придбання залізничних квитків потрібні національні посвідчення особи, що дає змогу владі легко виявляти потенційних “порушників спокою”, таких, як ті, хто протестував проти уряду в минулому», – каже Майя Ванг, китайський аналітик Human Rights Watch. «Кілька петиціонерів казали нам, що їх зупинили просто на залізничних платформах».
Блогерам, активістам і адвокатам також систематично закривають рота або ув’язнюють, ніби дані, здобуті таким чином, можуть забезпечити уряду таку ж картинку, як і інформація, отримана без порушень прав і свобод
У Китаї ідея використання мережевих технологій як інструменту управління з’явилася в середині 1980-х років. Як пояснює історик з Гарварду Джуліан Гевірц, «коли китайський уряд побачив, що інформаційні технології стають частиною повсякденного життя, він усвідомив, що у нього буде новий потужний інструмент як для збору інформації, так і для контролю над культурою, і для того, щоб зробити китайців більш «сучасними» і «керованими» – це було постійною нав’язливою ідеєю керівництва Китаю. Наступні досягнення, зокрема прогрес у сфері штучного інтелекту і створення більш швидких процесорів, наблизили це.
Наскільки нам відомо, у Китаї немає єдиного плану, який зв’язує технології і управління. Але є кілька ініціатив, які підтримують загальну стратегію збору даних про людей та компанії для полегшення процесу ухвалення рішень і створення системи стимулювання і покарання як методу впливу на поведінку людей. Ці ініціативи містять «Систему соціального кредиту», ухвалену Державною радою в 2014 році, закон про кібербезпеку 2016 року, різні експерименти на місцевому рівні і приватні підприємства у сфері «соціального кредиту», план «розумного міста» і політику високих технологій в західному регіоні Сіньцзяні. Часто ці ініціативи передбачають партнерські відносини між урядом і технологічними компаніями Китаю.
Відвідувачі на площі Тяньаньмень у Пекіні сканують свої посвідчення особи на контрольно-пропускному пункті. Фото: MIT Technology Review
Найуспішнішою є система соціального кредиту, хоча краще було б перекласти це як «система довіри» або «високої репутації». До урядового плану, який охоплює як людей, так і бізнес, внесено мету «побудови щирості в державних справах, комерційної чесності та довіри до судових органів».
«У всіх у Китаї знайдеться тітонька, яку колись обдурили. Існує законна необхідність справлятися з порушенням за допомогою суспільного розголосу», – каже Пол Тріоло (Paul Triolo), керівник практики геотехнологій у консалтинговій компанії Eurasia Group. На сьогодні ця робота триває повним ходом, а різні пілотні проекти роблять попередні оцінки цих систем і того, як вони запрацюють у 2020 році, коли будуть повністю реалізовані.
Чорні списки є першим інструментом системи. В останні п’ять років судова система Китаю публікує імена людей, які не заплатили штрафи або не виконали судових рішень. Згідно з новими правилами соціального кредиту, цей список надсилається різним підприємствам і державним установам.
Люди в чорному списку втрачають можливість позичати гроші в банку, бронювати авіаквитки та жити в готелях класу люкс
Національні транспортні компанії Китаю створили додаткові чорні списки, куди потрапили люди за «погану поведінку»: наприклад, блокування дверей у потягах або бійки в транспорті; порушникам забороняється купувати квитки протягом 6 або 12 місяців. Цього року Пекін дебютував із серією чорних списків, що забороняють «нечесним» підприємствам отримувати майбутні державні контракти або земельні гранти.
Деякі місцеві органи влади експериментували з «балами» соціального кредиту, хоча незрозуміло, чи будуть вони частиною національного плану чи ні. Наприклад, за повідомленням Foreign Policy, в північному місті Ронгченг бали соціального кредиту присвоюють кожному із 740 тис. жителів. Кожен починає з 1000 балів. Якщо ви жертвуєте на благодійність або отримуєте урядову нагороду, вам присвоюють бали; якщо ви порушуєте правила дорожнього руху, наприклад, водіння в нетверезому вигляді або перевищення швидкості на пішохідному переході, ви втрачаєте їх.
Люди з хорошими показниками можуть заробити знижки на зимове опалення або отримати вигідніші умови з іпотеки. Ті, у кого погані результати, можуть втратити доступ до банківських кредитів або до просування на службі на державних посадах. Мерія демонструє плакати місцевих рольових моделей 0 зразків для наслідування, які продемонстрували «чесноту» і заробили високі бали.
«Ідея соціального кредиту полягає в моніторингу і управлінні поведінкою людей і установ», – каже Саманта Гоффман (Samantha Hoffman) з Інституту китайських досліджень Меркатор у Берліні. «Тільки-но порушення зафіксоване в одній частині системи, воно може ініціювати відповідну реакцію в інших частинах системи. Це концепція, призначена для підтримки як економічного розвитку, так і соціального управління, і вона за своєю суттю політична».
Деякі паралелі з китайським проектом уже існують у США: поганий кредитний рейтинг може перешкодити вам взяти іпотечний кредит, тоді як засудження за тяжкі злочини призупиняє або анулює ваше право голосу. «Але вони не всі пов’язані однаково – немає загального плану», – підкреслює Гоффман.
Одна з найбільших проблем полягає в тому, що через відсутність у Китаї незалежної судової системи громадяни не можуть оскаржувати неправдиві або неточні звинувачення. Деякі з них виявили, що їхні імена додані в транспортний чорний список без відповідного рішення суду. За петиціонерами та журналістами-розслідувачами ведеться спостереження за однією системою, а за людьми, які потрапили в реабілітаційний центр через наркотики, спостерігають за іншою системою моніторингу.
«Теоретично, бази даних людей, що вживають наркотики, повинні прибирати їхні імена через п’ять або сім років, але є багато випадків, коли цього не відбувається, – каже Ванг з Human Rights Watch. – Дуже важко домогтися видалення свого імені з будь-якого з цих списків».
Окремі сплески гніву онлайн вказують на суспільне невдоволення. Новина про те, що студента не приййняли до коледжу через те, що його батько потрапив до кредитного чорного списку, розпалила неабиякі пристрасті онлайн. Рішення коледжу не було офіційно санкціоноване або узгоджене з урядом. Швидше, в своєму прагненні підтримати нову політику шкільні адміністратори просто перестаралися.
Непрозорість системи ускладнює оцінку того, наскільки ефективні експерименти на кшталт експериментів Ронгченга. Партія витиснула зі своїх лав майже всі критичні голоси ще в 2012 році, і ризики (небезпека) протидії системі тільки зростає. Інформація у відкритому доступі не завжди правдива; систематична фальсифікація даних з усіх питань, починаючи від зростання ВВП і аж до даних з використання гідроенергії, пронизує державну статистику Китаю. Дослідник Австралійського національного університету Борге Баккен вважає, що офіційні дані про злочинність, які уряд явно намагається применшувати, можуть становити лише 2,5% від реальних даних.
Теоретично, управління за допомогою збору даних могло б допомогти вирішити багато проблем без місцевих спотворень, якби центральний уряд збирав інформацію безпосередньо. Так, була ідея встановити монітори якості повітря, що відправляють дані в центральні органи влади, а не покладатися на місцевих чиновників, які можуть перебувати «у кишені» підприємств, що забруднюють повітря. Однак багато аспектів якісного управління країною занадто складні, щоб забезпечити такий вид прямого моніторингу, і замість цього уряд покладається на дані, надані місцевими чиновниками.
Проте, уряд Китаю рідко публікує дані про продуктивність підприємств, які дають змогу «стороннім» провести оцінку ефективності цих систем
Наприклад, камери, які використовуються, щоб виявити і присоромити пішоходів-порушників у деяких містах, проектують їхні обличчя на громадських рекламних щитах або використовуються для відстеження молитовних звичок мусульман у західному Китаї. Їхня коректність залишається під питанням: зокрема, наскільки добре програмне забезпечення розпізнавання облич, відпрацьоване на китайських ханьських обличчях, чи може воно розпізнавати обличчя членів груп євразійських меншин?
Система розпізнавання облич у Шанхаї. Фото: MIT Technology Review
Якщо всі зібрані дані точні, як уряд використовуватиме цю інформацію: моделюватиме і скеровуватиме чи перешкоджатиме прогнозованій поведінці? Алгоритми поліції, які моделюють, хто може стати потенційним злочинцем, не підлягають публічному контролю, так само як і статистика, що показує зростання або падіння показників злочинності й тероризму. (Наприклад, у західному регіоні Сіньцзян наявна інформація показує тільки те, що кількість людей, взятих під варту в поліції, різко зросла, збільшившись на 731% з 2016 по 2017 рік.)
«Не технології сформували таку політику, проте нові технології значно розширили обсяг даних, які китайський уряд може збирати про людей», – каже Ричард Макгрегор (Richard McGregor), старший науковий співробітник Інституту Лові та автор книжки «Партія: Секретний світ правителів комуністичного Китаю» (The Party: The Secret World of China’s Communist Rulers). «Інтернет у Китаї діє як приватна служба цифрової розвідки в режимі реального часу».
Політика моделювальних алгоритмів
У статті, опублікованій в газеті «Вашингтон пост» на початку цього року, Сяо Цян (Xiao Qiang), професор комунікацій Каліфорнійського університету в Берклі, назвав моделювання управління країною на основі баз даних у Китаї «тоталітарною цифровою державою».
Сіньцзян (тобто «нова територія») – традиційний район проживання китайської мусульманської меншини, відомої як уйгури. У цей район перебралася і влаштувалася велика кількість китайських мігрантів-ханьців; про них кажуть, що вони «колонізували» цей регіон, відповідно, це відразу відбилося на можливості працювати і дотримуватися релігійних традицій місцевих уйгурів, і не на краще, звичайно.
Одним із результатів міграції став сплеск насильства, у результаті якого постраждали і ханьці, і уйгури. У заворушеннях 2009 року в столиці регіону Урумчі, за повідомленнями, загинуло понад 200 осіб. Реакція уряду на зростання напруженості полягала не в тому, щоб проводити публічні роз’яснювальні форуми і вислуховувати думки або політичні рекомендації. Замість цього в регіоні активно використовують збір даних і алгоритми моделювання і виявлення тих, хто «може» вчинити акти насильства або непокори в майбутньому.
Уряд Сіньцзяна найняв приватну компанію для розробки моделюючих алгоритмів, які оцінюють різні потоки даних. Однак публічні звіти діяльності цієї компанії або відповідальність за те, як ці алгортми побудовані та працюють, не передбачені. «Люди, які живуть у цій системі, як правило, навіть не знають, які правила», – каже Раян Тум (Rian Thum), антрополог з Університету Лойола, який вивчає Сіньцзян і знає про державні замовлення, які пов’язані зі створенням системи моделювання.
У західному місті Кашгар багато будинків і магазинів на головних вулицях тепер забиті, а громадські площі порожні. Коли я відвідав місто в 2013 році, було зрозуміло, що Кашгар вже був містом, що зазнало сегрегації – ханьське та уйгурське населення жили та працювали в різних частинах міста
Раніше вечорами це було жваве і часто гучне місце, де заклики до молитви змішувалися з танцювальною музикою з місцевих клубів і розмовами людей похилого віку, які сиділи допізна на пластикових стільцях на терасах. Сьогодні в місті моторошно тихо; суспільне життя тут практично зникло. Емілі Фен, журналістка Financial Times, у червні відвідала Кашгар і розмістила в Twitter фотографії спорожнілих вулиць. Причина в тім, що, за деякими оцінками, більш як один із 10 дорослих уйгурів і казахів у Сіньцзяні були відправлені в «перевиховвувальні табори» з колючим дротом, а ті, хто залишається на волі, бояться.
За останні два роки були створені тисячі контрольно-пропускних пунктів, на яких перехожі повинні показати своє обличчя і національне посвідчення особи, щоб проїхати шосе, увійти до мечеті або відвідати торговий центр. Уйгури зобов’язані встановлювати розроблені урядом трекінг-застосунки на свої смартфони, які відстежують їхні онлайн-контакти і відвідані веб-сторінки. Поліцейські регулярно обходять місцеві будинки, щоб зібрати додаткову інформацію про те, скільки людей живе в домашньому господарстві, які їхні стосунки з сусідами, скільки разів люди моляться щодня, чи подорожували вони за кордон і які книжки у них є в будинку.
У місті Сяньян камери, пов’язані з технологією розпізнавання облич, проектують обличчя необережних пішоходів з іменами та ідентифікаційними номерами на білборд. Фото: MIT Technology Review
Усі ці потоки даних надходять до системи громадської безпеки Сіньцзяна разом із іншими записами, які збирають інформацію про все – від банківської історії до планування сім’ї. «Комп’ютерна програма збирає всі дані з різних джерел і відзначає тих, хто може стати “загрозою” для влади», – каже Ванг. Хоча точний алгоритм невідомий, вважається, що він може містити інформацію про такі дії, як відвідування певної мечеті, придбання великої кількості книжок, купівля великої кількості бензину або отримання телефонних дзвінків чи електронних листів від контактів за кордоном. Таких людей відвідує поліція, яка може взяти їх під варту і посадити до в’язниці або в табори перевиховання без будь-яких офіційних звинувачень.
Адріан Зенц, політолог із Європейської школи культури та теології у Корнталі, Німеччина, підрахував, що рівень інтернування меншин у Сіньцзяні може сягати 11,5% усього дорослого населення. Ці табори покликані прищепити патріотизм і змусити людей відмовитися від релігійних переконань. (Нові відомості про закупівлю оснащення для охоронців під час обрядів кремації, схоже, вказують на те, що уряд також намагається викорінити традиційні мусульманські похоронні практики в регіоні.)
Тоді як Сіньцзян є драконівською крайністю, в інших частинах Китаю громадяни починають чинити опір системам спостереження. Інтернет-компанія, яка транслювала безперервний потік телевізійних кадрів у режимі онлайн (streamed closed-circuit TV footage online), була змушена закрити ці трансляції у зв’язку з громадським протестом. Місто Шанхай нещодавно видало правила, що дозволяють людям оскаржувати неправильну інформацію, внесену в записи щодо соціальних кредитів.
«Зростають вимоги до конфіденційності з боку китайських інтернет-користувачів», – каже Семм Сакс (Samm Sacks), старший науковий співробітник Програми технічної політики в CSIS у Нью-Йорку. – Це зовсім не схоже на вільний і доступний ресурс для всіх, яким він має бути».
