THINK TANK

І....PER ASPERA – AD ASTRA


THINK TANK

І....PER ASPERA – AD ASTRA


Модифікація демократії від Microsoft та IBM: цифрове око на варті громадського спокою

Модифікація демократії від Microsoft та IBM: цифрове око на варті громадського спокою

Протести імені Джорджа Флойда кардинально змінили конфігурацію внутрішньополітичної ситуації в Сполучених Штатах Америки. Питання внутрішньої безпеки превалює в суспільному дискурсі поряд зі знову актуалізованою темою расизму. За обставин, коли традиційні засоби регулювання та нагляду за правопорядком вже не здатні повною мірою гарантувати безпеку, на допомогу Білому дому готові прийти два холдинги-техногіганти: IBM та Microsoft. Як вони пропонують оберігати громадський порядок та які зміни очікують на американців у разі, якщо Дональд Трамп усе ж прийме руку допомоги, що йому люб’язно простягають такі напрочуд серйозні гравці на глобальному IT ринку? Сьогодні спробуємо в усьому докладно розібратися.

Компромат на вас для нас

Цифровий алгоритм, який дозволяє зчитувати широкий спектр персональних даних індивіда усього лише завдяки ідентифікації обличчя останнього вперше побіжно згадувався у статті Forbes на початку літа. Ішлося про те, що три компанії (Microsoft, Amazon та IBM) незалежно одна від одної займаються розробкою спеціалізованого комплексу програмного забезпечення, призначенням якого є ідентифікація особи за допомогою досконалих механізмів упізнання. По завершенню цієї процедури на екрани моніторів у дата-центрах правоохоронних органів виводяться всі без винятку персональні дані, взяті із вже наявних (або таких, що лише належить сформувати) реєстрів та архівів. Для складання якомога точнішого досьє на потенційного порушника правоохоронним структурам відкриватиметься доступ також і до особистісних властивостей та рис характеру громадянина.

За роботу із цим сектором інформації відповідальна підсистема, заточена на філігранну роботу з мімікою людини з метою визначення всіх її ментальних характеристик. Моніторинг динаміки змін емоційних станів людини в поєднанні з даними, одержаними після здійснення зовнішнього сканування, у результаті дасть можливість мати у власному користуванні максимально насичений фактажем портрет окремого члена суспільства. На даний час найближчими до кінцевої мети є саме фахівці компанії Білла Гейтса. Версія багаторівневого сітізентрекінгу (від англ. citizen tracking – відслідковування громадян) у виконанні «майків» поки єдина має «товарний вигляд».

Згідно з буквою закону

8 червня група демократів зареєструвала закон про реформу поліції (George Floyd Justice in Policing Act of 2020). У відповідності до нього поліціянти будуть обладнані натільними камерами, спеціально сертифікованими для роботи зокрема й із технологією розпізнавання облич. Ними вони користуватимуться під час регулярного патрулювання. Окремі пункти законодавчого акту регламентують використання алгоритму представниками ФБР. Ті, одночасно з носінням натільного устаткування для розпізнавання, муситимуть маркувати службові авто, а також уніформу спеціальними розпізнавальними знаками. Це дасть змогу підкреслити виняткове право службовця на розширене застосування відстежувальних інструментів, які пропонує алгоритм.

Читайте також: Технологічна диктатура в умовах кризи: демократія під загрозою?

Разом із тим, таке рішення надасть громадянам можливість полегшити судову тяганину у випадку, якщо силовики якимось чином вдадуться до неправомірних дій. При цьому, перш аніж скористатися електронним ґаджетом, працівник служби перед прямим контактом із підозрюваним буде зобов’язаний отримати спеціальний сигнал підтвердження із єдиного судового реєстру. Там має міститися рішення судді, в якому чітко вказано, що дані щодо особи, яка переслідується або вже затримана, є релевантними та фіксують останню як фігуранта будь-якого особливо тяжкого злочину, розслідування якого триває на момент контакту із потенційним винуватцем.

Безпека для влади, а не влада для безпеки

Наміри впровадження цієї «диво»-технології озвучені нібито благі, проте розробка такого безвідмовного й багатофункціонального електронного спостерігача, може пояснюватися передусім бажанням Вашингтона використати його як засіб упереджувальної дії проти тих же антивладних протестів, виправдовуючи натомість необхідність застосування технології спробами знизити рівень злочинності (середній індекс криміногенності по США становить 3.295; цікаво, що левову частку цього числа забезпечує столиця). Таким чином даний гострозорий наглядач може бути спрямований насамперед на захист владної вертикалі – шляхом надання поліцейським у режимі реального часу максимально деконструйованого образу кожного мешканця в окремо взятому населеному пункті. Маючи повну картину коливань соціальної напруги, відповідні служби знатимуть, звідки чекати, скажімо, протестних чи антиурядових рухів.

Окрім того, в контексті дослідження коливань протестних настроїв буде змога виокремити «групи ризику», що охоче братимуть участь у мітингах, маніфестаціях та заворушеннях, ініційованих радикалами різного штибу. Поглянувши на організації, які так чи інакше причетні до останніх протестів чорношкірих у США, згадуємо про ультраправих парамілітаристів-анархістів «Бугало Бойс» та лівий соціалістичний інтернаціонал «Антифа». Щоправда, існує і «зворотній бік медалі»: людський фактор, або ж «ефект заручника обставин». За такого розвитку подій, коли непричетна до агресивних виявів антисистемної поведінки людина за велінням випадку опиняється в епіцентрі народних хвилювань та автоматично прирівнюється цифровим оком до порушників, з’являються підстави для розмов про фатальну недосконалість штучно створеного правоохоронного середовища.

Правоохоронна еліта розуміє серйозність ризиків

До цього часу жодна конкретна правозахисна організація не наважилася відкрито критикувати ініціативу, обмежившись натомість висловленням занепокоєння та стурбованості, про що можемо прочитати у вже згаданій вище статті від Forbes. Там же читаємо і про те, що розробники високотехнологічного алгоритму вирішили призупинити переговори із силовиками стосовно укладення угод на постачання готового продукту кінцевому споживачеві. Набагато більш рішучу позицію зайняли люди, котрі входять у коло осіб, відповідальних за коректне корелювання закону та порядку зі всім спектром прав і свобод громадян.

Що найважливіше, ці фахівці належать до державного сектору. Зокрема, головна законодавча радниця округу Вашингтон Німа Джуліані під час коментування шансів на ухвалення закону про реформу поліції заявила, що вона впевнена в неможливості повного усунення технічного браку, прояви якого можуть призводити до численних помилок у процесі безпосередньої ідентифікації фігурантів правопорушень. Виходячи зі слів правниці, нейтралізація збоїв та неточностей може тривати роками, тому зараз такі кардинальні видозміни системи правоохоронного нагляду впроваджувати не зовсім доцільно.

То що не так із цією технологією?

Розглядаючи питання масштабу потенційних ризиків використання подібних технологій для обслуговування потреб силових служб, хочеться окремо зупинитися на одній із найсуттєвіших вад – неправильній ідентифікації громадян. Наприклад, коли при розпізнанні зовнішності цивільного, котрий не вчиняв правопорушень, система вказує на близьку до стовідсоткової схожість невинного зі злочинцем, особисті дані якого перебували у дата-центрі правоохоронців до моменту співставлення їх із характеристиками незлочинця. Минулорічні дослідження фахівців з університету м. Ессекс стали хорошою ілюстрацією абсолютної «незрілості» проєкту. Відповідно до отриманих науковцями результатів, у 80% випадків цифровий ідентифікатор допускав серію грубих помилок.

Тримаючи в пам’яті ситуацію із протестами чорношкірих людей по всьому світу, інстинктивно звертаєш увагу і на американський невтішний досвід бета-тестування. Як ми вже знаємо з описаного раніше, компанія Amazon перебуває в складі конкурентної групи з розробки засобу стеження за громадським порядком. Так от, у січні минулого року тестування в реальних умовах виявило, що їхній продукт найбільш коректно і стерпно працює... із білошкірими обличчями. Випробування продемонструвало тільки 30% «чистих» сеансів сканування для чорношкірих. З погляду неупередженості це дуже й дуже велика проблема.

The power is ours

Добровільно взявши на себе не такий уже й важкий для власних можливостей тягар безпекових регуляторів, раніше згадані ТНК натомість, імовірно, прохатимуть передати їм частину важелів політичного впливу. На перший погляд, це виглядатиме цілком справедливо, адже корпорації по суті займатимуться невластивою для себе діяльністю з безперервного нагляду за правопорядком у загальнодержавних масштабах.

Дізнавайтеся більше: Медіаринок США – невидиме поле битви всередині держави

Малоприємним для американських політиків з вищого ешелону буде ототожнення з Китаєм, де державні інтереси обслуговує технологічна еліта, відповідальна за реалізацію концепції «кібердиктатури». У Білого дому не буде вибору – доведеться, скриплячи зубами, вводити технологічний естеблішмент до лав управлінської верхівки. Зі свого боку, такий крок, найімовірніше, призведе до відчутного звуження спектру прав громадян.

Висновок

Надмірна автоматизація правоохоронного нагляду за рахунок рішень недержавних комерційних компаній рівною мірою небезпечна та вбивчо ефективна. Адміністрації Дональда Трампа не варто навіть брати до уваги цю опцію, принаймні доки ймовірність похибки у всіх технічних процесах не буде мінімізована. Надто частий її прояв може коштувати американцям дуже дорого. Поруч із цим, необхідно зберігати рівновіддалену позицію стосовно керівництва холдингів, щоб унеможливити надто сильний їхній вплив на розв’язання ситуації та вироблення подальшої превентивної стратегії прийняття політичних рішень за умови розгортання схожих подій у майбутньому – далекому, а чи й близькому. До слова про близьке (чи навіть дуже близьке) майбутнє: не варто забувати про наближення президентських виборів, що пройдуть у листопаді 2020 року. З огляду на це, Трампу не бажано робити надто відчайдушних чи таких, що розколюють суспільство, кроків, якщо він не бажає розгубити свої шанси на переобрання.

Автор – Богдан Боднарук, політичний оглядач і публіцист Фонду громадської дипломатії, для «ADASTRA»