THINK TANK

І....PER ASPERA – AD ASTRA


THINK TANK

І....PER ASPERA – AD ASTRA


еПРАВОСУДДЯ

Illustration


ВЛАДИСЛАВ ФАРАПОНОВ

ЕКСПЕРТ ADASTRA ANALYTICS

Як штучний інтелект змінює кримінальне правосуддя?

Багато з нас знають про те, що системи штучного інтелекту регулярно приймають рішення, наприклад, надаючи рекомендації щодо Netflix або Amazon. Як щодо рішень, які більш, ніж суттєво впливають на чиєсь життя? Чи слід застосовувати системи штучного інтелекту в ситуаціях, що можуть докорінно змінити життя, наприклад, щодо винесення судового вироку? Враховуючи те, що партія, яка здобула рекордну кількість голосів на виборах до Верховної Ради, збирається використовувати штучний інтелект під час аналізу голосувань у Парламенті, не буде зайвим проаналізувати, які виклики несе в собі використання штучного інтелекту на прикладі діяльності судів.
Насправді, таке вже відбувається протягом декількох останніх років. Зараз ми просто спостерігаємо за цим та оцінюємо переваги й недоліки застосування штучного інтелекту в процесі винесення вироку в кримінальному процесі. Які проблеми можуть лише посилитися, а які – зникнути?
Одним із найбільш важливих моментів у судових рішеннях, від встановлення або відмови в можливості звільнення особи з-під варти під заставу, до винесення вироку, залишається «ризик рецидиву» – вірогідність повторного вчинення правопорушення. До використання таких методів та засобів, які дещо змінились за останні 30 років, ризик рецидиву та переховування (втеча з метою ухилення від кримінальної відповідальності) слугував виправданням для суб’єктивного характеру ухвалення рішень та окремої думки суддів.
Усі людські рішення схильні до суб’єктивності та, попри найкращі наміри, в основі судової системи закладено суб’єктивізм. Як представлення системи штучного інтелекту змінює цей процес? Для розуміння цього слід спочатку проаналізувати традиційну систему, без штучного інтелекту.

Попри все, компанії, що створюють системи штучного інтелекту для кримінального процесу, залишаються орієнтованими на прибуток та ставляться до свого продукту як до комерційної таємниці.

Владислав Фарапонов

Історія до штучного інтелекту

Уявіть, що ви заарештовані та звинувачуєтесь у збройному нападі. Ви не вчиняли цього злочину, але Ви схожі на підозрюваного, живете в цьому районі, і Ваш автомобіль відповідає опису автотранспорту.
Після арешту Ви з'явитесь перед суддею, який визначає умови застави для Вас. Традиційно суддя бере до уваги відповідну інформацію: можливість переховування, а також характер і ступінь тяжкості злочину. Проте людські аспекти грають не менш важливу роль. Якщо слухання справи відбувається рано вранці, або після запланованої перерви, суддя може бути більш поблажливим до Вас.
Уявімо, що слухання відбувається відразу після сніданку та ця несвідома нерівність у ставленні дістається саме Вам. Суддя встановлює заставу на суму, яку Ви не можете дозволити собі, і Ви будете перебувати від сьогодні і протягом судового процесу у в'язниці. Це звичайний сценарій, близько 82% підсудних у США проводять досудове слідство у в'язниці, тому що не можуть оплатити заставу. Ось одне з найважливіших та найскладніших питань кримінального процесу: Ви не були визнані винними у вчиненні злочину, але Ви вже стали учасником процесу, і зміни у вашому житті вже стали очевидними.
Середній проміжок часу між арештом та засудженням становить 6 місяців. Цілком імовірно, що Ви втратите роботу. Також можливо, що Ви втратите опіку над вашими дітьми, прострочити платежі, Ваш кредитний рейтинг зайде далеко в мінус, Ви навіть можете втратити свою домівку. Такі зміни особливо негативно можуть вплинути на тих людей, які вже й так ледь зводять кінці з кінцями. Більше того, якщо Ви невинні, Ви вже провели півроку в одному середовищі з небезпечними особами. Намагаючись вижити зсередини, тепер ви маєте значно більшу спокусу вчинення злочину назовні.

Інший можливий сценарій

Наскільки іншою могла би бути ваша історія, якщо суд, у якому Вас звинувачують, використовував би штучний інтелект?
Давайте повернемось до початку Вашої історії. Ви були заарештовані, а зараз знаходитесь на слуханні щодо можливості Вашого виходу під заставу. На підставі таких факторів, як попередні засудження та арешти, а також вік та поточні платежі за рахунками, суддя отримує звіт від програмного забезпечення штучного інтелекту, який показує, що у Вас низький ризик можливого переховування. 

Які переваги та недоліки цієї суттєвої зміни в історії?

По-перше, деяка упередженість людей може бути зменшена. Хоча суддя приймає остаточне рішення, маючи цей AI-звіт як базовий, означає, що менш імовірно на результат матиме вплив, наприклад, як суддя почував себе того дня. Окрім того, це алгоритми, які зменшують вплив факторів, такі як стать, раса, походження, та можуть зменшити деякі упередження, які впливають на людські рішення.
Існує також імовірність підвищення ефективності роботи суду в цілому. Отримання первинного звіту від штучного інтелекту може допомогти прискорити процес. Програмне забезпечення обробляє інформацію набагато швидше, ніж представники Феміди. Тому судді можуть розглянути більше справ, а це означає, що люди можуть витрачати менше часу на очікування у в'язниці під час слухань про їхній можливий вихід під заставу, а гроші платників податків будуть витрачені більш ефективно.
Однак необхідно детально розглянути питання суб’єктивізму. Система штучного інтелекту цілком може усунути неявні упередження цього конкретного судді, але також щодо усіх сукупних упереджень у всіх рішеннях, які суддя слухав до цього. Багато людей інтуїтивно вважають комп'ютери об'єктивними обчислювальними машинами, такими як калькулятори, які завжди дають вам логічний результат. Системи штучного інтелекту є принципово іншими, а дослідження показали, що вони, як правило, мають властиві упередження людей, які навчали їх. Тому системи будуть наслідувати такі рішення і в суді, упередження та все інше, що притаманно людям.


Це не є передбаченим результатом роботи інтелекту, а скоріше невід'ємна особливість самої технології, і це те, що, як правило, нескладно зрозуміти не спеціалісту.
Можна стверджувати, що з часом штучний інтелект може звести до мінімуму упередження до такої міри, що воно статистично буде незначним, оскільки точність системи інтелекту збільшується. Однак для цього аргументу є ряд ускладнень. По-перше, це нелегко виміряти, а системні упередження спостерігаються і вивчаються в дійсних системах штучного інтелекту на практиці.
Попри все, компанії, що створюють системи штучного інтелекту для кримінального процесу, залишаються орієнтованими на прибуток та ставляться до свого продукту як до комерційної таємниці. Люди не зі штату компанії загалом не мають доступу до цього коду. З огляду на це, на Вашу думку, як закінчилась історія з арештом тієї особи? Чи Ви можете бути врятовані від суддівських упереджень? Чи станете Ви жертвою суб’єктивності в системі штучного інтелекту? Насправді, будь-який підсумок є можливим.

А що далі?

Як ми можемо використати переваги штучного інтелекту в процесі ухвалення судових рішень, одночасно гарантуючи, що ми не кодифікуємо та не впроваджуємо упередження у вже недосконалу судову систему?
Для початку потрібно провести більш ретельне дослідження упередженості штучного інтелекту та наслідків його використання у кримінальному судочинстві. Є вже деякі групи, які вирішують цю проблему. Крім того, розробники повинні глибше поглянути на те, хто бере участь у створенні програмного забезпечення, щоб забезпечити плюралізм думок і точок зору. Це виклик не тільки для розвитку системи інтелекту, але й технологічній індустрії в цілому.
Компанії можуть співпрацювати з людьми, представниками різних рас, статей, соціальних та економічних класів, так само як і особи, яких заарештовано, звільнено та усіх, хто відчуває вплив упереджень у кримінальному процесі на собі.
Ще однією важливою зміною є прозорість процесу розробки. Відсутність прозорості вже стала предметом позову до Верховного суду США. Проте початкове рішення суду було підтримано, оскільки алгоритм розглядався лише як частина процесу прийняття рішень.
Є також фактори, які компанії могли б розглянути при розробці програмного забезпечення, написаного третьою стороною. Вони змогли уникнути прихованого програмного забезпечення «чорного ящику» та ставити гострі питання компанії, яка виробляє програмне забезпечення.Окрім застосування інтелекту, вони могли б залучити організації, які не залежать від «тюремної кухні», і не отримують ніякої вигоди від великої кількості ув'язнених.
Процеси за допомогою штучного інтелекту можуть бути створені для нагляду, контролю та підзвітності систем, щоб забезпечити їхню цілісність протягом часу. Нарешті, освіта та обмін знаннями можуть бути найбільш доступним способом індивідуального впливу на такі системи.Настав час визнати, що ці системи існують уже сьогодні та безпосередньо впливають на життя людей. Окрема частина технологічної спільноти почала займатися цим.

Це дискусія, яка повинна проходити як у межах сфери технологій, так і поза нею. Звідти ми маємо право формувати майбутні напрямки цих систем і навіть запитаємо, чи є вони системами, які ми повинні розвивати, через дослідження, освіту, адвокаційні кампанії та політику. Ми повинні усвідомлювати можливі компроміси та допомагати організаціям працювати над удосконаленням систем правосуддя в той час, коли також розвивається штучний інтелект. Вплив штучного інтелекту однозначно буде відчутним для людей незалежно від громадянства. Наша спільна роль полягає в тому, щоб контролювати те, що відбуватиметься далі.