Як штучний інтелект змінює кримінальне правосуддя?

Ви, певно, знаєте про те, що системи штучного інтелекту беруть участь у прийнятті рішень людиною, наприклад, надаючи рекомендації користувачам у сервісах Netflix або Amazon. Однак як щодо рішень, які більш суттєво впливають на чиєсь життя? Чи слід застосовувати системи штучного інтелекту в ситуаціях, що можуть докорінно змінити долю людини, наприклад, у ситуації винесення судового вироку?

Враховуючи те, що партія, яка здобула рекордну кількість голосів на виборах до Верховної Ради України, збирається використовувати штучний інтелект під час аналізу голосувань у парламенті, не буде зайвим проаналізувати, які виклики несе в собі використання штучного інтелекту на прикладі діяльності судів.

Насправді, таке вже відбувається протягом декількох останніх років. Зараз ми просто спостерігаємо за цим та оцінюємо переваги й недоліки застосування штучного інтелекту в процесі винесення вироку в кримінальному процесі. Які проблеми можуть лише посилитися, а які – зникнути?

Одним із найбільш важливих моментів у судових рішеннях від встановлення або відмови в можливості звільнення особи з-під варти під заставу до винесення вироку залишається «ризик рецидиву» – вірогідність повторного вчинення правопорушення. До використання таких методів та засобів, які дещо змінились за останні 30 років, ризик рецидиву та переховування (втеча з метою ухилення від кримінальної відповідальності) слугували виправданням для суб’єктивного характеру ухвалення рішень та окремої думки суддів.

Усі людські рішення схильні до суб’єктивності та, попри найкращі наміри, в основі судової системи закладено суб’єктивізм. Як введення у процес системи штучного інтелекту змінює ведення правосуддя? Для розуміння цього слід спочатку проаналізувати традиційну систему, без штучного інтелекту.

Історія до штучного інтелекту

Уявіть, що ви заарештовані та звинувачуєтесь у збройному нападі. Ви не вчиняли цього злочину, але ви схожі на підозрюваного, живете в цьому районі, і ваш автомобіль відповідає опису автотранспорту злодія. Після арешту ви з'явитесь перед суддею, який визначає умови застави для вас. Традиційно служитель Феміди бере до уваги відповідну інформацію: можливість переховування, а також характер і ступінь тяжкості злочину. Проте людські аспекти грають не менш важливу роль. Якщо слухання справи відбувається рано вранці або після запланованої перерви, суддя може бути більш поблажливим до вас.

Уявімо, що слухання відбувається відразу після сніданку та ця несвідома нерівність у ставленні дістається саме вам. Суддя встановлює заставу на суму, яку ви не можете дозволити собі, і ви будете перебувати від сьогодні і протягом судового процесу під арештом. Це звичайний сценарій, близько 82% підсудних у США проводять досудове слідство за ґратами, тому що не можуть оплатити заставу. Ось одне з найважливіших та найскладніших питань кримінального процесу: ви не були визнані винними у вчиненні злочину, але ви вже стали учасником процесу, і зміни у вашому житті вже стали очевидними.

Середній проміжок часу між арештом та засудженням становить 6 місяців. Цілком імовірно, що за цей час ви втратите роботу. Також можливо, що ви втратите опіку над вашими дітьми, прострочите платежі, ваш кредитний рейтинг зайде далеко в мінус, ви навіть можете втратити свою домівку. Такі зміни особливо негативно можуть вплинути на тих людей, які вже й так ледь зводять кінці з кінцями. Більше того, якщо ви невинні, ви вже провели пів року в одному середовищі з небезпечними особами. Намагаючись вижити зсередини, тепер ви маєте значно більшу спокусу вчинити злочин назовні.

Інший можливий сценарій

Наскільки іншою могла би бути ваша історія, якби суд, у якому проходить ваша справа, використав би штучний інтелект? Давайте повернемось до початку вашої історії. Ви були заарештовані, а зараз знаходитесь на слуханні щодо можливості виходу під заставу. На підставі таких факторів, як попередні засудження та арешти, а також вік та поточні платежі за рахунками, суддя отримує звіт від програмного забезпечення штучного інтелекту, який показує, що у вас низький ризик можливого переховування. 

Які переваги та недоліки цієї суттєвої зміни в історії?

По-перше, деяка упередженість людей може бути зменшена. Хоча суддя ухвалює остаточне рішення, маючи цей ШІ-звіт як базовий, означає, що менш імовірно на результат матиме вплив, наприклад, як суддя почував себе того дня. Окрім того, це алгоритми, які зменшують вплив факторів, таких як стать, раса, походження, та можуть зменшити деякі упередження, які впливають на людські рішення.

Існує також імовірність підвищення ефективності роботи суду в цілому. Отримання первинного звіту від штучного інтелекту може допомогти прискорити процес. Програмне забезпечення обробляє інформацію набагато швидше, ніж представники Феміди. Тому судді можуть розглянути більше справ, а це означає, що люди можуть витрачати менше часу на очікування у в'язниці під час слухань про їхній можливий вихід під заставу, а гроші платників податків будуть витрачені більш ефективно.

Однак необхідно детально розглянути питання суб’єктивізму. Система штучного інтелекту цілком може усунути неявні упередження цього конкретного судді, але також щодо усіх сукупних упереджень у всіх рішеннях, які суддя слухав до цього. Багато людей інтуїтивно вважають комп'ютери об'єктивними обчислювальними машинами, такими як калькулятори, які завжди дають вам логічний результат. Системи штучного інтелекту є принципово іншими, а дослідження показали, що вони, як правило, мають властиві упередження від людей, які навчали їх. Тому системи будуть наслідувати такі рішення і в суді, упередження та все інше, що притаманно людям.

Це не є передбачуваним результатом роботи інтелекту, а скоріше невід'ємна особливість самої технології, і це те, що, як правило, нескладно зрозуміти неспеціалісту. Можна стверджувати, що з часом штучний інтелект може звести до мінімуму упередження до такої міри, що воно статистично буде незначним, оскільки точність системи інтелекту збільшується. Однак для цього аргументу існує низка ускладнень.

По-перше, це нелегко виміряти, а системні упередження спостерігаються і вивчаються в дійсних системах штучного інтелекту на практиці. Попри все, компанії, що створюють системи штучного інтелекту для кримінального процесу, залишаються орієнтованими на прибуток та ставляться до свого продукту як до комерційної таємниці. Люди не зі штату компанії загалом не мають доступу до цього коду. З огляду на це, на вашу думку, як закінчилась історія з арештом тієї особи? Чи ви можете бути врятовані від суддівських упереджень? Чи станете ви жертвою суб’єктивності в системі штучного інтелекту? Насправді, будь-який підсумок є можливим.

А що далі?

Як ми можемо використати переваги штучного інтелекту в процесі ухвалення судових рішень, одночасно гарантуючи, що ми не кодифікуємо та не впроваджуємо упередження у вже недосконалу судову систему? Для початку потрібно провести більш ретельне дослідження упередженості штучного інтелекту та наслідків його використання у кримінальному судочинстві. Є вже деякі групи, які вирішують цю проблему. Крім того, розробники повинні глибше поглянути на те, хто бере участь у створенні програмного забезпечення, щоб гарантувати плюралізм думок і точок зору. Це виклик не тільки для розвитку системи інтелекту, але й технологічній індустрії в цілому.

Компанії можуть співпрацювати з людьми, представниками різних рас, статей, соціальних та економічних класів, так само як і особи, яких заарештовано, звільнено та усіх, хто відчуває вплив упереджень у кримінальному процесі на собі. Ще однією важливою зміною є прозорість процесу розробки. Відсутність прозорості вже стала предметом позову до Верховного суду США. Проте початкове рішення суду було підтримано, оскільки алгоритм розглядався лише як частина процесу ухвалення рішень.

Є також фактори, які компанії могли б розглянути під час розробки програмного забезпечення, написаного третьою стороною. Вони змогли уникнути прихованого програмного забезпечення «чорного ящику» та ставити гострі питання компанії, яка виробляє програмне забезпечення. Окрім застосування інтелекту, вони могли б залучити організації, які не залежать від «тюремної кухні» і не отримують ніякої вигоди від великої кількості ув'язнених.

Процеси за допомогою штучного інтелекту можуть бути створені для нагляду, контролю та підзвітності систем, щоб забезпечити їхню цілісність протягом часу. Нарешті, освіта та обмін знаннями можуть бути найбільш доступним способом індивідуального впливу на такі системи. Настав час визнати, що ці системи існують уже сьогодні та безпосередньо впливають на життя людей. Окрема частина технологічної спільноти почала займатися цією проблематикою.

Це дискусія, яка повинна проходити як у межах сфери технологій, так і поза нею. Звідти ми маємо право формувати майбутні напрямки цих систем і навіть запитаємо, чи є вони системами, які ми повинні розвивати через дослідження, освіту, адвокаційні кампанії та політику. Ми повинні усвідомлювати можливі компроміси та допомагати організаціям працювати над удосконаленням систем правосуддя в той час, коли також розвивається штучний інтелект. Вплив штучного інтелекту однозначно буде відчутним для людей, незалежно від громадянства. Наша спільна роль полягає в тому, щоб контролювати те, що відбуватиметься далі.  Матеріал підготований у межах спецпроєкту ADASTRA DIGITAL.       

Автор – Владислав Фарапонов, експерт Аналітичного центру ADASTRA