Микола Карчевський, 7.11.2025

✍️Це ключова теза статті Rajiv Movva “Деконструйована справедливість: соціотехнічний погляд на «справедливі» алгоритми у кримінальному правосудді”.  Автор пропонує інший погляд на використання ШІ у кримінальній юстиції.

📍Помилкове розуміння “справедливості”. Дослідники ШІ зводять справедливість до математичних формул (наприклад, рівної точності прогнозів для різних рас). Це ігнорує соціальний контекст і не усуває шкоди.

📍Упереджені дані. Алгоритми оцінки досудового ризику (як-от COMPAS) навчаються на історичних даних про арешти. Ці дані не відображають об’єктивну злочинність, а лише історію поліцейської та прокурорської практики. ШІ лише закріплює існуючу структурну нерівність.

📍Процедурна несправедливість. Навіть “справедливий” алгоритм не гарантує справедливого результату, оскільки судді можуть ігнорувати або вибірково використовувати його оцінки, посилюючи власні упередження.

📍Пропозиція: припинити використовувати ШІ для “вивчення тих, хто не має влади” (тобто обвинувачених), створити “алгоритм судової оцінки”, який би кількісно визначав ризик упередженості судді.

ШІ має дивитися “вгору”, а не “вниз”.

🌏Статтю можна знайти тут: https://doi.org/10.48550/arXiv.2106.13455

🤔Коментар. Робота докторанта UC Berkley Rajiv Movva цікава в першу чергу концентрованим представленням критики алгоритмів в юстиції. Оцінка упередженості судді скоріше за все має включатися до прогнозів ШІ у кримінальній юстиції.

​Однак, пропозиція фокусу юстиції на алгоритмі, спрямованому на нагляд за суддями та кількісній оцінці їхніх упереджень, приведе лише до формування зайвої впливової структури влади, оснащеної ШІ. Як наслідок, створення ще однієї істотної небезпеки для справедливості через новий спосіб порушення незалежності суддів.

Все сказане підтверджує справжню проблему: найбільша загроза справедливості в юстиції виходить не від недосконалих інструментів, не від машини, а від показової, фіктивної доброчесності людей, що її реалізують.

✍️Це ключова теза статті “Деконструйована справедливість: соціотехнічний погляд на «справедливі» алгоритми у кримінальному правосудді”.  Автор пропонує інший погляд на використання ШІ у кримінальній юстиції.

📍Проблеми.

📍Помилкове розуміння “справедливості”. Дослідники ШІ зводять справедливість до математичних формул (наприклад, рівної точності прогнозів для різних рас). Це ігнорує соціальний контекст і не усуває шкоди.

📍Упереджені дані. Алгоритми оцінки досудового ризику (як-от COMPAS) навчаються на історичних даних про арешти. Ці дані не відображають об’єктивну злочинність, а лише історію поліцейської та прокурорської практики. ШІ лише закріплює існуючу структурну нерівність.

📍Процедурна несправедливість. Навіть “справедливий” алгоритм не гарантує справедливого результату, оскільки судді можуть ігнорувати або вибірково використовувати його оцінки, посилюючи власні упередження.

📍Пропозиція: припинити використовувати ШІ для “вивчення тих, хто не має влади” (тобто обвинувачених), створити “алгоритм судової оцінки”, який би кількісно визначав ризик упередженості судді.

ШІ має дивитися “вгору”, а не “вниз”.

🌏Статтю можна знайти тут: https://doi.org/10.48550/arXiv.2106.13455

🤔Коментар. Робота докторанта UC Berkley Rajiv Movva цікава в першу чергу концентрованим представленням критики алгоритмів в юстиції. Оцінка упередженості судді скоріше за все має включатися до прогнозів ШІ у кримінальній юстиції.

​Однак, пропозиція фокусу юстиції на алгоритмі, спрямованому на нагляд за суддями та кількісній оцінці їхніх упереджень, приведе лише до формування зайвої впливової структури влади, оснащеної ШІ. Як наслідок, створення ще однієї істотної небезпеки для справедливості через новий спосіб порушення незалежності суддів.

Все сказане підтверджує справжню проблему: найбільша загроза справедливості в юстиції виходить не від недосконалих інструментів, не від машини, а від показової, фіктивної доброчесності людей, що її реалізують.