Микола Карчевський, 19.11.2025
Цю справу найчастіше згадують в контексті непрозорості алгоритмів ШІ, так званої проблеми “black box”.
⚖️Рішення було прийнято Верховним судом штату Вісконсин у липні 2016 року. Обвинувачений, Ерік Луміс (Eric Loomis), оскаржував свій вирок, посилаючись на те, що суддя під час винесення вироку використовував оцінку ризику рецидиву, згенеровану алгоритмом COMPAS (Correctional Offender Management Profiling for Alternative Sanctions). Луміс стверджував, що цей алгоритм, його внутрішня логіка та формула розрахунку ризику належать приватній компанії та не були розкриті для перевірки ні захисту, ні суду
🔍 По суті
Суд визнав, що використання звіту COMPAS під час винесення вироку не порушує права обвинуваченого на належну правову процедуру (due process).
Суд не визнав алгоритм COMPAS обов’язковим та вказав, що:
оцінка COMPAS є лише одним з багатьох факторів, і суддя не може виносити вирок, покладаючись виключно на неї.
Звіти COMPAS повинні містити письмове застереження про їхні обмеження, зокрема про те, що методологія алгоритму є комерційною таємницею (тобто не розкривається), і що оцінки базуються на групових даних, а не на індивідуальній особі.
Обвинувачений має право спростувати або пояснити будь-яку інформацію, що використовується в оцінці.
Таким чином, суд дозволив використовувати інструмент, але зобов’язав суддів ставитися до нього критично і визнавати його допоміжний, а не вирішальний характер.
❗️Важлива деталь
Рішенню суду передувало розслідування команди ProPublica під назвою “Machine Bias”, воно було оприлюднено у травні 2016 року. Розслідування виявило, що алгоритм COMPAS мав расову упередженість: він частіше помилково класифікував темношкірих обвинувачених як осіб із високим ризиком рецидиву, ніж білих обвинувачених, навіть якщо вони не скоювали нових злочинів. Було досліджено 7000 алгоритмічних оцінок (!)
Рішення суду у справі Loomis безпосередньо посилається на висновки ProPublica та інші дослідження, які ставлять під сумнів точність і справедливість алгоритму COMPAS.
📕Посилання на дослідження: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
📖Детальний аналіз судового рішення у Harvard Law Review
1️⃣State v. Loomis. Harvard Law Review. URL: https://harvardlawreview.org/print/vol-130/state-v-loomis/
📚Наукові публікації
2️⃣Ellora Israni, Algorithmic Due Process: Mistaken Accountability and Attribution in State v. Loomis. Harvard Journal of Law & Technology Digest. URL: https://jolt.law.harvard.edu/digest/algorithmic-due-process-mistaken-accountability-and-attribution-in-state-v-loomis-1
3️⃣Alexandra Taylor, Data and Discretion: Why We Should Exercise Caution Around Using the COMPAS Algorithm in Court. Stanford Rewired. URL: https://stanfordrewired.com/post/data-and-discretion/
4️⃣Katherine Freeman, Algorithmic Injustice: How the Wisconsin Supreme Court Failed to Protect Due Process Rights in State v. Loomis, 18 N.C. J.L. & Tech. 75 (2018). URL: https://scholarship.law.unc.edu/ncjolt/vol18/iss5/3
5️⃣Liu, Han-Wei & Lin, Ching-Fu & Chen, Yu-Jie. (2019). Beyond State v. Loomis: Artificial Intelligence, Government Algorithmization, and Accountability. International Journal of Law and Information Technology. URL: https://www.researchgate.net/publication/332457303_Beyond_State_v_Loomis_Artificial_Intelligence_Government_Algorithmization_and_Accountability
Сайт професора Карчевського 