Спільна комп'ютерна програма передбачає рецидивізм як погано, як людей

Так само, як професійний шеф-кухар або серцевий хірург, алгоритм машинного навчання є настільки хорошим, як навчання, яке він отримує. І оскільки алгоритми все частіше приймають рішення і приймають рішення для людей, ми виявляємо, що багато хто з них не отримали найкращої освіти, оскільки вони імітують упередження людської раси та гендеру і навіть створюють нові проблеми.

З цих причин особливо важливо, що численні держави, включаючи Каліфорнію, Нью-Йорк і Вісконсін, використовують алгоритми для прогнозування того, які люди знову скоюють злочини після того, як вони будуть ув'язнені. Ще гірше, це навіть не працює.

У документі, опублікованому в середу в журналі Досягнення науки, пара комп'ютерних вчених з Дартмутського коледжу виявила, що широко використовувана комп'ютерна програма для прогнозування рецидиву є не більш точним, ніж повністю непідготовлені цивільні особи. Ця програма, яка називається «Управління профілактикою злочинців для альтернативних санкцій», аналізує 137 різних факторів, щоб визначити, наскільки ймовірно, що особа зробить ще один злочин після звільнення. КОМПАС враховує такі фактори, як вживання наркотичних речовин, соціальна ізоляція та інші елементи, які теоретизують криміналісти, що може призвести до рецидиву, розставляючи людей як високий, середній або низький ризик.

І, звичайно, оцінка ризиків звучить чудово. Чому б не мати більше даних, щоб допомогти судам визначити, хто є більшим ризиком? Але те, що виявили Дартмутські комп'ютерні вчені Джулія Дрекел і Хані Фарід, виявили, що непідготовлені особи правильно оцінювали ризик рецидиву майже з такою ж точністю, що і COMPAS, що припускає, що передбачувана сила алгоритму насправді не існує.

В одному з випробувань, який включав лише частку інформації, що використовувався компанією COMPAS (сім факторів замість 137, і без урахування раси), група добровольців в Інтернеті, яка, ймовірно, не пройшла навчання з оцінки ризику, оцінювала звіти про випадки. Вони правильно оцінили рецидивізм людини з 67-відсотковою точністю, порівняно з 65-відсотковою точністю COMPAS.

Не поспішайте, щоб уникнути цього. Непідготовлені люди в Інтернеті трохи краще передбачали, чи повернеться людина до в'язниці ніж інструмент, який буквально розрахований на передбачення того, чи буде людина повертатися до в'язниці. І все гірше. Після того, як ви додасте расу підсудного, помилково-позитивні та хибно-негативні показники добровольця були в межах лише кількох відсотків пунктів COMPAS. Таким чином, COMPAS не тільки не дуже підходить для прогнозування рецидиву, він є таким же схильним до расових упереджень, як і люди. Так багато для холодної логіки комп'ютерів.

Потім дослідники зробили лінійну модель, яка відповідала швидкості прогнозування COMPAS з двома факторами: віком і кількістю попередніх переконань. Щоб було зрозуміло, це передбачення також було б несправедливим, але воно демонструє, наскільки недосконалим є COMPAS.

І хоча це дослідження є новим, великих винос, який він підтримує не є. У дослідженні 2016 року ProPublica Журналісти виявили, що COMPAS не тільки ненадійний, але й фактично систематично упереджений проти афроамериканців, постійно оцінюючи чорних людей як більш високий ризик, ніж білі, які вчинили більш серйозні злочини. Сподіваємося, що це нове дослідження допоможе прокласти шлях для більш справедливих процесів оцінки ризиків у системі кримінальної юстиції.

Той факт, що COMPAS є непридатним у кращому випадку і глибоко упередженим, в найгіршому випадку припускає, що комп'ютерні оцінки ризиків можуть поглиблювати несправедливості, до яких повинна розглядати система правосуддя.Оскільки оцінки ризику можуть бути застосовані на будь-якому етапі процесу кримінального судочинства, у тому числі під час встановлення зв'язків з людиною, визначення того, чи вони отримали умовно-дострокове звільнення, а в деяких державах, навіть для визначення вироку особи, це дослідження свідчить про гостру потребу переглядати використання COMPAS та інших програм.