Human Rights Watch: Китай використовує великі дані для цільових груп меншин

Китайський уряд використовує алгоритми інтелектуальної поліції для націлювання на етнічні меншини в провінції Сіньцзян, повідомляється в повідомленні Human Rights Watch, опублікованому в понеділок.

Провінція на північному заході Китаю проживає 11 мільйонів уйгурів, турецької мусульманської етнічної групи, яка була дискримінована китайським урядом в останні роки.

Зараз, як повідомляється, влада використовує великі дані для систематичного нападу на тих, хто підозрюється в політичній нелояльності. Цей поштовх є частиною кампанії «Страйк», спрямованої на скасування потенційної терористичної діяльності в Китаї. На практиці це призвело до непропорційності поліції уйгурів, повідомляє Human Rights Watch.

Система інтелектуальної поліції, відома як IJOP - інтегрована спільна платформа операцій - подається з різних інструментів спостереження. До них відносяться камери відеоспостереження, номерні знаки та ідентифікаційні картки громадян, отримані з контрольно-пропускних пунктів, а також особиста інформація, включаючи медичні, банківські та юридичні записи.

Окрім автоматизованого спостереження, державні службовці проводять домашні візити для збору даних про населення. Китайський бізнесмен поділився формою, якою він заповнював записи IJOP з Human Rights Watch - серед іншого, анкету запитували, чи є бізнесмен Уйгуром, як часто він молиться, і де він ходить на релігійні служби.

Всі ці входи даних використовуються IJOP для позначення людей як потенційних загроз. Коли хтось позначається, поліція відкриває подальше розслідування і затримує їх, якщо вони вважаються підозрілими.

"Вперше ми можемо продемонструвати, що використання китайським урядом великих даних і політика прогнозування не тільки грубо порушує права на конфіденційність, але й дає змогу чиновникам довільно затримувати людей", - сказала старший дослідник з прав людини Хьюман Райтс Вотч Майя Ван.

Згідно з доповіддю, деякі люди, які були позначені, були відправлені до центрів політичної освіти, де вони затримані на невизначений час без суду.

«З квітня 2016 року, за оцінками Х'юман Райтс Вотч, влада Синьцзяна направила десятки тисяч уйгурів та інших етнічних меншин до« центрів політичної освіти », - сказано в доповіді. IJOP надає довіру до цих затримань, застосовуючи обриси об'єктивного алгоритмічного аналізу до дискримінаційних арештів.

Що ще гірше, внутрішня робота IJOP оповита секретністю.

"Люди в Сіньцзяні не можуть чинити опір або кидати виклик все більш настирливому дослідженню їх повсякденного життя, тому що більшість навіть не знає про цю програму" чорної скриньки "або як вона працює", сказав Ван.

Це та сама проблема, яка вражає найскладніші системи машинного навчання: процедури прийняття рішень, які вони використовують, є непрозорими навіть для творців алгоритму.

Необхідно звернути увагу на використання КМД КНР, оскільки передбачувана поліцейська політика, швидше за все, зростатиме, коли технологія покращиться. Як зазначив Джон Крістіан Контур Системи інтелектуальної поліції вже використовуються в деяких місцях у Сполучених Штатах. Поліцейський відділ в Лос-Анджелесі використовує програмне забезпечення, яке передбачає, де і коли злочини, ймовірно, можуть виникнути, тому офіцери можуть відійти від них.

З іншого боку, система судових засідань іноді використовує алгоритми, які надають потенційним виборцям оцінки ризику, щоб допомогти суддям приймати більш обгрунтовані рішення. На жаль, ці нібито неупереджені алгоритми фактично дискримінують на основі гонки.

Набіг Китаю на інтелектуальну політику підкреслює важливість реалізації відповідального алгоритму, оскільки машинне навчання продовжує надходити до державного сектору. Можливо, саме час для технічно підкованих урядів прийняти нову мантру: іноді штучний інтелект створює більше проблем, ніж вирішує.