У Китаї штучний інтелект вирішуватиме, хто є «непевним»

Китайські ЗМІ повідомляють, що з 1 травня елементи системи Сіньцзян* будуть презентовані на національному рівні. Для початку особи з низькою соціальною довірою, незалежно від походження, не купуватимуть транспортних квитків. Уже минулого року у «чорному списку» таких осіб перебувало понад шість мільйонів людей.

Найгірше бути отим «непевним». «Непевну» особу не впустять у громадську будівлю, торговий ценр або у транспортний засіб — бо вона може становити «терористичну загрозу». «Непевний» не може увійти у споруду, купити квитка на автобус без сканування і особистого обшуку, відбитків пальців чи сітківки ока.

«Непевні» не вийдуть, не поїдуть, а, може, навіть не наблизяться: змонтовані на вулицях камери реєструватимуть всі обличчя, а комп’ютерні програми вихоплюватимуть тих, хто є фігурантом «чорного списку». Замість того, аби блокувати їх на вході, що, очевидно, порушуватиме громадський спокій, патруль може затримати його раніше, на підставі комп’ютерного аналізу його маршруту, — і вибити йому з голови дурні думки, а за потреби, — і щось інше…

«Чорний список» формується на підставі результатів щорічної оцінки поведінки та зв'язків, які стосуються кожного мешканця непокірного Сіньцзяну. За те, що ти є уйгуром, додають кілька штрафних пунктів, але з ними ще можна потрапити у «середню» категорію: зрештою, етнічне походження є лише підставою для підозри, але не доказом провини.

Гірше, коли особа щодня молиться або відвідала одне з 26 місць, які відвідувати не мала б, бо вони — мусульманські. Практикування релігії робить з підозр майже незаперечний доказ, а, отже, штрафні пункти зростають. А коли у родині є хтось «непевний» або підтримує контакти з іноземцями, то тільки диво може захистити такого перед межею, за якою — заборона входити у громадські споруди, автобули, щиро зацікавлення патрулів і поліцейських постерунків, а в результаті — неминуче перебування у центрі перевиховання. Ті, хто вже побував в таких центрах, розповідають, що, може й варто. Справді, там іноді й б’ють, але виходиш звідти з ліпшим соціальним статусом, і є надії, що комп’ютер колись тебе впустить до автобуса. Бо саме комп'ютерні програми, обробивши нескінченну кількість даних з персональних анкет, заповнених працівниками міліції, вирішують, чи слід далі класифікувати тебе як «непевного, чи змінити це. Система об'єктивна та стійка до корупції, а також до будь-якої апеляції.

— То не я, це машина, — відповість безпорадний урядник на благання «непевного», який хотів би залишитися «середнім», щоб відвідати маму, яка мешкає далеко. Сам урядник, якщо б спробував змінити класифікацію, точно перестане бути «певним», а врешті й урядником. Прграми комп’ютерам пишуть ще люди, однак неважно передбачити момент, у якому навіть особисті анкети будуть заповнюватися автоматично, це лише питання кількості камери (їх в Китаї 170 мільйонів, а до 2020 року буде на 420 мільйонів більше; статистично одна на менш ніж трьох мешканців) та інтеграції комп’ютерних баз даних.

Китайські ЗМІ повідомляють, що з 1 травня елементи системи Сіньцзян будуть запроваджені у масштабі країни. Для початку особи з низькою соціальною довірою, незалежно від походження, не зможуть купити транспортних квитків. Вже у минулому році у «чорному списку» перебувало, як інформують, понад 6 мільйонів осіб. Штрафні пункти нараховуватимуть за, наприклад, «поширення неправдивої інформації про тероризм» (де був, де його не було, або — ще гірше, — де не мав бути, але був), але також і за куріння в недозволених місцях чи не сплату штрафів.

Відпрацювати штрафні бали можна бажаними для влади вчинками: частково список цих бажань опубліковано, решту залишили на творчу уяву обивателя, які, напевно, будуть дуже старатися, щоб залишитися «певними», або хоча б «середніми», або, принаймні, не втратити цих бажаних класифікацій. Народна мудрість таке передбачила вже давно: «Не підмажеш — не поїдеш». Тільки важче намазати інтегральні схеми, ніж зубчаті шестерні.

Перш ніж проклинати негуманний китайський тоталітаризм, давайте згадаємо, що у США можна отримати відмову у придбанні авіаквитка з таємничих «міркувань національної безпеки», що в судах комп'ютери, спираючись, знову таки на таємничі алгоритми, пропонують суддям терміни вироків. Так чи інакше, кожен, хто пробував отримати позику, знає, що таке сперечатися з комп'ютером, або намагатись здобути у нього довіру.

Коли уряд НДР заявив, що масові заворушення змусили його втратити певність у народі, Бертольд Брехт запропонував уряду розпустити націю і зробити собі нову. Я не раджу так жартувати зі штучним інтелектом: технологія працює і стримувань у неї ще менше, ніж в НДР.

Наше майбутнє кується у Сіньцзяні.

Джерело

* Примітка: Сінцзян-Уйгурський автономний район — один з найбільших адміністративних районів Китаю, у якому більшість населення (близько 6 мільйонів) сповідує іслам. Це мусульмани-тюрки, переважно уйгури, а також казахи, монголи, киргизи і таджики. У Сіньцзян-Уйгурському автономному районі Китаю діє угрупування «Східний Туркестан», яке виступає за створення мусульманської держави на території низки країн. Китайська влада вважає її терористичною організацією, що спирається на підтримку іноземних держав.