Переклав Олег Ярошевський

В одному з епізодів серіалу-антиутопії «Чорне дзеркало» від Netflix люди майбутнього мають «соціальні рейтинги», котрі визначають багато аспектів їхнього життя: коло спілкування, місце проживання, ставлення до них незнайомців чи навіть суму орендної плати. Незадоволена своїм рейтингом головна героїня вдається до крайніх заходів, щоб підвищити його, але натомість сходить з глузду і потрапляє за ґрати. Футуристично, моторошно й дуже неправдоподібно? На жаль, ні. Справжня сьогоденна версія цього сценарію розгортається в Китаї, де уряд запроваджує так звану «систему соціальних рейтингів». Проект уже введений у східній частині Ханчжоу, столиці провінції Чжецян.

Не до кінця зрозуміло, як будуть оцінювати декотрі критерії, які важко виміряти, але в планах системи — враховувати усі дані: правопорушення на дорогах, своєчасність оплати рахунків чи, наприклад, ставлення до батьків. Wall Street Journal розділив ці категорії на три типи: традиційні, суспільні й онлайн-критерії. Традиційні критерії не надто відрізняються від оцінок кредитоспроможності в США: відстежуються платіжки, позики, податки. Суспільні оцінки бувають досить звичними: брак судимостей чи слухняна поведінка на дорогах, наприклад. Однак далі — цікавіше: академічна чесність, волонтерська активність або й дотримання правил обмеження народжуваності. Чи не найдивнішою категорією є «синівська шанобливість» — чеснота шанування батьків, старших та предків у конфуціанстві. А як це виміряти?

Онлайн-складова — це, по суті, версія нинішньої системи відстежування даних, котра ще більше обмежуватиме приватність. Її реалізуватимуть останньою, і вона міститиме дані про онлайн-покупки та цифрову взаємодію з іншими користувачами. Варто подумати двічі, перш ніж у Facebook вподобати фото з бурхливої вечірки…

На прив’язі

Те, що уряд відстежує щоденне життя, не є чимось новим у Піднебесній. Кожен працездатний громадянин має «данґан» — щось на зразок трудової книжки, яку вищі навчальні заклади передають у руки роботодавців. «Данґан» містить інформацію про оцінки, звички, друзів, правові спори і, по суті, будь-яку іншу інформацію, котру роботодавець хотів би знати про своїх працівників. І хоча в останні десятиріччя, з переходом від планової до ринкової економіки, значення «данґана» зменшилося, проте це досьє досі може завдати шкоди. Уряд також використовує чорні списки, щоб обмежувати окремими індивідам діяльність чи забороняти користування тими чи іншими сервісами. Тобто, схибивши один раз, ви значно ускладните собі життя — наприклад, програвши справу щодо прострочених платежів, ви більше не зможете придбати залізничний квиток. Нововведенням уряду є список «нестерпних» туристів, покликаний покращити імідж країни після численних випадків непристойної поведінки китайців за кордоном.

Доноси

Окрім очевидного занепокоєння щодо втручання в особисте життя й додаткових обмежень свободи слова та вираження поглядів, система соціального рейтингу може вплинути на міжособистісні стосунки та відносини у громаді, і цей аспект недостатньо обговорюють. Суспільну складову оцінки, наприклад, надаватимуть житлові ради, яким доручать слідкувати й доповідати про мешканців. Якби ви знали, що один із сусідів стежить за вами, як змінилася б ваша поведінка? Якби ви знали, що хтось стежить, але не були певні, хто саме? Будучи «стукачем», чи ставилися б ви поблажливо до людей, які вам найбільше подобаються?

Окрім посилення стратифікації суспільства, в котрому вертикальна суспільна мобільність стане важчою для нижчих у рейтингу (часто зовсім необґрунтовано), система може призвести до виникнення різного роду конфліктів між сусідами, співробітниками, чи навіть друзями. Заявлена мета системи — «благонадійним — усі можливості Піднебесної, неблагонадійним — не дати зробити й кроку». Не знаю, як ви, але я б усіляко старався не потрапити в кошик «неблагонадійних». Інтернет компанії на кшталт Алібаба будуть збирати інформацію про поведінку онлайн і присвоювати рейтинги користувачам на основі їхніх цифрових слідів. Уже було погоджено вісім компаній для тестування соціальних оцінок на основі персональних даних.

Більше людей — більше даних

Досягаючи 1,4 мільярдів, населення Китаю становить 19% від загальносвітового. Це досить людей, і за всіма треба буде прискіпливо стежити  присвоювати змістовні соціальні оцінки. Коли обчислене алгоритмом значення визначає доступ до вищої освіти, обсяг та умови кредитування — або, скажімо, можливість зупинятись у розкішних готелях — то хотілося б, аби це значення було досить точним. Навіть якщо місцеві органи влади, житлові ради, інтернет-сервіси об’єднають зусилля, щоб збирати й передавати дані громадян, управління цими даними буде доволі складним завданням.

Систему соціальних рейтингів планують розгорнути до 2020 року, і нам ще належить побачити, чи страх перед низькими оцінками в урядових базах здатен змінити людську поведінку.

Джерело: Singularity Hub

Якщо ви помітили помилку, виділіть її і натисніть Ctrl+Enter.