Реальная антиутопия: как работает китайская система социального кредита

А судьи кто?

В Китае разворачивается настоящая цифровая диктатура: теперь суды обязаны консультироваться с искусственным интеллектом — умная система ежедневно обрабатывает около 100 000 дел по всей стране и рекомендует судьям, как лучше вести дело и какой приговор назначить.

ИИ решает судьбу подсудимого в том числе на основании социального кредита: алгоритм вычисляет угрозу, которую человек может представлять для общества, по его рейтингу. Кстати, данные о приговорах и привлечении к ответственности затем тоже передают в базу "общественного рейтинга".

Что такое социальный кредит?

Несмотря на пугающее название, никаких балльных рейтингов не существует (по крайней мере, официально). Китайцам не начисляют очки за хорошее поведение и не снимают их за проступки. Но разговоры о системе учёта всех действий и начислении баллов всё же взялись не на пустом месте.

Так, в 2010 в провинции Цзянсу провели резонансный эксперимент: в зависимости от ряда критериев всех жителей разделили на категории A, B, C, и D. "Отличники" из первой группы получали ряд преимуществ, например, им было проще устроиться на работу, взять кредит или выгодно купить жильё. А тем, у кого "оценки" было низкие, приходилось в разы сложнее — им устраивали многочисленные проверки и зачастую отказывали.

После шквала критики эксперимент свернули. Так что нет, на самом деле китайцы не живут как в видеоигре, где нужно нон-стоп собирать баллы. Но хоть в таком виде система социального кредита и не прижилась, на самом деле она никуда не делась.

Правительство знает всё

Большинство действий китайцев не остаются незамеченными: их заботливо собирают в базы данных. Информация о покупках, перемещениях и контактах, строго говоря, больше не считается личной — её обрабатывают и используют, например, для таргетированной рекламы. А ещё — для определения "благонадёжности".

Оценка благонадёжности пригодится, например, для выдачи реального кредита. Если китаец не вызывает доверия, в займе ему, скорее всего, откажут — примерно как с кредитной историей в других странах. Также могут ограничить поездки на общественном транспорте или проживание в некоторых отелях.

Кредитная история

Социальный кредит зависит от того, как человек проявляет себя в обществе и взаимодействует с официальными институтами — совершает ли преступления, нарушает ли порядок, вовремя ли оплачивает счета и так далее.

Все нарушения так или иначе подрывают "запас доверия" к гражданину, и в результате человек может потерять доступ к ряду возможностей. Так, известно об инциденте с 17 мужчинами, которые отказались нести военную службу — за это они попали в "чёрный список" и лишились права выезжать за границу, учиться в вузах, покупать недвижимость и претендовать на административные должности.

Партия головного мозга

Кроме того, программа по контролю за обществом с каждым днём ужесточается. Теперь правительство подумывает проникнуть в головы граждан и начать следить за их мыслями.

Китайские учёные уже создали алгоритм ИИ, который умеет сканировать мозг и проверять людей на преданность партии. По анализу мозговых волн устройство может измерить степень лояльности — по задумке, это нужно, чтобы "укрепить уверенность и решимость быть благодарными партии, слушать партию и следовать партии".

Пока что "идейный ИИ" применили только в качестве эксперимента. Но сам факт его разработки уже говорит о многом — при необходимости коммунистический Большой Брат сможет без труда влезть людям в мозг.