20 августа 2018, понедельник, 22:04
Рубрики

Китай - территория активного внедрения цифрового рабства

5

Как правительство КНР превращает Поднебесную в страну Большого брата.

Стоит присмотреться внимательнее и становится понятно — Китай логичнее называть Мордором, чем экономическим чудом, пишет khazin.ru.

Оценка, которая решает твою жизнь

Представьте, что Amazon расширился до невероятных размеров — компания подмяла под себя остатки оффлайн-ритейла, поглотила банки, купила Google с его сервисами. Гигант знает о вас всё: от предпочтений в кино до кредитной истории и среднего чека за покупку продуктов.

Сравнивая данные, универсальный алгоритм присваивает профилю оценку: от единицы до 1000. Этот балл определяет положение в обществе — высокий показатель упрощает трудоустройство, получение кредитов и дает приоритетные условия для медицинского обслуживания. Звучит как пересказ одного из эпизодов «Черного зеркала», но перекликается с китайскими реалиями. Не верите? Окей, читайте дальше.

Итак, суммарный оборот мобильных платежей в Китае за 2017 год составил около $5,5 трлн. Для сравнения, в США смартфонами расплатились всего на $112 млрд.

В Китае доминируют два платежных сервиса (хотя такое скромное определение им и не к лицу). Это Alipay и мессенджер WeChat. Назвать их приложениями невозможно — они разрослись в полноценные экосистемы. К примеру, функциональность Alipay позволяет любому китайскому горожанину спокойно выйти из дому без кошелька — со смартфона одинаково успешно оплачиваются как коммунальные платежи, так и техобслуживание автомобиля или покупка овощей на местном рынке.

Вот тут журнал WIRED описал будни китайского парня Лазаруса Лю — он доверил дочернему сервису корпорации Alibaba паспорт, права, автомобильный номер, абсолютно все личные расходы. И однажды обнаружил на главном экране Alipay новую иконку.

Среди приложений появился некий Zhima Credit — сервис индивидуального кредитования, который постоянно оценивает платежеспособность пользователя. Это не привычный кредитный рейтинг: Zhima собирает данные активнее и копает глубже. На финальную оценку, которая варьируется от 350 до 950, влияют не только своевременные пополнения, но и характер покупок, оценки из учебных заведений, рейтинг друзей. Все это называется социальным страхованием и нацелено на ограничение «плохих людей» в пользу финансовой свободы «хороших людей».

Писательница Мара Хвистендал прожила в Китае более 5 лет, но покинула страну в 2014 году — до повальной популярности мобильных платежей. Вернувшись летом этого года, она зарегистрировалась в AliPay и Zhima Credit.

Поскольку предыдущих транзакций у нее не было, девушке присвоили рейтинг 550. Она оказалась в финансовом гетто: не смогла взять велосипед напрокат без депозита в $30. Та же ситуация повторилась при заказе номера в отеле и в пункте проката видеообрудования. Высокий рейтинг обеспечил бы гораздо больше удобства: одно время пользователи, набравшие более 750 пойнтов, могли даже пропустить проверку безопасности в аэропорту Пекина.

Привилегии для пользователей с высоким рейтингом — только одна сторона индивидуального кредитования. Угробить статус можно любым способом: от неуплаты штрафа за превышение скорости до подглядываний на государственном экзамене или чрезмерного увлечения видеоиграми.

Еще нежелательно дружить со «слабыми» пользователями. Все это социально-финансовое сумасшествие должно стать частью единой государственной кредитной системы до 2020 года — государство сотрудничает сразу с несколькими компаниями, чтобы обеспечить максимально надежный и богатый поток данных.

Впрочем, без взаимодействия не обходится и сейчас. К примеру, вот история журналиста Лю Ху — его оштрафовали за написание «неправдивого» текста на $1 350.

Он быстро внес штраф и направил в суд фотографию чека. Однако оказался в «черном списке» и теперь даже не может заказать билеты на самолет. Отправив запрос в суд, Лю узнал, что платеж не приняли из-за ошибки в номере аккаунта. Убедившись в правильности данных, Ху снова оплатил штраф. На этот раз ответа не последовало — теперь Лю, в буквальном смысле, стал гражданином второго сорта.

Хороша ли такая забота государства о финансовой безопасности своих жителей?

Узнать за семь минут

Китайским правоохранительным органам потребовалось всего 7 минут, чтобы найти и задержать корреспондента BBC. Экспериментатор самостоятельно загрузил свою фотографию в базу, по которой разветвленная система наблюдения ищет людей, и вышел на улицу. Камеры, алгоритмы распознавания лиц и оперативники сработали в идеальном тандеме.

Всего сообщается о 170 миллионах камер, установленных в крупных китайских городах. Однако к 2020 году планируется установка еще 400 млн дополнительных «глаз». Естественно, они не работают отдельно от остальных систем наблюдения за гражданами.

Доходит до смешного — пекинский политический активист Ху Джиа, к примеру, однажды купил рогатку через WeChat. Как он говорит, без злого умысла — просто друг посоветовал ламповый гаджет для снятия стресса. Однако вскоре на пороге Джиа появился местный «товарищ майор» и поинтересовался, не собирается ли он атаковать близлежащие камеры наблюдения. Говорить о приватности данных в такой ситуации не приходится. На службе Alibaba, например, есть команда под названием «Шеньдун» — в переводе это означает «Волшебный щит». Её сотрудники следят за работой маркетплейсов и маркируют потенциально опасные сделки.

К тому же, в кампусах большинства китайских компаний стоят полицейские участки — если сотрудники, которые мониторят подозрительные транзакции или аккаунты, обнаружат намек на неправомерную деятельность, они могут быстро передать сведения силовым структурам.

Причем это не просто опция на выбор, а настоятельная рекомендация. Любимый множеством бизнес-цитатников Джек Ма, например, выражает свою верность партийному курсу без заиканий. Вот его цитата: «Политическая и законодательная системы будущего неотделимы от интернета, неотделимы от больших данных».

Все идет к системе предиктивного правосудия, когда преступников смогут паковать заранее — так, чтобы они даже не успели выйти на улицы. Конечно, не обойдется и без окончательной смерти политического активизма.

Чудо на костях свободы

Не стоит забывать и о том, что ведущие китайские компании стали так успешны благодаря крайней закрытости внутреннего рынка при внушительной емкости.

Местным аналогам Google, Twitter, Facebook и YouTube не нужно беспокоиться о конкуренции с международными сервисами, потому что те просто не работают на территории страны. Та же ситуация в сфере онлайн-ритейла, где правит Alibaba. Не может расширить базу подписчиков на территории Поднебесной и The New York Times — газету заблокировали после расследований 2012 года о состоятельной верхушке местного правительства.

Перечислить весь список заблокированных ресурсов не получится, да и простым ограничением доступа дело не обходится. Закрытие аккаунтов или слежка за публичными чатами — не менее популярный в Китае сценарий.

Если учесть все эти тревожные новости, симпатизировать Китаю чрезвычайно сложно. Страна, погрязшая в слежке за собственными гражданами — это еще хуже, чем наглые частные компании, которые охотятся за пользовательскими данными.

Учитывая масштабы китайских государственных проектов и стабильность политического курса, присвоить Китаю статус крупнейшей антиутопии — нормальный расклад.

Где еще встретишь такие наполеоновские планы и такую готовность их воплощать? Причем не в камерных масштабах безумной диктатуры, а на стыке авторитаризма и относительной свободы.

Как Китай строит цифровую диктатуру

Веб-сайт Московского Центра Карнеги опубликовал небезынтересный материал Леонида Ковачича "Большой брат 2.0. Как Китай строит цифровую диктатуру" в котором говорится, что став во главе Китая, Си Цзиньпин начал с жесткой борьбы с коррупционерами в рядах партийцев, а теперь намерен взяться за все общество. С помощью цифровых технологий и big data система будет анализировать данные о каждом гражданине, присваивая ему индивидуальный рейтинг. Законопослушных обладателей высокого рейтинга ждут льготы и поощрения, низкого – трудности и остракизм

За современным Китаем надежно закрепился образ большой копировальной машины, которая способна только модифицировать и тиражировать чужие достижения. Но сейчас, кажется, для китайцев настало время подарить миру собственное изобретение, сопоставимое по своему масштабу с созданными ими когда-то бумагой, порохом и компасом. Китай изобретает цифровую диктатуру.

Кто идейный вдохновитель?

Представьте себе мир, где есть высший разум, всевидящее око, которое знает о тебе больше, чем ты сам. Оценивается каждый твой поступок, даже мелкие прегрешения не остаются незамеченными и записываются тебе в минус. А добрые дела улучшают твою карму. Человечество давно задумывалось об этом: общим местом любой религии было наличие постулата, что ты можешь обмануть или быть обманутым, но небо все видит, и тебе обязательно воздастся по заслугам. Такая картина мира много тысяч лет существовала лишь на уровне веры. Но теперь, с появлением новых технологий, она становится реальностью. Всевидящее око XXI века пришло в Китай. И имя ему – система социального кредита.

Более точный по смыслу перевод этого термина – система социального доверия. О создании такой системы думали еще при прежнем председателе КНР Ху Цзиньтао, руководившем страной с 2002 по 2012 год. В 2007 году были опубликованы «Некоторые замечания канцелярии Госсовета КНР о создании системы социального кредита».

Тогда проект был очень похож на расширенную систему скоринга – оценки платежеспособности заемщика, которую производит компания FICO в США. «Используя международный опыт, совершенствовать системы скоринга в области кредитования, налогообложения, выполнения контрактов, качества продукции» – такая задача была поставлена в документе.

Уже после прихода к власти Си Цзиньпина Госсовет КНР в 2014 году опубликовал новый документ – «Программу создания системы социального кредита (2014–2020)» (2014–2020. В ней система изменилась до неузнаваемости.

Из программы следует, что к 2020 году не только каждая компания, но и каждый житель материкового Китая будет отслеживаться и оцениваться этой системой в режиме реального времени. Рейтинг доверия физлиц будет привязан к внутреннему паспорту. Рейтинги будут публиковаться в централизованной базе данных в интернете в свободном доступе.

Обладатели высокого рейтинга будут пользоваться различными социальными и экономическими льготами. А тем, у кого рейтинг будет плохой, придется страдать – на них обрушится вся мощь административных санкций и ограничений. Главная задача, и это прямым текстом указывается в «Программе Госсовета», чтобы «оправдавшие доверие пользовались всеми благами, а утратившие доверие не могли сделать ни шагу».

В середине декабря 2016 года Си Цзиньпин на заседании Политбюро ЦК КПК заявил: «Для борьбы с острой проблемой недостатка доверия нужно крепко взяться за создание системы оценки надежности, покрывающей все общество. Нужно совершенствовать как механизмы поощрения законопослушных и добросовестных граждан, так и механизмы наказания тех, кто нарушает закон и утратил доверие, чтобы человек просто не осмеливался, просто не мог потерять доверие».

Конечно, доподлинно неизвестно, кому именно в высшем руководстве КНР принадлежит идея создания такой системы. Но учитывая тот факт, что система преобразилась после прихода к власти нового поколения руководителей, а также то внимание, которое уделяет нынешний председатель КНР борьбе с коррупцией, можно предположить, что идейный вдохновитель всевидящей системы социального кредита сам Си Цзиньпин.

Отвечает за создание и внедрение в жизнь системы, судя по всему, Государственный комитет по развитию и реформам КНР. По крайней мере, именно он публикует разнообразные отчеты о том, как продвигается работа по созданию системы социального кредита. Текущую работу курирует замглавы комитета по развитию и реформам Лянь Вэйлан. Он также проводит совещания с отраслевыми ведомствами и ассоциациями, доносит до них указания, полученные от первых лиц страны.

Город-сказка

Система уже работает в пилотном режиме примерно в тридцати городах Китая. Передовиком в этом деле стал город Жунчэн в провинции Шаньдун. Всем жителям города (670 тысяч человек) дается стартовый рейтинг 1000 баллов.

Далее в зависимости от их поведения рейтинг либо растет, либо падает. Разрозненная информация о жизни и деятельности гражданина поступает из муниципальных, коммерческих, правоохранительных, судебных органов в единый информационный центр, где обрабатывается с помощью технологии big data, и рейтинг гражданина, соответственно, либо повышается, либо снижается. В Жунчэне единый информационный центр анализирует, ни много ни мало, 160 тысяч различных параметров из 142 учреждений. Активно приветствуется и система доносов. Гражданину, сообщившему куда следует о всяких нехороших делах своего соседа, полагается как минимум пять баллов.

Какого-либо единого документа, где было бы четко прописано, что делать можно, а что нельзя и что за это будет, система не предполагает. Известно лишь, что если твой рейтинг больше 1050 баллов, то ты образцовый гражданин и маркируешься тремя буквами А. С тысячей баллов можно рассчитывать на АА. С девятьюстами – на B. Если рейтинг упал ниже 849 – ты уже подозрительный носитель рейтинга C, тебя выгонят со службы в государственных и муниципальных структурах.

А тем, у кого 599 баллов и ниже, несдобровать. Их записывают в черный список с припиской D, они становятся изгоями общества, их не берут почти ни на какую работу (даже в такси с черной меткой D работать нельзя), не дают кредиты, не продают билеты на скоростные поезда и самолеты, не дают в аренду автомобиль и велосипед без залога. Соседи от тебя шарахаются как от огня, ведь не дай бог кто-то увидит, как ты общаешься с человеком D, на тебя сразу донесут, и твой рейтинг тоже стремительно пойдет вниз.

Еще несколько примеров, как живется в Жунчэне людям с разными рейтингами. Тем, у кого рейтинг АА и выше, дают потребительский кредит до 200 тысяч юаней без залога и поручителей, по сниженной процентной ставке.

Тот, у кого рейтинг А, может лечь в больницу без залога, если стоимость лечения не превышает 10 тысяч юаней. С рейтингами АА и ААА беззалоговая сумма увеличивается до 20 и 50 тысяч юаней соответственно. Практически святых людей ААА с порога больницы или поликлиники будет бесплатно сопровождать младший медперсонал, оказывать им всяческую помощь. Если надо – дадут инвалидную коляску без залога, женщинам сделают анализ на раннее выявление рака шейки матки и маммографию без предварительной записи. Здоровым жителям Жунчэна с рейтингом А+ дадут велосипед в аренду без залога, и первые полтора часа можно будет кататься бесплатно. Для сравнения: обладателям рейтинга С велосипед дадут только под залог 200 юаней.

Возникает вопрос: как зарабатывать рейтинги или хотя бы их не потерять? Власти Жунчэна говорят: это очень просто. Достаточно жить по закону, вовремя погашать кредиты, платить налоги, соблюдать правила ПДД (за каждое нарушение, помимо административного штрафа, также снимают от пяти баллов рейтинга), не нарушать морально-нравственные устои общества, и все будет в порядке. Не убрал во дворе за своей собакой – минус пять баллов. Проводил пожилого соседа до поликлиники – получил пять баллов, поясняет китайский информационный ресурс «Хуаньцюван».

Но проблема в том, что когда четко не оговорено, что можно, а что нельзя, то начинается административный произвол.

Практически невинные люди могут пострадать. Представим себе ситуацию: человек поставил нестандартные колеса на машину и поехал из Жунчэна в теплый Гуанчжоу. Показания спидометра слегка искажаются, и по дороге камеры сфотографировали номер раз пятнадцать за незначительное превышение скорости. А 75 баллов – минус из кармы. По возвращении из поездки расстроенный водитель идет в аптеку покупать успокоительное. Расплачивается с помощью мобильного приложения, которое передает куда следует данные о покупках. Система оценивает его как психически неуравновешенного и снова понижает рейтинг. В результате образцовый патриот и общественник уже даже в таксисты не годится.

Как работает система?

Для юридических лиц правила игры сформулированы более четко. Компании проверяются на соответствие их деятельности экологическим, юридическим нормам, инспектируются условия и безопасность труда, финансовая отчетность.

Если никаких претензий нет – компании присваивается высокий рейтинг и она пользуется льготным режимом налогообложения, хорошими условиями кредитования, по отношению к ней упрощаются административные процедуры по принципу «принятия неполного комплекта». Это значит, что если при обращении в какую-либо инстанцию компания представила неполный комплект документов, ее обращение все равно принимается в работу, а недостающие документы просто можно донести потом или даже прислать скан.

Тем, у кого низкий рейтинг, – дорогие кредиты, повышенные ставки налогов, запрет на эмиссию ценных бумаг, запрет на инвестирование в компании, акции которых торгуются на бирже, а также необходимость получать государственное разрешение на инвестирование даже в те отрасли, доступ к которым в принципе никак не ограничивается.

Но как именно будет функционировать система оценки социального доверия для физических лиц, до сих пор остается загадкой. Что известно на сегодняшний момент? Данные о человеке будут собираться из всевозможных государственных структур, правоохранительных и муниципальных органов, с одной стороны. С другой стороны, это указано в программе Госсовета, данные будут собирать восемь частных компаний.

Затем огромный массив данных будет поступать во Всекитайскую объединенную платформу кредитной информации, которая, кстати, уже работает. Она будет обрабатывать этот массив данных и формировать рейтинги. Рейтинги компаний можно будет посмотреть в Национальной информационной системе публичной кредитной информации для компаний, а данные о физических лицах – на информационном портале Credit China.

Первые две из восьми частных компаний, собирающих информацию, – Alibaba и Tencent. Почему выбраны именно эти компании, понятно. Tencent – владелец мессенджера WeChat, которым пользуются 500 млн человек. Alibaba – крупнейшая платформа интернет-торговли, которой пользуются 448 млн китайцев, а объем продаж составляет более $23 млрд. Причем и Tencent, и Alibaba активно осваивают финтех-индустрию: на сервисы мобильных платежей этих двух компаний – Alipay и WeChatPay – приходится 90% рынка мобильных платежей в Китае, объем которых достиг $5,5 трлн.

Какую информацию могут собрать эти компании? Самую ценную. Рынок мобильных приложений открывает практически безграничные возможности. Известно, что ты покупаешь, где покупаешь. По геолокации можно отследить, где бываешь, в какое время. Можно оценить твой реальный доход, сферу интересов, отследить, с кем и о чем ты общаешься в чате, что читаешь. Какие посты в социальных сетях пишешь, какой контент тебе по душе. Alibaba, которой не только принадлежит платформа Alipay, но и 31% в Weibo – крупнейшем китайском сервисе микроблогов c 340 млн пользователей, – знает о китайцах, пожалуй, больше, чем Министерство государственной безопасности.

Кстати, Alibaba уже запустила собственный рейтинговый сервис Sesame Credit. По какому алгоритму считаются рейтинги, компания держит в секрете. Известно лишь, что на рейтинг влияет, реальное ли имя ты указал при регистрации аккаунта в соцсетях, что ты пишешь, что читаешь и даже то, кто у тебя в друзьях. Если в друзьях люди с низким рейтингом – твой рейтинг тоже падает. Так что лучше не водиться с неблагонадежными личностями.

Также, по признанию технического директора Sesame Credit Ли Инъюня, на рейтинг влияют покупки. В интернете широко разошлась цитата из его интервью изданию Caixin, где Ли Инъюнь заявил, что «те, кто по 10 часов в день играет в компьютерные игры, будут считаться неблагонадежными, а те, кто регулярно покупает подгузники, вероятно, ответственные родители, и их рейтинг будет расти».

Эта тема широко обсуждалась среди пользователей китайского сервиса микроблогов Weibo, аналога Twitter. Они даже попытались разработать собственную стратегию повышения рейтингов. Так, например, блогеры утверждают, что если поддерживать на счете Alipay более 1000 юаней, хотя бы раз в три-пять дней совершать маленькие покупки, использовать сервисы по управлению благосостоянием и p2p-займам, например Zhaocaibao, то твой рейтинг в Sesame Credit значительно вырастет. Таким образом, есть версия, что консюмеризм может быть одним из существенных факторов благонадежности.

Под колпаком

В компании подчеркивают, что пока Sesame Credit – это пилотный проект и дело сугубо добровольное. Однако, во-первых, пользователей активно подталкивают предоставлять личную информацию и заманивают в сети рейтингов, играя на самых высоких чувствах. Например, на любви. Китайский сервис знакомств «Байхэ», аналог Tinder, обещает одиноким сердцам поднять их анкеты в результатах поиска на первые строчки, чаще высвечивать их профили на главной странице, если у них будет высокий рейтинг Sesame.

Во-вторых, многие даже не знают, что машина уже работает против них и они давно под колпаком. Взять, например, расплодившиеся в огромных количествах в Китае различные сервисы шеринга (краткосрочной аренды). Во всем мире в основном существует два типа шеринга: каршеринг (аренда автомобилей) и байкшеринг (аренда велосипедов). В Китае же в аренду можно взять и велосипеды, и зонтики, и зарядки для телефонов, и баскетбольные мячи.

Бизнес-модель такой аренды, как может показаться, крайне неэффективна. Аренда велосипеда в крупнейшем сервисе байкшеринга Ofo стоит всего полтора юаня в час, баскетбольный мяч в Zhulegeqiu можно взять поиграть за один юань в час, столько же стоят зонтики Molisan. Зачастую все эти вещи не оборудованы никакими датчиками геолокации, защитой от кражи. Неудивительно, что многие фирмы практически сразу разоряются. Например, Wukong Bicycle из Чунцина была вынуждена закрыться, потому что 90% велосипедов компании было украдено.

Но, может быть, задача совсем в другом? Делимый продукт выдается через специальное мобильное приложение. Поэтому информация о пользователе все равно в руках компании. И на нечестных воришек, которые, казалось бы, безнаказанно обрели баскетбольный мяч или зонтик, уже собирается досье. И к 2020 году, когда система заработает в полную силу, всевидящее око со всех спросит за старые грешки.

А судьи кто?

Вопросов, даже чисто юридических, к системе социального кредита пока остается немало. Например, насколько правомерно использование компаниями личных данных клиента в пользу третьей стороны, которой в данном случае является государство. Конечно, западные технологические компании также иногда используют личные данные в собственных интересах. Но тогда им приходится отвечать перед законом.

К примеру, российское представительство Google не так давно было оштрафовано по решению суда за чтение электронных писем. Житель Екатеринбурга подал иск к Google после того, как посчитал, что контекстная реклама, предложенная ему в почтовом сервисе, была подобрана после прочтения его электронной почты. Суд постановил, что Google нарушила права гражданина на личную тайну и тайну переписки. А в Китае Alibaba и Tencent открыто говорят о сотрудничестве с госструктурами и использовании личных данных в составлении рейтингов.

Второй вопрос: какие поощрения и какие санкции ожидают людей с высоким или низким рейтингом? Официальные документы четкого ответа не дают. «Руководящие рекомендации Госсовета КНР по становлению и совершенствованию механизмов поощрений лиц с высоким рейтингом доверия и наказаний лиц, утративших доверие, для ускорения создания системы социального кредита» содержат весьма размытые формулировки.

Обладателям высоких рейтингов сулят упомянутую выше систему «принятия неполного комплекта», обещают «зеленый свет во всех административных процедурах», а также серьезную поддержку и преференции в образовании, трудоустройстве, открытии бизнеса, социальных гарантиях. Тем, у кого низкий рейтинг, напротив, грозят всевозможные административные препоны, ограничения в покупке недвижимости, авиабилетов, билетов на высокоскоростные поезда, ограничение выезда за границу, ограничение на проживание в отелях люкс.

До тех пор, пока четкие меры не будут выработаны наверху, в каждом регионе будут свои правила, и ограничиваться они будут лишь фантазией местных властей. Уже сейчас в Пекине серьезно карают за перепродажу железнодорожных билетов; в провинции Цзянсу – если не навещаешь родителей достаточно часто (при этом нигде не написано, как часто их надо навещать); в Шанхае – за сокрытие предыдущего брака или за необоснованное использование клаксона в автомобиле; в Шэньчжэне – за переход дороги в неположенном месте.

Наконец, самый главный вопрос: а кто судья? Кто решает, что можно, а что нельзя? На каком основании частные компании считают рейтинги? Насколько система достоверна? А если аккаунты в соцсетях будут взломаны, данные украдены или неправомерно исправлены? Кто за это будет отвечать? Может, суперкомпьютер Sesame Credit дал сбой и рейтинг подсчитан неверно. А ведь на основании этих данных ломаются судьбы людей, выносятся конкретные судебные решения. На конец 2015 года Верховный суд КНР, опираясь на данные Sesame Credit, наложил упомянутые в инструкциях Госсовета санкции на 5300 человек. К концу июня нынешнего года таких людей было уже 7,3 млн.

С помощью технологий искусственного интеллекта и big data система будет анализировать такие данные о каждом чиновнике, как посещаемость партийных собраний, образование, семейное положение. Система будет сопоставлять данные о доходах чиновника и членов его семьи с данными о приобретенной недвижимости и предметах роскоши. На основании этих данных, а также информации об активности чиновника в соцсетях будет оцениваться степень его политической благонадежности. Отмечается, что таким образом можно будет гораздо эффективнее предсказывать поведение чиновника, оценивать его моральный облик и выявлять потенциальных коррупционеров.

А кто будет ограничивать верховную власть? Институт политических исследований Asan (Республика Корея) назвал систему социального кредита «кошмаром Джорджа Оруэлла». Время покажет, превратится ли система социального кредита в невиданную ранее цифровую диктатуру XXI века, всевидящего Большого брата, который неусыпно следит за тобой. Неясно также, будет ли существовать какой-либо контроль и ограничения для самого Большого брата. Пока же вполне резонным для жителей Китая кажется совет Оруэлла из «1984»: если хочешь сохранить секрет, надо скрывать его и от себя.