Saqshy Qostanai

Все больше в нашу жизнь входит понятие социального рейтинга (схож с банковским скорингом), когда по образу человека в соцсетях принимают решение о его кредитоспособности, о том, подходит ли он на ту или иную должность, можно ли выдать ему визу и т. д. Социальные рейтинги уже официально используются в некоторых странах. Наиболее крупный пример, разумеется, Китай – там давно применяют систему социальных рейтингов государственного масштаба, ведь, по мнению руководства страны, они позволяют сделать жизнь безопаснее.

Чтобы узнать, как пользователи относятся к социальным рейтингам, мы опросили более 10 тыс. человек по всему миру, и почти половина респондентов призналась, что им сложно понять, как эти показатели рассчитываются. А в жизни с ними сталкивался лишь каждый пятый (21%), хотя не исключено, что часть людей просто не знает, что отказ в кредите или аренде был как-то связан с социальным рейтингом.

При этом 70% участников опроса полагает, что за некоторые проступки справедливо ограничивать людям доступ к общественным ресурсам – транспорту, образованию, недвижимости. Ради повышения безопасности половина опрошенных готова позволить государству мониторить соцсети, а двое из пяти – поделиться данными с бизнесом в обмен на скидки и дополнительные привилегии.

В сериале «Черное зеркало» мы уже видели нечто подобное – герои эпизода ставили друг другу оценки за коммуникацию; это приводило к тому, что люди вели себя неестественно – ели только медленно и красиво, всегда улыбались и не показывали негативных эмоций. Любая внештатная ситуация в таком мире приводит к тому, что рейтинг человека падает и он опускается на социальное дно, где нельзя даже приобрести билет на автобус.

Многие из опрошенных готовы поддержать идею подобной системы, думая, что она будет выдавать справедливую и непредвзятую оценку. Увы, при имеющихся технологиях это не так. Во-первых, сложно отслеживать ошибки. В основе лежат нейронные сети, о принципах работы которых пока мало известно. Понижая или повышая чей-то рейтинг, нейросеть не объясняет, на основании каких именно данных она пришла к этому решению. В результате организации приходится слепо доверять ей, а в случае рейтингов, влияющих на человеческие права и даже судьбы, цена ошибки может быть очень велика.

Помимо того что система рейтингов может ошибаться из-за несовершенства алгоритмов или данных, ее также можно намеренно взломать. Система получает информацию с множества всевозможных камер и датчиков интернета вещей, а эти устройства уязвимы и постоянно подвергаются атакам. Чтобы присвоить социальный рейтинг, системе недостаточно собрать информацию – ее нужно еще обработать и интерпретировать. Механизм, который этим занимается, тоже может оказаться уязвимым – как к заражению вредоносным кодом, так и к целевым атакам. Наконец, злоумышленник может вычислить некоторые действия, повышающие рейтинг, или, наоборот, способные испортить его кому-то.

Так что полностью оградить себя от ошибок, к сожалению, не получится. Однако можно попытаться самостоятельно минимизировать возможные риски.

• Трижды подумайте, прежде чем запостить в соцсетях двусмысленные фотографии с вечеринки или другую информацию, которая может вас скомпрометировать.
• Защищайте свои аккаунты, чтобы злоумышленники не смогли их взломать и использовать против вас. Используйте уникальные пароли, подключайте двухфакторную аутентификацию.
• Позаботьтесь о своей приватности. Чтобы банк не отказал вам в кредите из-за того, что вы, скажем, активно ищете работу, защищайтесь от сбора данных в интернете.

Источник: forbes.kz