В начале июля 2022 года в газете The Times появилась информация, что в Китае создали систему искусственного интеллекта (ИИ), которая может оценивать лояльность членов Коммунистической партии по их мимике. Китайские исследователи из Национального научного центра Хэфэй заявляли, что система может считывать мозговые волны людей, а также разместили промо-видео с экспериментами. Вскоре после того как на эту новость обратили внимание западные журналисты, сообщение удалили.
Промо-ролик «Искусственный интеллект помогает партийному строительству!» появился в официальном аккаунте института в популярной китайской соцсети WeChat. В удаленном ролике рассказывали, что новая нейросеть сможет анализировать выражение лиц и мозговые волны членов Компартии Китая при чтении учебных идеологических материалов. Далее ИИ сможет выносить решение о том, насколько члены партии были внимательны «к идеям и политическому образованию». В статье отмечают, что технологию будут применять для «дальнейшего укрепления уверенности и решимости [членов партии] хранить полную лояльность к ней».
В удаленном ролике испытуемые, которых всего было 43 человека, в рамках эксперимента входили в кабинку, садились перед экраном и просматривали новости коммунистической партии. В материале The Times автор высказывает мнение, что такой тотальный контроль за мыслями и мимикой может вызывать возмущение у китайской общественности.
Как технологии на основе искусственного интеллекта опознают нарушителей дорожного движения в китайском городе-миллионнике
Несмотря на всю масштабность новости, это уже не первая попытка китайского авторитарного правительства массово внедрить механизм распознавания лиц через систему искусственного интеллекта. В 2018 году в издании South China Morning Post вышел большой материал, который рассказывал о камерах дорожного наблюдения, установленных на 40 автомобильных дорогах города Шэньчжэнь. В городе проживает около 12 миллионов жителей.
Камеры фиксируют не только нарушение скорости, но также делают фотографии лиц водителей. Затем лица проходят проверку и идентифицируются на основе технологий, которые применяют искусственный интеллект. Камеры получают очень точное изображение в 7 миллионов пикселей (в обычных дорожных камерах разрешение около 2 миллионов пикселей). Это что сводит к минимуму ошибки в распознавании лиц. Но установить нарушителя можно лишь в том случае, если он уже зарегистрирован в базе дорожной полиции. Нарушителю, которого установили, тут же приходит на телефон сообщение со всей информацией о ситуации. Так ловят не только водителей, но и пешеходов, которые, например, переходят дорогу в неположенном месте или на красный свет.
Китайский город Шэньчжэнь известен многочисленными научными институтами, где происходит разработка систем искусственного интеллекта. Высокоточные камеры слежения также местного производства. Интересно, что Китай активно экспортирует свои технологии на основе искусственного интеллекта. Например, компания Yitu Technology продает нательные камеры, оснащенные программным обеспечением для распознавания лиц, полиции Малайзии.
Цифровые технологии как инструмент автократии
Технологии распознавания лиц могут использоваться не только для борьбы с преступностью, но также в качестве авторитарного инструмента для поиска людей, не согласных с политикой действующих властей. Так в Беларуси, например, уже третий год идут репрессии против гражданского общества. Люди выходили на многотысячные акции протестов против фальсификации президентских выборов в августе 2020 года. Силовые структуры снимали их на камеры, а сейчас, благодаря технологии Kipod, протестующих до сих пор находят и подвергают ответственности в виде административных сроков или штрафов.
Хотя компания Synesis, разработчик и поставщик Kipod в Беларусь, отрицает все обвинения.
Грань между намерением взять под контроль правонарушителей и установить слежку за всеми несогласными в обществе очень тонкая. Чтобы понимать, что в действительности происходит необходимо повышать свою цифровую грамотность. Если вы хотите детальнее разобраться в таких понятиях как цифровой авторитаризм и цифровое сопротивление, то обязательно почитайте этот новый материал на нашем сайте.
