Технологии использования Больших данных в Китае: стратегия и этические вызовы

В «Независимой газете опубликована интересная статья «Возможен ли Рай в «электронном концлагере»», автор которой И.Н. Панкратенко, политолог, зам. Директора Центра стратегических оценок и прогнозов, рассказывает о том, как Большие данные используются в Китае, и утверждает, что мы можем наблюдать процессы, аналогичные «гонке вооружений» второй половины XX века – но только в новой, высокотехнологичной сфере, связанных с использованием Больших данных. Данная статья заставляет задуматься об этике Больших данных, о тех возможностях и рисках, с которыми предстоит встретиться обществу на пути развития технологий использования Больших данных.

Еще в 2017 году руководитель Китая озвучил стратегию страны, согласно которой технологии, связанные с разработкой искусственного интеллекта и использованием Больших данных, помогут качественно изменить политическую и экономическую систему, сделать их максимально эффективными и прозрачными, и за счет этого стать мировым лидером. И эта стратегия – не пустые обещания или фантазии. Все уже происходит здесь и сейчас.

               В то время как на западе и в нашей стране государство, финансовые организации, медицинские и фармацевтические компании, сотовые операторы скромно собирают, обмениваются Большими данными и обсуждают возможности и границы их использования, в Китае уже развернуты такие полномасштабные проекты, связанные с использованием Больших данных и персональной информации, что в них сложно поверить.

Те, кто интересуются тем, что происходит в Китае, наверняка слышали про нашумевшие мультифункциональные проекты, такие как WeСhat, который одновременно является мессенджером, социальной сетью, интернет-магазином и системой оплаты. Также многие пользуются маркетплейсом AliBaba/AliExpress, который на самом деле является не просто интернет-магазином, но целым ресурсом для создания «Городского мозга» — мегсистемы, которая призвана по сути управлять целым регионом. Несложно предположить, какие там заложены технологии, и какое количество Больших данных генерится. И это только начало.

Система социального рейтинга — пилотный проект в Ханчжоу (регион на востоке страны), который, кстати, реализуется на базе упомянутого выше AliBaba, работает уже несколького лет, и алгоритмы, заложенные в его основу, считают рейтинг миллионам людей. А от этого рейтинга зависит многое – и продвижение на службе, и качество медицинской помощи, и даже возможность покупки билетов на скоростные поезда.

Таким образом, Большие данные уже де факто используются не только для повышения качества жизни за счет развития технологий, в целях, скажем, оптимизации работы транспорта в крупных городах в часы пик, или кастомизации маркетинговых коммуникаций, но и для того, чтобы обеспечить тотальный контроль над обществом и индивидом.

В этом контексте опыт именно Китая особенно интересен: во-первых, надо понимать, что такое для Китая означает понятие «человек». В отличие от европейской концепции «индивида» как основной ценности, и его прав и свобод как нечто не подлежащего обсуждению, В Китае человек органично воспринимает себя сразу в нескольких системах координат: как физическое тело и личность, как член семьи, как член рода, как житель провинции, и наконец, как гражданин Китая. Возможно, я пропустил еще пару промежуточных точек. Что является главным для самоидентификации, мы точно утверждать не сможем, но можно предположить, что индивид в рамках данной культуры воспринимает себя как минимум комплексно. В связи с этим толерантность к тотальному контролю в обществе крайне высока, и, возможно, даже рассматривается в китайской культуре в положительном качестве, в качестве братской заботы о себе и ближнем.

Во-вторых, законодательство в Китае позволяет очень вольно обращаться с персональной информацией, и эти два факта делают ситуацию в Китае отличным полем для эксперимента в сфере развития технологий использования Больших данных. В связи этим возникает множество вопросов из сферы этики Больших данных. Некоторые проекты, основанные на технологиях использования Больших данных, уже показали свою несостоятельность. Например, проект Zero Trust, чей целью было выявление коррумпированных чиновников с помощью анализа Больших данных, был приостановлен, и не потому, что система не стремится к прозрачности, а в связи с тем, что полученные результаты оказались некачественными и неочевидными, более того, эффективность проекта была ниже, чем у традиционной антикоррупционной деятельности.

Подобные примеры подтверждают тот факт, что «черный ящик» технологий не всегда оказывается панацеей, но практически во всех случаях в результате подвергает человека фатальным рискам в отношении всех аспектов его жизни. При этом, наблюдая за тем, как трансформируется Китай, важно понимать, что и в США уже определены инициативы в сфере развития искусственного интеллекта, поэтому гонка развития в данном направлении началась. Можно предположить, что и остальные государства не останутся в стороне от этого тренда.

Методы, средства и цели разработки и использования искусственного интеллекта и Больших данных настолько разнообразные и широкие, что необходима выработка общепринятых этических норм для того, чтобы общество могло держать под контролем развитие технологий.  В настоящее время различные организации, как политические, так общественные и профессиональные, создают Кодексы этики использования Больших данных, и в этих рамках возможно создание справедливого будущего, которое не будет похоже на тоталитарные, основанные на повсеместном контроле, антиутопии.   

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *