Цифровое зеркало

Темная сторона цифровизации

Мы живем не просто на сломе промышленных укладов, а на сломе цивилизаций. Так, во всяком случае, считает Татьяна Черниговская, один из ведущих отечественных специалистов в области нейронауки и психолингвистики. Цифровизация, которая все глубже входит в нашу жизнь, имеет свою темную сторону. Управление людьми становится доступным и технологичным.
31 января 2020

Моя 70-летняя мама удивляется прекрасному новому миру. «Раньше мы за сапогами ездили стоять в очереди в Москву, а теперь только представишь, какие сапоги тебе нужны, и они буквально с неба на тебя падают», - говорит она. Действительно, контекстная реклама выскакивает на наших мониторах, уже проанализировав предпочтения по поисковым запросам и кликам в интернете (иногда даже кажется, что сканируют твои мысли – только подумаешь о чем-то, и вот тебе показывают, как это купить). Уже через пару дней курьер привезет вам платье или сапоги вашей мечты. Но нас изучают не только маркетологи, которые хотят, чтобы мы больше и активнее покупали. Государства присматриваются к тому, как приспособить новые возможности к своей пользе. Возможно, новый премьер-министр России Михаил Мишустин, человек, сумевший в короткие сроки сделать высокотехнологичной работу Федеральной налоговой службы, появился на этой должности именно с такой задачей?

В 20-м веке тоталитарные диктатуры организовывали гуманитарии-недоучки. Недоучившийся юрист Ленин, недоучившийся семинарист Сталин, художник-неудачник Гитлер. Чтобы увлечь за собой и поработить массы, им приходилось придумывать захватывающие теории, будить воображение народа несбыточными мечтами. Эти «барабашки» из прошлого века уже не должны беспокоить свободомыслящих граждан, сегодня все проще, и новыми диктаторами запросто могут стать специалисты IT-сферы.

О каждом из нас уже накоплены огромные массивы информации. Этой информацией располагают Сбербанк, сайт «Госуслуги», Федеральная налоговая служба, Фейсбук, в Контакте, Яндекс и так далее. Приведу анекдот:

- Звонок по телефону.

– Здравствуйте! Это "Пицца от Марио"?

– Нет, сэр. Это "Пицца от Google".

– Я набрал неправильный номер?

– Нет, сэр. Google купил у Марио магазин пиццы.

– А, хорошо. Тогда я бы хотел заказать пиццу.

– Хорошо, сэр. Вам, как обычно?

– "Как обычно"?! Вы знаете, что у меня "обычно"?

– Согласно нашим данным, последние 15 раз Вы заказывали 12 ломтиков пиццы с двойным сыром, колбасой и на толстом тесте.

– Эм… Ну да. Это то, что я хотел бы заказать и на этот раз.

– Могу ли я предложить вам на этот раз заказать 8 кусочков с рикоттой, рукколой и помидорами?

– Нет, я ненавижу овощи.

– Но у вас повышенный холестерин.

– Откуда вы знаете?

– У нас есть результаты Ваших анализов крови за последние 7 лет.

– Может быть и так, но мне не нужна пицца с овощами. Я уже принимаю лекарства от повышенного холестерина.

– Но вы принимали лекарство нерегулярно. 4 месяца назад Вы приобрели у Drugsale Network упаковку, в которой всего 30 таблеток.

– Я купил больше в другой аптеке.

– Это не отображается на вашей кредитной карте, сэр.

– Я заплатил наличными.

– Но согласно Вашей банковской выписке вы не снимали столько денег.

– У меня есть другой источник денег.

– Но в Вашей налоговой декларации нет данных о других источниках дохода.

– ДОВОЛЬНО!! К черту вашу пиццу!!! Я устал от Google, Facebook, Twitter и WhatsApp. Я улетаю на остров без интернета, сотовой связи, и где за мной никто не шпионит!!!

– Я понимаю, сэр, но вам нужно обновить паспорт. Срок его действия истек 5 недель назад...

Это реальность сегодняшнего дня. В Китае уже проводятся эксперименты с социальным рейтингом граждан. Пока, что утешительно, получается не очень хорошо. Никакой глобальной системы на сегодняшний день нет, а есть лишь примерно 10 разных по методологии и реализации пилотных проектов, находящихся на стадии тестирования. На государственном сайте публикуется «черный список», в который стекаются нарушители из разных черных списков различных ведомств: от невыплаты кредитов и финансового мошенничества до невыполнения судебных решений, типа невыплаты штрафа или отказа от извинения перед кем-то по решению суда.

Нахождение в черном списке влечет за собой наказания. Человек не может покупать билеты на скоростные поезда и самолет, а вынужден ездить на электричке. Невозможно остановится в хорошем отеле, и приходится жить в ночлежках. Нельзя отправить своих детей в частную школу. Сейчас в черном списке 13,5 млн. китайцев. 20,5 млн раз им уже было отказано в покупке билета на самолет и 5,7 млн. раз на скоростной поезд.

Лиха беда начало. Население земли может оказаться расфасованным по разным цифровым гетто, и даже не заметить, как это произошло.

Еще одна побочная сторона цифровизации - алгоритмизация многих процессов, которые сейчас кормят людей. Так, буквально на днях я проводила круглый стол с юридическими компаниями Тверской области: юристы уже испытали натиск новых технологий, которые решают типовые проблемы клиентов лучше, чем это получается у людей. Нотариусы, чиновники, водители – это те, чье право на работу все сильнее теснит искусственный интеллект.

И тут хочется снова сослаться на авторитет Татьяны Черниговской, на ее выступление на Гайдаровском форуме 2020 года. Человек останется незаменим там, где необходимы его именно человеческие черты. Воображение, интуиция, обычный человеческий страх. И этика. Сегодня научно-технический прогресс применительно к социуму сложно ограничить внешними рамками государственных и межгосударственных законов. Ограничения могут быть только внутренние, моральные. На это вся надежда.