Системы и технологии искусственного интеллекта стремительно ворвались в жизнь обычных людей и уже начали ломать базовые установки и модели поведения, которые складывались веками.
Высокие технологии имеют потенциал к позитивному воздействию на развитие человечества, автоматизируя рутинные работы, уменьшая дискриминацию, помогая инвалидам и людям с ограниченными возможностями, способствуя быстрому распространению идей, устраняя преграды для личностного роста. Однако вместе с этим растет разрыв между положительными возможностями этих технологий и их применением в реальном мире, где большие корпорации сделали разработку “новой нефти” — человеческого опыта — своим бесплатным ресурсом, превращая его при помощи компьютерных систем искусственного интеллекта в коммерческий продукт. Продавая фьючерсы на человеческое поведение, компании не интересуются разрушительным эффектом своей эгоистической бизнес-модели на права и интересы людей, сообществ, человечества в целом.
Корпорации навязывают обществу новые социальные нормы, в которых отсутствует понятие “частной жизни”, приватности, права человека жить и работать вне оцифрованной реальности. Проповедуя открытость и прозрачность, сами эти корпорации остаются закрытыми, тщательно оберегая свои тайны. Особый секрет — это частная жизнь руководителей, та самая, в которой они отказывают обычным людям. Транснациональные гиганты научились извлекать огромные прибыли, продавая, по сути, фьючерсы на человеческое внимание, эмоции, поведение, монетизируя психику и делая таким образом «новой нефтью» самого человека, во все большей степени ставя его под контроль безличных алгоритмов.
Экономический императив заставляет и остальные компании подключаться к бизнес-модели “капитализма слежки”, перестраивая не только экономику, но и общественные отношения. Началась безумная гонка за право доступа к “новой нефти” — внутреннему миру людей. Часть бизнеса, вовлеченного в “цифровую экономику”, все громче требует от государства и общества особого статуса, требует права не соблюдать конституционные нормы или возможности их обходить. Нарушения прав личности в который раз в истории России мотивируются необходимостью цивилизационного “рывка” после десятилетий апатии, проедания не бесконечных природных ресурсов, разбазаривания когда-то серьезного человеческого капитала и имитации реформ. Есть и геополитические аргументы, когда говорится о необходимости не проиграть в ИИ-гонке, “догнать и перегнать” страны, вырвавшиеся вперед в науке и технологиях, прежде всего Соединенные Штаты и Китай. При этом забывают о том, что страна теряет следующее поколение тех самых людей, которые, как предполагается, и должны совершить прорыв.
Растет цифровая зависимость детей и подростков, цифровой аутизм, в итоге все больше ухудшается качество человеческого капитала в стране. В сочетании со снижением демографических показателей это ведет отнюдь не к “рывку”, а к еще большему отставанию. Речь идет об уже подкрепленных исследованиями психологов и нейрооученых фактах «цифрового аутизма»: повышения тревожности у детей, ухудшения их памяти, снижения усидчивости, способности к обучению, прежде всего математике и точным наукам — тем самым областям знания, которые и создают конкурентное преимущество для страны. Надо помнить о том, что именно дети становятся первыми потребителями самых продвинутых технологических новинок, и если эти гаджеты и решения нацелены на извлечение человеческого ресурса, а не на его обогащение, то вложения в образование и культуру обессмысливаются, а молодые люди превращаются из сознательных индивидуумов в бездумных потребителей.
Технократически настроенные руководители разных уровней часто рады возможности переложить ответственность на безличные алгоритмы и искусственные нейросети, которые в сложных общественных системах могут быть лишь помощниками в принятии решений человеком. Непродуманность решений, невнимание к мнению экспертов, независимых от групп интересов, приводит к росту напряжения в обществе, проблему чего намереваются решать за счет “закручивания гаек” при помощи систем тотальной слежки. Это — путь общества к саморазрушению, путь в никуда.
Обществу необходимо осознать, что отрыв технологий от их осмысления нарастает, а описанные выше риски и вызовы не учитываются, будучи замененными парадными отчетами и взаимным перекладыванием ответственности всех “акционеров” процесса цифровизации.
Задаем ли мы себе вопросы – и даем ли честные ответы – о том, зачем, с какой целью мы развиваем цифровые технологии, чего мы хотим добиться?
Генсек ООН Антониу Гутерьеш недавно назвал тёмную сторону хайтека одним из «всадников Апокалипсиса». Гутерьеш говорил о том, что бесконтрольная эксплуатация природных ресурсов привела человечество на край экологической катастрофы. Сегодня природа наносит ответный удар и речь идет о самом выживании нашего вида. Но не приведет ли агрессивная эксплуатация человеческого сознания, эмоций и поведения к тому, что природа, выведенная из равновесия, в будущем обрушится на нас с новой силой? Готовы ли мы к новому апокалипсису и не лучше ли его предотвратить сегодня, чем оставить расхлебывать эти проблемы нашим детям?
Бесконтрольное использование высоких технологий может привести к трудно предсказуемым последствиям. Все это требует своевременного анализа, лучшего прогнозирования, выработки взвешенных оценок и рекомендаций для защиты интересов граждан, бизнеса, общества и государства. К сожалению, в российском обществе, во многом застигнутым переменами врасплох, серьезный и аргументированный разговор на эти темы толком и не начинался.
Поэтому необходима «новая цифровая осознанность», при которой и отдельные люди, и общество в целом перестанет быть бездумными «пользователями», объектами управления со стороны алгоритмов, вернут себе человеческое достоинство и возможности сознательного личностного и общественного развития. Выбор, при всех условиях, должен оставаться за человеком, и этот выбор должен быть информированным и сознательным.
Все большее значение приобретает право человека на приватность, без которого сложно себе представить реализацию других прав и свобод: свободу самовыражения, свободу слова, печати, право на неприкосновенность личности и жилища, свободу передвижения и другие свободы и права. Должно быть обеспечено право человека на равноправие, которое бы приостановило разделение общества на две части: наблюдателей и наблюдаемых, тех, за кем осуществляется слежка и других, которые находятся вне системы всеобщего надзора. Да и сама эта система не может иметь место в свободном обществе.
Следует бороться за право человека на убежище — то есть на физическое место, где люди гарантированно могли бы остаться без какого бы то ни было действия гаджетов и влияния цифровой экономики.
Необходимо и четко прописать право человека оставаться непредсказанным, что должно быть обеспечено возможностью выбора для любого человека не давать свои данные ни одной системе, тем более в принудительном порядке.
Дети должны быть полностью изъяты из-под влияния “капитализма слежки”. Здесь общество должно тщательно взвесить все варианты и, возможно, пойти на самые жесткие ограничения сферы действия новых технологий. Прибыль корпораций, их лоббирование, не должны определять политику страны в отношении своего будущего, своих детей.
Транснациональные корпорации не должны определять, а тем более диктовать социальные нормы ни одному обществу. Бизнес должен вспомнить о своих этических основах, о роли доверия, о человеческом капитале и среде обитания, и проявить новую осознанность и новую ответственность. Государство и общество должно поощрять те виды бизнеса, которые не основаны на экстрактивной бизнес-модели: это и экологический бизнес, и не-цифровой бизнес, и, в недалеком уже будущем, бизнес на производстве и услугах, не включенных в систему “интернета вещей”, “чистых” от цифровой и поведенческой добавки.
Нужно начать широкое общественное обсуждение вызовов и рисков, которые масштабная повестка цифрового развития ставит перед российским обществом. «Новая осознанность» — это комплексный, междисциплинарный подход к разработке и использованию цифровых высоких технологий. Должно быть выслушано мнение ученых и экспертов в разных областях знания, ученых, философов, представителей общественных организаций, бизнеса и государственных структур — всех тех, кому не безразлично будущее страны и человечества, гуманистическая повестка.
Подходы и методики «новой осознанности», выработанные обществом, должны быть доступны для всех без исключения членов общества, безотносительно их материального положения, возраста, пола или уровня образования. Необходима и работа над перспективой, постановка задач перед учеными, философами, политиками, но не с тем, чтобы ускорить бездушное извлечение из человека его эмоциональных и когнитивных ресурсов, а чтобы добиться настоящего прогресса – в резком расширении человеческих способностей без того, чтобы слепо полагаться на посредство технологических «протезов». «Новая осознанность» — это не отрицание технологического развития и науки, напротив, это возвращение этим понятиям, которые сегодня все больше отрываются от человека, их истинных значений.
«Новая осознанность» — это и активный, творческий и гуманистический подход в использовании высоких цифровых технологий, при котором человек перестает быть «юзером», пользователем, а вместо этого становится личностью, принимающей решения.
«Новая осознанность» должна стать основой здорового цифрового общества, сделать развитие способностей человека ядром новой философии. Нам представляется, что именно на этом пути человечество может добиться настоящих прорывов и в расширении человеческих возможностей, и в объединении для решения насущных глобальных проблем.
Мы, инициативная группа общественного движения “новой осознанности”, призываем подключиться к его поддержке всех. Мы ждем поддержки и помощи и от наиболее сознательной части бизнеса, и от осознающих свою ответственность представителей государства.
Мы приглашаем к сотрудничеству ученых, философов, активистов, инженеров, предпринимателей, вне зависимости от их политических убеждений и пристрастий, потому что считаем, что повестка осознанного человеческого развития объединит все здоровые силы.
Мы считаем, что прогресс нельзя остановить, но общество может и должно его направлять, просчитывая последствия на перспективу. Русский писатель и философ Иван Ефремов полагал, что человечество с самого начала своей истории развивается между двумя крайностями, балансируя на «лезвии бритвы», и что только так оно может создавать великое и прекрасное, достигать вершин. Нужно и сейчас провести человечество, общество, по «лезвию бритвы», не останавливая прогресс, а задавая ученым и инженерам вектор на усиление возможностей и способностей человека, а не на их ослабление.
Игорь Шнуренко, независимый эксперт и консультант в области ИИ, писатель
Максим Макаренков, издатель, журналист
В несколько измененном виде опубликован на сайте РСМД 4 февраля 2020 года