Homo fractus/Человек взломанный. — М. : Издательство «Наше завтра», 2021. — 438 с.
Системы искусственного интеллекта стремительно ворвались в жизнь обычных людей, ломая базовые установки и модели поведения, которые складывались веками. В создание этих технологий и стоящих за ними идей вложены наработки множества блестящих ученых, философов, мыслителей. Среди них были верующие и атеисты, честолюбцы и бессребренники, идеалисты и скептики – но вряд ли даже самые циничные из них могли предположить, во что выльется их труд.
А если сегодня оживить графиню Лавлейс или Виттгенштайна, Тьюринга или Гёделя, Кронрода или Циолковского, они наверняка были бы в шоке от того, что плоды их бессонных ночей используются горсткой законченных мерзавцев в столь низменных целях, для откровенного закабаления человечества.
Книги Игоря Шнуренко можно приобрести здесь . Чтобы получить книгу с автографом, пишите на ishnurenko@mail.ru
Автономные роботы могли бы заменить человека на однообразных и тяжелых работах, помочь инвалидам и людям с ограниченными возможностями, работать в космосе, под водой или под землей. Нашлось бы системам искусственного интеллекта применение и в экономике – например, в планировании, и в науке, для проведения сложных экспериментов, и в юриспруденции – для поиска прецедентов, и в сельском хозяйстве. Но вместо главным применением систем искусственного интеллекта стали сегодня слежка за людьми, контроль над ними, их подавление и управление. Редко когда в истории человечества существовал такой разрыв между возможностями технологий и их реальным применением.
Ослабив национальные государства, транснациональные корпорации расчистили место Цифровому Левиафану. Они вводят нормы роевого сознания, тотальной прозрачности, выпалывая частную жизнь, уничтожая приватность, не считаясь с правом человека жить и работать вне оцифрованной реальности. Поведенческие данные пользователей используются платформами для прямого управления поведением, причем не только экономическим. Тем самым перестраиваются не только человеческие, но и общественные отношения, человек взламывается на самом глубинном, ценностном уровне.
Сначала дети и подростки, а потом и взрослые перестают делать различия между реальностью и виртуальностью. Растет отчуждение и “капсулизация”, наблюдается потеря базовых когнитивных компетенций. Потребление знания приобретает все более поверхностный характер, это приводит к росту дилетантизма и позволяет Левиафану все безотказней управлять роем и взломанными людьми через рой. Глубокие знания, особенно в естественных науках и в философии, сегодня нужны как никогда, и их можно сделать доступными для миллиардов людей. Инструменты образования доступны и разнообразны, и в других условиях это привело бы к новой эре Просвещения. Множество людей смогли бы заняться личностным ростом, познать себя и реализовать себя через это познание. Резко повысившийся уровень осознанности в массах людей привел бы и к переходу на новый уровень коллективного сознания, к открытиям новых взаимосвязей между природой и человеком, к действительному, а не мнимому прогрессу человечества. Направления развития были указаны в разработках русских космистов, таких, как Николай Федоров, Константин Циолковский, Александр Чижевский, французского мыслителя Тейяра де Шардена, многих других выдающихся философов.
Но, к сожалению, реальность сегодня такова, что нужен большой заряд оптимизма, чтобы верить в то, что человечество попросту переживет ближайший исторический период, не уничтожив себя. Общество все больше напоминает пчелиный рой, где индивидуальная свобода подчинена некоему «знанию системы» в целом. Через генерированные нейросетями импульсы, воздействующие на эмоции, система начинает управлять действиями людей, загоняя за определенные флажки. В таком обществе лишаются смысла такие понятия, как «свобода воли», «политика», и даже, при всей внешней персонализации услуг, «индивидуальность». Подчеркнул бы, что особенно сильно воздействие системы на самых юных, ибо они выросли в этом «улье», и не имеют опыта другого общества и других отношений. Люди больше не могут планировать вперед, общаться друг с другом, отучаются самостоятельно, без машин, принимать решения. Рукотворный цифровой Левиафан словно высасывает из людей способности, навыки, критичность, ответственность, умение сосредоточиться, и вместе со всем этим жизненную силу. Любое серьезное испытание, например, изменение климата и настоящая, а не выдуманная пандемия могут отбросить человечество на много веков назад, если вообще не уничтожить.
Об этом нужно говорить открыто: корабль человечества движется на скалы, а в командной рубке никого нет. Технократы обманывают нас и себя, если думают, что их автопилот сможет спрогнозировать все препятствия и сумеет подготовиться к любой неожиданности. Если не изменить курс, судно рано или поздно налетел на скалы, которые уже виднеются на горизонте.
Но что делать, если капитан запил, как Ефремов, и заперся в каюте, закрывшись на ключ и выбросив его за борт? Людям не остается ничего другого, кроме как самим научиться управлять судном, открыть капитанскую рубку, разблокировать штурвал, и, отключив автопилот, попытаться сменить направление движения. При этом надо понимать, что если мы будем сражаться друг с другом за право войти в рубку или выполнить те или иные действия, то мы тоже обречены. Вопросы управления кораблем не решаются силой, они решаются критическим разумом, который принимает решения, осознав все риски. Только в этом состоит наш шанс, и только все вместе мы можем это сделать.
Сначала нужно увидеть проблему, не прячась за банальностями, не оправдывая бездействие ложно понятой «объективностью» и лишающим воли фатализмом.
Книги Игоря Шнуренко можно приобрести здесь . Чтобы получить книгу с автографом, пишите на ishnurenko@mail.ru
Использование высоких технологий требует критического мышления, в утраченного наукой в последние десятилетия, когда на смену ему пришли большие вычислительные возможности. Отрыв распространения технологий от осмысления последствий их использования нарастает, никакие риски техношовинистами не учитываются. Являясь по сути тоталитарной сектой, захватившей сегодня капитанскую рубку, они не воспринимают никакую критику и всё чаще прикладываются к бутылке с надписью «технологии искусственного интеллекта». Бутылка заменит им собственный разум, уверены они, а никого другого к штурвалу они уже не подпустят.
Сегодня общество спит, вернее, находится в наркотическом полусне. Иногда оно просыпается, видит пожары и погромы, отсутствие управление и воли правящих, и в ужасе от происходящего принимает какой-нибудь сильный наркотик, например, в виде новых виртуальных зрелищ или мнимых возможностей созданных компьютерами реальностей. Оно вновь погружается в сон – до следующего взрыва, погрома, или мора. Настоящий мор может нагрянуть в любой день, и что же выставят против него? Суперкомпьютеры, обученные на фейковых датасетах, на лживых сгенерированных псевдоданных о том, чего на самом деле не было?
Ложь в мире алгоритмов приобретает большую, чем раньше, силу, потому что теперь подавляется любая альтернатива этой лжи. Нет ответственного субьекта, который мог бы что-то верифицировать со стороны, люди, отказавшись от субъектности и превратив себя в предметы, также не хотят больше разбираться, где правда, где ложь, где добро и где зло, где вера, а где заблуждение, где реальность, а где наваждение.
Чтобы в этих обстоятельствах отвести корабль от скал, нужно начать с определения того, к чему нужно стремиться в первую очередь, чего не хватает, что необходимо для выполнения этих задач.
Чтобы защитить интересы граждан, общества и государства, нужен анализ ситуации и прогнозирование, но прежде людям нужна гарантия от взлома. Нужно понимать, при каких условиях взломать человека станет сначала трудно, а потом, при продолжении мер, и вовсе невозможно.
Прежде всего, нельзя делить общество на тех, за кем следят, и других, которые находятся вне системы всеобщего надзора. Сама система тотальной слежки в корне противоречит основам свободного общества, но начинать нужно с уравнивания прав. Иными словами, нужно обеспечить равенство.
Плодами критического мышления, столь необходимого для выработки курса, невозможно пользоваться без соблюдения элементарных прав и свобод человека: свободы самовыражения, свободы слова, прав на неприкосновенность жилища, личности, без свободы передвижения. Все эти свободы грубо и массово нарушаются во время так называемой «эпидемии». По сути, эти права могут быть сведены к праву человека на приватность и неприкосновенность личности, в том числе цифровую неприкосновенность. Неприкосновенность личности, собственно, есть противоположность взлому, не случайно технократы так настаивают на том, чтобы аннулировать эти цифровые права и свободы.
Необходимо пересмотреть существующие сегодня законы и усилить право человека на убежище как на физическое место, где люди могли бы жить без какого бы то ни было действия гаджетов и влияния цифровой экономики. Но можно ли сделать это без главного: признания за человеком свободы воли, сознания, индивидуальности? Иными словами, человеку нужна свобода.
Человек имеет право на собственное будущее, право оставаться непредсказанным, право не давать свои данные ни одной системе и не оставлять никаких цифровых следов, право стирать их по простому запросу. Эти новые свободы должны быть очевидны и не требовать сложных механизмов реализации: наоборот, те, кто использует поведенческую аналитику, должны нести бремя доказывания, что при этом не нарушаются права ни одного человека.
Дети должны быть полностью изъяты из-под влияния “капитализма слежки”. Здесь обществу стоит пойти на прямые запреты и жесткие ограничения сферы действия новых технологий.
Транснациональные корпорации не должны определять, а тем более диктовать социальные нормы ни одному обществу. Государство не должно поощрять своего могильщика, цифрового Левиафана, и те виды бизнеса, которые связаны с бизнес-моделью извлечения ресурсов, входя в системы “интернета вещей” и производства поведенческой добавки.
Прогресс нельзя остановить, но общество может и должно его направлять, просчитывая последствия на перспективу. Русский писатель и философ Иван Ефремов полагал, что человечество с самого начала своей истории балансирует на «лезвии бритвы», и что только так оно может создавать великое и прекрасное, достигать вершин. Нужно и сейчас провести человечество, общество, по «лезвию бритвы», не останавливая прогресс, а задавая ученым и инженерам вектор на усиление возможностей и способностей человека, а не на их ослабление.
Отдельные люди, и общество в целом должны перестать быть бездумными «пользователями», объектами управления Цифрового Левиафана, должны вернуть себе достоинство и возможности сознательного личностного и общественного развития. Нужна взаимопомощь и чувство солидарности, нужно то, что на заре эры Просвещения определялось как братство.
Итак, чтобы свернуть с самоубийственного курса, людям нужно вернуться на новом уровне к понятиям свободы, равенства и братства, расширив их.
Сегодня если и есть осознание проблемы отчуждения людей от собственного будущего, то точно нет братства в способах её решения. Каждый спасается как может. Психологи-консультанты работают в области цифровой детоксикации, предлагая свои услуги прежде всего представителям власти и бизнеса. Но Курпатовых на всех не хватит – как не хватит на всех и бункеров на Аляске.
Человек неисчерпаем
Элвин Тоффлер в своей «Третьей волне», вышедшей в 1980 году, так описывал «людей, составляющих ядро технической революции»:
«Они начинают не с технологий, а с того, какое общество в будущем мы хотим иметь. Они признают, что сейчас у нас так много технических возможностей, что мы не можем все их консолидировать, развивать и применять. Поэтому, доказывают они, необходимо произвести более тщательный отбор и выбрать те технологии, которые отвечают долгосрочным социально-экономическим задачам. Вместо того чтобы сделать технологию нашей целью, они хотят установить контроль общественности над основными направлениями технологического прорыва. Силы Второй волны представляют те, кому нравится старый, бездумный подход к технологии: «Если это работает, производите. Если это продается, производите. Если это делает нас сильнее, создавайте»… Когда речь заходит об опасности, они только пожимают плечами».
К сожалению, «Третья волна» Тоффлера так и осталась красивым нереализованным проектом, и нынешние технократы очень напоминают те самые «силы второй волны», которых Тоффлер определил в устаревшие. Даже децентрализация, на которую возлагалась очень много надежд, не помогла.
Тоффлер восклицает в той же книге:
«Возможно ли, чтобы Старший Брат уследил за всеми тостерами и телевизорами, автомобильными моторами и кухонными электроприборами? Когда произойдет широкое распределение интеллекта во всей среде обитания, когда активизировать его смогут пользователи сразу в тысяче мест, когда пользователи компьютеров станут общаться друг с другом, минуя центральный компьютер (как это происходит во многих распределенных сетях), сможет ли Старший Брат все так же контролировать ситуацию? Децентрализация интеллекта не только не укрепит мощь тоталитарного государства, а скорее наоборот, ослабит ее. Разве при проектировании машин для исполнения наших приказаний мы не можем запрограммировать их, как Робби в классическом произведении Айзека Азимова «Я, робот», никогда не причинять вреда человеку?»
Мы знаем ответы на эти риторические вопросы: да, Старший Брат прекрасно установил контроль над населением, используя как централизованные платформы, так и децентрализиованные сети. И мы, люди, сегодня не имеем власти запрограммировать машины не причинять нам вреда – напротив, машины могут программировать нас и наших детей практически на любые действия, в том числе причинять вред нам и друг другу. Пример – планомерное эмоциональное заражение через социальные сети и управление массами протестующих во время недавних событий в Соединенных Штатах и в Белоруссии.
Технократы «четвертой промышленной революции» как две капли воды похожи на своих прадедушек «второй» — только первые стали куда более циничными и совершенно пустыми внутри. Взломав обычного человека сегодня, они не хотят понять, что завтра они будут взломаны сами – а может быть, их уже взломали, просто уверили в их исключительности.
На деле выбор сегодня стоит между порабощением человека, сведением его к уровню машины – и развитием его самого.
Но может ли человек развиваться, вопректи уверенности многих в том, что Homo sapiens создан таким, каким создан, и не подлежит изменению?
Я уверен в том, что может и должен. Да и вся его история – это постоянное совершенствование, выход за пределы, постоянное развитие духа, постоянный труд души.
Русские философы-космисты обосновали необходимость перехода от технического прогресса, оставляющего личность физически несовершенной, к органическому. Техника при этом рассматривается как средство человеческого самопознания, а не только как посредник между человеком и природой, которую надо покорить. На деле исследования искусственного интеллекта и есть средство такого самопознания, но сегодня они ведутся в интересах жрецов и технократов, жаждущих стать необогами, а не в интересах человечества.
Конструируя инструменты и машины, мы пытаемся понять устройство наших собственных органов и продлить их, превращая бессознательное и рефлективное в осознанное, построенное по проекту. Через технику мы открываем дремлющие пока возможности собственного организма.
“Линия техники и линия жизни идут параллельно друг другу”, писал Павел Флоренский. Овладев умением создавать инструменты и органы вне себя, человек должен научиться применять это умение к своему телу с тем, чтобы овладеть “направленным органосозиданием”. Однако сделать это он должен и может не заменяя живое в себе неживым, и не делая машину моральным агентом, способным судить людей и даже убивать их.
Человек прост и сложен одновременно, его опыт и есть его сознание, но при этом его суть — во множестве вариантов интерпретации этого опыта. Классик сказал, что весь мир – театр, но больше всего театр – это человек, и человек есть театр. Суть театра во множестве способов интерпретации сюжета, и этим он похож на человека. Именно поэтому для разработчиков искусственного интеллекта наиболее твердый орешек – это не игры с их четкими правилами, а театр с его отсутствием каких бы то ни было аксиом, с его зыбкостью.
Но зыбкости приходит конец, и наступает, по выражению Хайдеггера, эпоха расчетов с ее точно установленными потребностями. Наступает эпоха определенностей.
И театру как выражению зыбкости тоже приходит конец.
Все, что не входит в конечный список этих потребностей, подлежит аннигиляции через забвение. Улыбка Моны Лизы будет иметь строго определенное значение. В «Гамлете» побеждает не Клавдий со своей грубой силой эволюции, а Озрик – посредник, банальный и бездушный, совершенный объект темной онтологии, видящий свою выгоду. Озрик ставит на обе стороны сразу – причем не на победу, а на поражение. В линейной логике он должен проиграть, но поражение терпят и обе стороны, и судьи. Выигрывает как раз Озрик, который вполне мог бы рассчитать и даже организовать подобную ситуацию через рекомендательную систему искусственного интеллекта.
Книги Игоря Шнуренко можно приобрести здесь . Чтобы получить книгу с автографом, пишите на ishnurenko@mail.ru
