Замысел цикла лекций «Анатомия искуссственного интеллекта» в библиотеке TechnoScience возник летом 2019 года. Незадолго до этого я сдал в издательство научно-популярную книгу, где попытался дать свой взгляд на важные, в моем понимании, вопросы.
Цель моей работы первоначально была популяризация научных достижений – ведь самые талантливые ученые внесли свой вклад в науки, лежащие в основе технологий ИИ: математику, биологию, психологию, нейронауки, и, что очень важно, философию. Я был уверен в том, что именно зтот балет научных идей, догадок и прозрений вызовет интерес самой широкой публики.
Развитие систем ИИ освещается средствами массовой информации чаще всего в сенсационалистском ключе, с цепляющими заголовками, вызывающими у одних эйфорию, а у других – страх. При этом практически нет анализа и истории вопроса – а это необходимо, для того чтобы человек, обладающий критическим мышлением, правильно оценил открывающиеся возможности, а также осознал проблемы и ограничения.
Можно ли в столь важных вопросах, где ошибка может стоить очень дорого, опираться на мифы, пропаганду заинтересованных структур или конспирологию? Эта прорывная область знаний еще только складывается, и вокруг многих концепций здесь идут ожесточенные споры.
Воплощения ИИ
Однако уже сейчас крайне важно понимать, как использовать системы ИИ во благо всего человечества, для выхода людей на новые уровни творческих и когнитивных способностей, а не для разъединения людей, массовой слежки и новых способов убийств.
Интерес к созданию и воплощению в реальность искусственного интеллекта тогда был основан в равной мере на науке и искусстве. Он возник из духа математики и поэзии – видов деятельности, которые в равной степени полагали абстрактными, принадлежащими платоновскому миру идей.
Что такое искусственный интеллект, как он возник, кто за ним стоит и что от него ждать сегодня, завтра и послезавтра? Выдержит ли естественный, природный интеллект соревнование с ним – или уйдет с исторической арены, как это предсказывают многие футурологи? Что в этой ситуации делать людям – соединиться, под угрозой исчезновения, с компьютером в одну кибернетическую систему, как предлагает Илон Маск, превратившись фактически в придаток сверхразумной машины? Чего ждать от целого созвездия технологий, которые искусственный интеллект ведет за собой? Как разворачивается гонка, победа в которой может дать власть над миром?
Социальные последствия
В процессе поиска ответов на эти вопросы возникали новые, прежде всего о социальных последствиях масштабного появления систем искусственного интеллекта в повседневной жизни людей.
Складывалось впечатление, что общество застигнуто этими технологиями врасплох, едва их замечает, в то время как они незаметно, но эффективно взламывают человека и его ценности, и не просто меняют мир вокруг, но делают это таким образом, что сам вид homo sapiens может очень быстро потерять свои человеческие характеристики и сойти с исторической арены.
Традиционные научные и общественные институты оказались не готовы не только направить эти процессы в полезное русло, на благо целовека, но даже не смогли их отрефлексировать. В итоге технологический прогресс уже принес с собой явный общественный регресс. Вместо создания новых возможностей для человека эти технологии зачастую используются в целях скрытой манипуляции и даже управления им.
Рождение ИИ
На лекциях мы разобрали, как уже в начале XIX века родились ключевые современные подходы к алгоритмизации действительности. Это, однако, не привело к созданию компьютеров, потому что общество было не готово к их внедрению.
Интерес к созданию и воплощению в реальность искусственного интеллекта тогда был основан в равной мере на науке и искусстве. Он возник из духа математики и поэзии – видов деятельности, которые в равной степени полагали абстрактными, принадлежащими платоновскому миру идей.
Туда же, к сфере чистой философии, тогдашние ученые, политики, промышленники и приписали возникшие тогда подходы, что, очевидно, помешало их практической реализации. Любопытно, однако, что «леди Фея» — первый программист Ада Лавлейс, именно тогда создала первый биржевой алгоритм. Шаг за шагом индустрия стала использовать автоматы и разнообразные машины, однако темп перемен ещё позволял обществу реагировать на эти новинки.
Прямая ниточка ведет от рожденного в Вене философа Людвига Витгенштайна к оксфордскому журналу Mind и англичанину Алану Тьюрингу.
Двигаясь дальше во времени, мы увидели, как наука, родившаяся в Новое время, перешла от дешифровки мира к дешифровке человека. Рассматривая машину как свое расширение, человек стал с двойным усердием штурмовать природу – и не заметил, как изменился сам.
Эпоха модерна с ее попыткой создать нового человека дала нам интерес к синтетическим языкам. Противоречия, копившиеся много десятков лет, стали выходить на поверхность. К сожалению, человеческое сознание развивалось и тогда куда медленнее технологий, что привело к концу эпохи стабильности, к повсеместным революциям, войнам и большому кровопролитию. Об этом уроке мы не должны забывать и сегодня.
Перспективы и воплощения
После погружения в хаос маятник не мог не качнуться в обратную сторону. Так в обществе возник запрос: в верхах — на «закон и порядок», в низах — на управление массами. Так в Германии 1930-х возникла теория всеобщего контроля, в англоязычных странах — произошел кибернетический прорыв. К этому же периоду относятся первые эксперименты с машинным обучением. В СССР, при всех трудностях, происходили схожие процессы.
Рассматривая историю искусственного интеллекта, я старался представить ее с разных перспектив. Благодаря тому, что в последние годы главные успехи в техническом воплощении систем ИИ связываются прежде всего с наработками ученых США и Великобритании, принято показывать развитие отрасли с точки зрения англоамериканского нарратива. При этом игнорируются достижения других стран и множества ученых из Европы, в том числе и России. Чтобы восполнить пробел, возникающий при чтении переводных массовых книг на эту тему, в курсе мы обратили пристальное внимание на Вену и, шире, бывшую Австро-Венгрию начала XX как колыбель когнитивных наук.
Мы поговорили о свойственном тому времени ощущению конца философии и достижения границ мышления. Катаклизмы и войны перенесли затем место действия в Британию, где центральноевропейские философы прижились, дав толчок изучению проблем сознания и мышления. Так, прямая ниточка ведет от рожденного в Вене философа Людвига Витгенштайна к оксфордскому журналу Mind и англичанину Алану Тьюрингу. Интересно, что философия искусственного интеллекта в те годы была неразрывна связана с философией сознания и морально-этическими проблемами.
Кочерга Витгенштейна
Путь от раскаленной кочерги Витгенштейна и «Клуба моральных проблем» до тьюринговского “Человека вычисляющего” оказался коротким, но дальнейшее развитие требовало огромных вычислительных мощностей и материальных затрат, на которые тогда были способны лишь две сверхдержавы. Ученые прежде всего этих стран, США и СССР, сосредоточились во-первых, на исследованиях мозга, и во-вторых, на разработках всё более мощных компьютеров.
В 1980-е годы им пытались составить конкуренцию японцы, которые попробовали создать пятое поколение компьютеров и построить самое современное постиндустриальное общество. Централизация, однако, похоронила великую японскую мечту – в этом видится урок и для наших дней с техномонополиями, которые контролируют уже не только производство технологических приспособлений, но и, во всё большей степени, науку, политику и общество. Фиаско японского проекта привела к зиме искусственного интеллекта – не случится ли этого и сегодня?
В течение курса лекций мы возвращались к поставленным однажды вопросам снова и снова, уходили в стороны, потому что без таких уклонений невозможно было создать стереоскопическую картинку развития идеи. Формат встреч в библиотеке TS, созданная здесь уютная атмосфера позволила охватить весьма широкий и важный круг вопросов, не идя на компромиссы по глубине, с одной стороны, и не погружаясь в узкую специализацию, понятную немногим, с другой.
Мы разобрали эволюцию представлений человека об ИИ, взгляды на то, может ли машина мыслить, со стороны технооптимистов, конспирологов, социологов, футурологов.
Пирамида ресурсов и парадоксы
Мы увидели, что за индустрией искусственного интеллекта стоит целая пирамида материальных ресурсов, знаний и человеческого труда. Мы увидели, как будущее приходит всё быстрее, и если так пойдет дальше, человеческий интеллект очень скоро может уйти в архив естественной истории. Рассказывая об «анатомии ИИ», я постарался показать, что находится внутри черного ящика, что значит «искусственный», рассказать о парадоксе корабля Тесея и спорах Гилберта с Гёделем, актуальные и по сей день.
Сегодня роевое сознание пытается заменить коллективный разум. Вежливые люди из Amazon и других крупных технокорпораций уже пришли к человеку прямо на дом и хакнули его. Потребитель стал ресурсом не только на свободном рынке, но и в защищенной прежде социальной системе.
Общественные и государственные институты перестали работать, ибо тем, кто принимает решения, стало возможным переложить свою и без того невеликую ответственность на полностью безответную «интеллектуальную машину». Для этого насаждаются новые мифы относительно когнитивных способностей систем ИИ – мифы, которые в своих лекциях я постарался резвеять.
Развитие человека никогда не прекращается и уже сегодня выходит за рамки, предписанные природой.
Герои «Анатомии ИИ»
Так, шаг за шагом погружаясь в полное напряжения поле научных и философских дискуссий, мы знакомились с героями «Анатомии искусственного интеллекта»: с прекрасной, пылкой и поэтичной Адой Лавлейс, с её приземистым краснолицым другом, создателем «аналитического двигателя» Бэббиджем, уверенным, что наука должна немедленно излечить общественные язвы, с восторженным калужским космистом Константином Циолковским, с московским математиком Александром Кронродом и его друзьями, которые создали лучший в мире шахматный компьютер, а а между делом баловались, играя с машинами в подкидного дурака.
Мы познакомились с веселыми польскими криптографами Мареком, Ежи и Хенриком, которые пережили за свою жизнь столько, что хватило бы на несколько остросюжетных сериалов, с ехидным трансгуманистом Рэем Курцвейлом, словно тестирующим человечество «на слабо», с замороженным им в антифризе автором концепции «сообщества разумов» Марвином Мински, с Куртом Гёделем в его неизменном пенсне, еще одним венцем, потерявшимся в Америке, и с эксцентричным Аланом Тьюрингом в противогазе с велосипедом на плече…
«Космическая Одиссея 2001 года»
Во время одной из встреч зашла речь о научно-фантастическом фильме режиссера Стенли Кубрика «Космическая Одиссея 2001 года», ключевом для понимания философии искусственного интеллекта и не только. Кубрик в своем произведении соединяет важные идеи когнитивных наук с темой выхода человека в космос, его биологической эволюцией, с пределами этой эволюции и влиянием космоса на человека и человека на космос. Было решено посмотреть этот фильм всем вместе. Кто-то пришел на просмотр, организованный библиотекой, кто-то посмотрел фильм дома, но эффект кубриковского фильма оказался значительным, повлияв на последующие дискуссии.
Развитие человека никогда не прекращается и уже сегодня выходит за рамки, предписанные природой. Можно ли нарушить биологические пределы и что последует дальше? Есть ли в этом процессе предопределенность – или мы можем, через новую осознанность и новое просвещение, что-то в нем изменить?
Я постарался сделать свое изложение доступным не только для «гиков» или «технарей», поясняя сложные концепции на простых примерах, делая это через парадоксы и мысленные эксперименты, через метафорическое изложение теорий и практики. Перед глазами слушателей прошли множество захватывающих эпизодов, с которыми сопряжена история исследования человеческого разума и его двойника, разума искусственного. Было там место и драматической схватке идей и личностей, которая продолжается и поныне.
Многомерность
Несмотря на достаточно сложную и новую тему, лекции собрали свою постоянную аудиторию. Важно отметить, что часто темы науки подаются в популярном изложении как нечто законченное и безальтернативное. Однако в данном курсе я постарался представить тему как имеющую много измерений. Для этого было недостаточно одной популяризации научных открытий и прорывов, стоящих за технологиями искусственного интеллекта. Мы вместе с читателями библиотеки попробовали взглянуть на обратную сторону комфорта и новых удобств, которые несет с собой техника, вместе разобраться в социальных последствиях технических прорывов.
В целом, как мне кажется, библиотеке через цикл «Анатомия искусственного интеллекта» удалось представить тему в объемной, многомерной перспективе, удалось показать, что и будущее человека открыто, его определяем мы здесь и сейчас.