Читать онлайн Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе бесплатно

Корни современного ИИ берут свое начало в далеком прошлом, задолго до того, как «Большая девятка» создала наших электронных помощников: Сири, Алексу и их китайского коллегу Тян Мао. И за все это время не было создано единого определения ИИ, подобного тому, что существует для других технологий. Когда дело касается ИИ, оказывается, что сложно дать его конкретное описание, поскольку он представляет собой разные вещи, даже когда отрасль продолжает развиваться. То, что вполне можно было назвать ИИ в 1950-х – калькулятор, способный выполнять деление столбиком, – сегодня едва ли воспринимается как шедевр технологии. Это явление известно под названием «парадокса невозможного» – как только новая технология становится частью мейнстрима, мы перестаем ее замечать. Мы больше не воспринимаем ее как ИИ.

В самой базовой форме ИИ представляет собой систему, самостоятельно принимающую решения. Действия, выполняемые ИИ, повторяют работу человеческого разума или подражают ей. Примерами могут служить распознавание звуков и изображений, решение задач, понимание естественного языка, использование стратегии для достижения целей. Некоторые системы ИИ огромны и способны осуществлять миллионы вычислений, в то время как другие – узки и предназначены для решения всего одной задачи, например поиска обсценной лексики в сообщениях электронной почты.

В своих рассуждениях мы постоянно возвращаемся к одним и тем же вопросам: могут ли машины думать? Что означает глагол «думать» в применении к машине? Что означает он в применении к нам? Что такое мысль? Как мы можем быть уверены – однозначно, с полной определенностью, – что мы на самом деле думаем свои собственные оригинальные мысли? Эти вопросы живут рядом с нами в течение столетий и обладают основополагающим значением как для истории ИИ, так и для его будущего.

Когда мы задаемся вопросом, каким именно образом мыслят люди и машины, главной проблемой оказывается, что слово «мыслить» неотделимо от слова «ум». Словарь Merriam-Webster Dictionary определяет слово «мыслить» как «формировать или иметь в уме», а Oxford Dictionary[9] объясняет, что это означает «активно использовать ум для формирования взаимосвязанных идей». Если мы посмотрим в словаре значение слова «ум», то окажется, что и Merriam-Webster, и Oxford определяют его в контексте слова «сознание». Но что такое сознание? Согласно обоим словарям, это качество или состояние, при котором мы осознаем действительность и реагируем на предлагаемые ею стимулы[10]. Различные группы специалистов: психологи, нейробиологи, философы, теологи, ученые в области этики или информатики – все они будут подходить к определению термина «мышление» со своих позиций.

Если мы ищем столик в любимом ресторане при помощи Алексы, она, как и мы, будет обсуждать еду так, словно осознает действительность и способна реагировать на внешние стимулы. При этом Алекса никогда не чувствовала хрустящего яблока на зубах, пикантных маринованных огурчиков или газированной воды на языке, прикосновения густого арахисового масла к нёбу. Попросите Алексу описать свойства этих продуктов, и ее ответ будет опираться на ваш собственный опыт. У Алексы нет рта – как же она может ощущать вкус пищи, подобно вам?

Вы – уникальная в биологическом смысле личность, и потому слюнные железы и вкусовые сосочки расположены у вас не совсем так, как у меня. Тем не менее мы оба знаем, что такое яблоко, каково оно в общем на вкус, какова его текстура, как оно пахнет. В какой-то момент жизни мы научились узнавать яблоко при помощи методики, которую специалисты называют «обучением с подкреплением»: кто-то объяснил нам, что такое яблоко и чем оно отличается от других фруктов. Потом, со временем и без нашего осознанного участия, наши автономные биологические системы распознавания образов довели до совершенства навык узнавания яблока, даже при недостаточных данных. Увидев черно-белое, двумерное, схематичное к тому же изображение яблока, мы знаем, что это такое, – несмотря на то, что у нас нет сведений о вкусе, запахе, хрусте и других вещах, сигнализирующих мозгу: «Это яблоко». Способы, которыми мы и Алекса узнали что-то о яблоках, куда ближе друг к другу, чем можно было бы подумать.

Алекса вполне компетентна, но вот разумна ли она? Должно ли ее машинное восприятие обладать всеми качествами человеческого, чтобы мы приняли ее способ «мышления» как адекватное отражение своего собственного? Американский психолог методов обучения Бенджамин Блум основную часть своей академической карьеры посвятил исследованию и классификации состояний ума. В 1956 году он опубликовал систему, позже известную как «таксономия Блума», описывавшую цели обучения и достижения учащихся в образовательном процессе. Базовый уровень – это запоминание фактов и основных понятий, за ним по порядку следуют понимание идей, применение знаний в новой ситуации, экспериментальный анализ информации и выстраивание логических связей, оценка, защита и определение ценности информации и, наконец, создание оригинальной работы. Будучи маленькими детьми, мы в основном заняты запоминанием и пониманием. Например, нам сначала следует запомнить, что в бутылке находится молоко, а только после этого – что у бутылки есть лицевая и тыльная сторона, даже если мы одной из них не видим.

Компьютеры обучаются, следуя той же иерархии. Например, в 2017 году система ИИ под названием Amper создала и записала музыку для альбома I AM AI («Я – ИИ»). Аккорды, инструментовку, партии ударных Amper разрабатывала сама, используя в качестве исходных параметров жанр, настроение и длину произведения, и при этом среди ее произведений – проникновенная баллада Break Free, набравшая более 1,6 млн просмотров на YouTube и ставшая хитом на обычном радио. Прежде чем написать такую песню, Amper нужно было узнать качественные характеристики популярной баллады, а также некоторую количественную информацию, например как рассчитывать высоту нот и такты, как распознавать тысячи шаблонов в музыке (аккордовые последовательноси, гармонические последовательности, ритмические акценты).

Способность к творчеству, по Блуму, является высшим результатом обучения, но не было ли оно в данном случае просто выученным механическим процессом? Было ли это творчество подобно человеческому? Или его природа была совершенно иной? Думала ли Amper о музыке так же, как композитор-человек? Можно было бы попытаться доказать, что «мозг» Amper – нейронная сеть, которая использует алгоритмы и данные, ограниченные своим контейнером, – не так уж сильно отличается от мозга Бетховена, который построен из органических нейронов, использует данные, распознает образы и заключен в контейнер его головы. Так ли сильно отличался творческий процесс Amper от бетховенского, когда тот создавал свою Пятую симфонию с ее знаменитым началом «та-та-та-ТАМ» и последующим переходом из мажора в минор? За этими четырьмя нотами следуют гармоническая последовательность, фрагменты гамм, арпеджио и другие ингредиенты, из которых состоит любая композиция. Прислушайтесь внимательно к скерцо в финале, и вы услышите очевидные заимствования из Сороковой симфонии Моцарта, написанной на двадцать лет раньше, в 1788 году. Моцарт испытывал влияние Антонио Сальери и своего друга Франца Йозефа Гайдна, которые, в свою очередь, находились под влиянием своих предшественников, например Иоганна Себастьяна Баха, Антонио Вивальди и Генри Перселла, творивших с середины XVII до середины XVIII века. В их музыке можно услышать следы работ еще более ранних композиторов, таких как Якоб Аркадельт, Жан Мутон и Йоханнес Окегем. Те, в свою очередь, испытывали влияние композиторов самого раннего Средневековья – и цепочку можно проследить дальше, до самой первой записанной композиции, так называемой Сейкилосской эпитафии, выбитой на мраморном столбе, который был обнаружен на территории современной Турции и когда-то служил надгробным памятником. Можно углубляться и дальше в прошлое, к тем временам, когда были изготовлены первые примитивные флейты из костей животных и слоновой кости – то есть примерно 43 000 лет назад. Ученые полагают, что и в более ранние времена наши предки пели, прежде чем начать говорить[11].

Человеческое мышление представляет собой результат миллионов лет эволюции. Подобным же образом мышление современного ИИ опирается на долгий эволюционный процесс, начинающийся со времен математиков, философов и ученых древности. Хотя может показаться, что человечество и царство машин всегда шли разными путями, на самом деле наше развитие было взаимосвязано. Homo sapiens извлекал уроки из окружающей его среды, передавал нужные привычки последущим поколениям, приобретал все большее разнообразие и размножался благодаря изобретению совершенных технологий, таких как сельское хозяйство, охотничьи орудия, пенициллин. Понадобилось 11 000 лет, чтобы население Земли увеличилось с шести миллионов человек в неолите до семи миллиардов в наши дни[12].

Представляет ли Алекса себе яблоко так же, как мы, или в самом ли деле «оригинальна» музыка Amper, – все это вопрос о том, как мы мыслим себе процесс мышления.

Современный ИИ представляет собой сплав тысячелетнего опыта философов, математиков, ученых, специалистов по робототехнике, художников и теологов. Их задача – как и наша в настоящей главе – заключается в том, чтобы понять связь между мышлением и контейнером для мышления, между человеческим разумом и машинами. Как возникает эта связь благодаря – или вопреки – машинам, которые строит «Большая девятка» в Китае и Соединенных Штатах?

Есть ли разум внутри машины?

Основные идеи ИИ ведут свое происхождение из Древней Греции и восходят к истокам философии, логики и математики. Во многих текстах Платона Сократ говорит: «Познай самого себя», – подразумевая, что стать лучше и принимать правильные решения можно, только узнав сначала собственный характер. Аристотель, помимо прочего, изобрел силлогическую логику и нашу первую формальную систему рассуждений методом дедукции. Приблизительно в то же время математик Евклид придумал, как найти наибольший общий делитель двух чисел, и таким образом разработал первый алгоритм. Благодаря этим древнегреческим мыслителям возникли две новые важные идеи: некоторая физическая система может действовать как набор логических правил, и человеческое мышление как таковое может быть символической системой. Вместе с ними возникли и вопросы, которые философы, теологи, ученые задают себе уже сотни лет. Не является ли тело сложной машиной? Целое, составленное из тысяч других систем, работающих совместно, подобное старым часам с маятником? А что тогда с разумом? Он тоже сложная машина? Или нечто совершенно иное? Доказать его божественное происхождение или связь между разумом и физическим миром невозможно – как и опровергнуть любую из этих гипотез.

В 1560 году испанский часовщик Хуанело Турриано создал небольшую фигурку механического монаха в качестве дара церкви от лица испанского короля Филиппа II, сын которого чудесным образом исцелился после травмы головы[13]. Монах умел делать удивительные вещи: ходил по столу, поднимал крест и четки, бил себя в грудь в знак покаяния и безмолвно шевелил губами в молитве. Это был первый автоматон – механическое подобие живого существа. Слова «робот» еще не существовало, но механический монах был изумительным изобретением, которое наверняка потрясало и пугало зрителей. Вероятно, никому не приходило в голову, что маленький автоматон когда-нибудь сможет не только повторять основные человеческие движения, но заменять человека в заводских цехах, научных лабораториях и кухонных разговорах. Маленький монах вдохновил первое поколение робототехников, чья задача заключалась в том, чтобы создать машины более сложные, чем подражающие человеческим движениям: автоматы вскоре научились писать, танцевать, рисовать. В результате некоторые философы стали задумываться над вопросом, что значит быть человеком. Если можно построить автомат, подражающий поведению человека, не являются ли люди автоматами, созданными божеством? Или мы представляем собой сложные системы, способные к рассуждению и созданию оригинальных идей?

Английский политический философ Томас Гоббс описывал человеческое рассуждение как вычисление в трактате «О теле» (De Corpore), входящем в состав его великой трилогии, посвященной естественным наукам, психологии и политике. В 1655 году он писал: «Через рассуждения я понимаю вычисление. А вычислять означает находить сумму многих вещей, складываемых одновременно, или знать разность, когда одна вещь отнимается от другой. Рассуждать, таким образом, то же самое, что складывать или вычитать»[14]. Но как нам узнать, обладаем ли мы при этом свободной волей?

В то время, когда Гоббс работал над первой частью своей трилогии, французский философ Рене Декарт опубликовал книгу «Размышления о первой философии», в которой задавался вопросом, как мы можем знать наверняка, что данный нам в ощущениях мир реален. Как можем мы проверить собственное сознание? Какое доказательство могло бы убедить нас, что наши мысли действительно принадлежат нам, а мир вокруг нас реален? Декарт был рационалистом, верившим, что факты могут быть получены путем дедукции. Он предложил знаменитый мысленный эксперимент. Он предложил читателям представить себе демона, якобы создающего иллюзию окружающего нас мира. Если бы физический, чувственный опыт читательницы, сообщающий ей, что она плавает в озере, был бы всего лишь наведен демоном, она не могла бы действительно знать, что плавает. Но с точки зрения Декарта, если читатель осознает свое существование, значит, он отвечает критериям знания. «Всякий раз, как я произношу слова Я есмь, я существую или воспринимаю это изречение умом, оно по необходимости будет истинным»[15], – писал он[16]. Другими словами, факт нашего существования не подлежит сомнению, даже если между нами и реальностью находится вводящий нас в заблуждение демон. Или же «я мыслю, следовательно, существую».

Позже в своем «Трактате о человеке» Декарт утверждал, что люди, вероятно, могли бы изготовить автомат в виде небольшого животного, который был бы неотличим от своего прототипа. Но даже если когда-нибудь нам удалось бы создать механического человека, его никогда нельзя будет спутать с настоящим, утверждал Декарт, поскольку у него не будет разума и, следовательно, души. В отличие от людей, машина никогда не сможет соответствовать критериям знания – она никогда не сможет осознавать себя, как это делаем мы. Для Декарта сознание находилось внутри нас – душа была духом, оживляющим машину нашего тела[17].

Несколькими десятилетиями позже немецкий математик и философ Готфрид Вильгельм фон Лейбниц рассматривал идею, что человеческая душа сама по себе запрограммирована, и утверждал, что при этом человеческий ум оказывается контейнером. Бог создал душу и тело так, чтобы они естественным образом сосуществовали в гармонии. Тело, разумеется, сложная машина, но оно едино с набором божественных инструкций. Наши руки движутся, когда мы захотим, но не мы изобрели механизмы, делающие движение возможным. Если мы осознаем боль или удовольствие, эти ощущения – результат работы заранее запрограммированной системы, непрерывной связи между разумом и телом.

Лейбниц предложил собственный мысленный эксперимент, иллюстрирующий его положение, что мысль и чувства неотделимы от человеческой природы. Представьте себе, что вы заходите на мельницу. Здание – это контейнер, заключающий в себе машины, сырье и рабочих. Это сложная система, составные части которой согласно работают ради общей цели, но разума она иметь не может. «Все, что мы найдем там, – это шестерни и рычаги, приводящие в движение друг друга, но ничего способного отвечать за чувства, – писал он, – Таким образом, чувства нужно искать в простых сущностях, но не в составных, таких, как машины». Его идея заключалась в том, как бы сложны ни были мельница, механизмы или автоматы, человек не может создать машину, способную мыслить или чувствовать[18].

Тем не менее Лейбница увлекала мысль о воспроизведении отдельных аспектов мышления. Несколькими десятилетиями ранее малоизвестный английский литератор Ричард Брейтуэйт, написавший несколько книг о поведении в обществе, мимоходом упоминает «компьютеров» – прошедших сложное обучение людей, способных быстро и точно производить вычисления[19]. В то же время французский математик и изобретатель Блез Паскаль, заложивший основы того, что сегодня мы знаем как теорию вероятности, занимался автоматизацией вычислительных задач. Паскаль наблюдал, как его отец кропотливо высчитывает налоги вручную, и хотел упростить ему работу. Поэтому он начал работать над автоматическим вычислителем с зубчатыми колесами и подвижными круговыми шкалами[20]. Вычислитель работал, и это заставило Лейбница уточнить свою мысль: у машин никогда не будет души, но когда-нибудь удастся построить машину, способную к логическому мышлению на уровне человека. В 1673 году Лейбниц описал «пошаговую машину выводов», новый тип вычислительного устройства, способный принимать решения с использованием двоичной системы[21]. Машина напоминала бильярдный стол с шарами, лузами, киями и желобами, и она открывала лузы в зависимости от последовательности единиц («открыто») и нулей («закрыто»).

«Пошаговая машина выводов» Лейбница заложила основу для новых теорий, включая ту идею, что, если логическое мышление может быть сведено к символам и результат проанализирован как вычислительная система, если геометрические задачи могут быть решены при помощи символов и чисел, тогда все может быть сведено к битам, включая человеческое поведение. Это значительный отход от идей философов прошлого: машины будущего станут воспроизводить человеческое мышление, не нуждаясь в идее божественного провидения. Для мышления не обязательно необходимы восприятие, чувства или душа. Лейбниц представлял себе компьютер, способный решать задачи общего характера, даже не обязательно математические. Он предполагал, что язык может быть сведен к элементарным идеям математики и науки и эту задачу можно рассматривать как часть работы над универсальным переводчиком[22].

Может быть, ум и машина просто следуют алгоритму?

Если Лейбниц был прав в том, что люди – просто одушевленные машины, и когда-нибудь будут изобретены машины неодушевленные, способные производить непредставимые нам и отточенные идеи, тогда в нашем мире должно существовать простое и однозначное разделение машин на два класса: мы и они. Но спор только начался.

В 1738 году Жак де Вокансон, художник и изобретатель, построил несколько автоматов для Французской академии наук, и среди них – сложно устроенную утку, очень похожую на живую. Она не только подражала движениям настоящей утки, хлопая крыльями и клюя зерно, но и умела имитировать пищеварение. Таким образом, философам была предложена пища для размышлений: если нечто выглядит как утка и крякает как утка, является ли оно на самом деле уткой? Если мы полагаем, что утка обладает душой, отличной от нашей, каково достаточное условие для вывода, что утка осознает себя, и что из этого следует?

Шотландский философ Дэвид Юм отвергал идею, что осознание своего существования служит доказательством наличия сознания. В отличие от Декарта, Юм был сторонником эмпиризма. Он разработал научный метод, основанный на наблюдаемых фактах и логических рассуждениях. Когда Вокансон показывал свою оснащенную пищеварительной системой утку – и задолго до того, как впервые заговорили об ИИ, – Юм писал в «Трактате о человеческой природе»: «Разум является, и должен быть, всего лишь слугой страстей». В данном случае под «страстями» Юм подразумевал «иррациональные мотивы» и утверждал, что наше поведение определяют привлекательные для нас цели, а не абстрактная логика. Если наши впечатления – просто восприятие нами вещей, которые мы видим, чувствуем, осязаем, пробуем на вкус, обоняем, а идеи – восприятие вещей, с которыми мы не входим в непосредственное соприкосновение, то наше существование и картина окружающего нас мира, по Юму, оказываются основаны на концепции человеческого восприятия.

Разработка сложных автоматов, облик которых приобретал все большую реалистичность, более внимательное рассмотрение идеи компьютеров как мыслящих машин привели французского врача и философа Жюльена Офре де Ламетри к мысли предпринять исследование людей, животных и автоматов – столь же радикальное, сколь и скандальное. В статье 1747 года, которую он сначала опубликовал анонимно, Ламетри утверждал, что люди удивительно похожи на животных и обезьяна могла бы освоить человеческий язык, если бы ее «надлежащим образом учили». Ламетри также сделал вывод, что люди и животные – просто машины, управляемые инстинктом и опытом. «Человеческое тело – машина, которая сама заводит свои пружины; душа – не более чем принцип движения или материальная и ощутимая часть мозга»[23].

Из мысли, что люди представляют собой просто машины, приводимые в действие материальными силами, – то есть шестерни и колеса, выполняющие определенный набор функций, – следовало, что мы не особенные и не уникальные. Из нее также следовало, что, может быть, нас можно программировать. Окажись это правдой, от конструирования убедительно выглядящих уток и миниатюрных монахов люди когда-нибудь смогут перейти к изготовлению копий самих себя – и делать разнообразные разумные, мыслящие машины.

Можно ли построить мыслящую машину?

К 1830-м годам математики, инженеры и ученые всерьез взялись за постройку машины, способной производить вычисления так же, как люди-«компьютеры». Английский математик Ада Лавлейс и ученый Чарльз Бэббидж изобрели «разностную машину», а позже разработали проект более сложной «аналитической машины», решавшей математические задачи путем выполнения заранее определенной последовательности шагов. Бэббидж не предполагал, что его машина будет использована для чего-либо, кроме действий над числами. Именно Лавлейс в примечаниях к научной статье, которую тогда переводила, добавила изумительно глубокий комментарий, что более мощный вариант машины можно было бы использовать иначе[24]. Если машина способна манипулировать символами, обозначающими разные вещи (например, музыкальные ноты), тогда ее можно было бы использовать для «размышления» о вещах, лежащих за пределами математики. Хотя Лавлейс не верила, что компьютер когда-либо обретет способность к самостоятельному мышлению, она предвидела создание сложной системы, умеющей выполнять инструкции и таким образом подражать человеку во многих его повседневных задачах.

В ста милях к северу от Кембриджского университета, где работали Лавлейс и Бэббидж, молодой математик-самоучка по имени Джордж Буль шел через поле в Донкастере, когда его внезапно осенило: он решил посвятить свою жизнь расширению логики человеческого мышления[25]. Во время этой прогулки родилось то, что мы сегодня называем булевой алгеброй: способ упрощения логических выражений (например, «и», «или», «не») через использование символов и чисел. Скажем, вычисление выражения «истина и истина» должно давать результат «истина», что физически могло бы соответствовать положению переключателей или крышек луз на компьютере. Булю потребовалось два десятилетия на формализацию своих идей. И еще только через сто лет кому-то пришло в голову, что булева логика в сочетании с теорией вероятностей могла бы превратить компьютеры из средства автоматизации элементарных математических операций в более сложные мыслящие машины. Технологии, позволяющей построить такую машину, еще не было – отсутствовали необходимые процессы, материалы и источники энергии, – и проверить теорию на практике было невозможно.

Переход от теоретического представления о мыслящей машине к компьютерам, начавшим имитировать мышление человека, произошел одномоментно, с публикацией двух основополагающих статей: «Символический анализ релейных и переключательных схем» Клода Шеннона и «О вычислимых числах и их применении к проблеме разрешения» (Entscheidungsproblem) Алана Тьюринга. Изучая электротехнику в Массачусетском технологическом институте, Шеннон в качестве предмета по выбору взял философию, что выглядело необычно. Основным научным трудом, на который опиралась его диссертация, был трактат Джорджа Буля «Исследование законов мышления». Научный руководитель Шеннона, Вэнивар Буш, подал ему идею реализовать булеву логику в виде физических схем. Буш построил усовершенствованную версию «аналитической машины» Лавлейс и Бэббиджа – она называлась «дифференциальный анализатор», – но сконструирована она была в некоторой степени бессистемно. В то время не существовало теории, которая диктовала бы методику проектирования электрических схем. Открытие Шеннона заключалось в том, что он осуществил схемную реализацию булевой логики и объяснил, каким образом с ее помощью получить рабочую схему, способную складывать нули и единицы.

В то же время, когда Шеннон работал над переносом булевой логики на физические схемы, Тьюринг экспериментировал с «универсальным переводчиком» Лейбница, способным представлять все физическое и научное знание. Английский ученый ставил перед собой задачу доказать так называемую Entscheidungsproblem, или «проблему[26] разрешения». Упрощая, можно сформулировать ее так: не существует алгоритма, при помощи которого возможно доказать истинность или ложность произвольного математического утверждения. Ответ оказался отрицательным. Тьюринг сумел продемонстрировать, что такого алгоритма действительно не существует, но побочным результатом его работы явилась математическая модель универсальной вычислительной машины[27].

И это изменило все. Тьюринг понял, что программа и данные могут храниться внутри компьютера – для 1930-х годов это было радикальной идеей. До того все сходились на мысли, что машина, программа и данные – три независимые друг от друга сущности. Универсальная машина Тьюринга объясняла, почему они крепко связаны друг с другом. Если смотреть на вещи механически, логика управления схемами и переключателями тоже может быть закодирована в программе и данных. Подумайте на секунду о важности этих утверждений. Контейнер, программа и данные оказались объединены в рамках общей сущности подобно тому, как обстоит дело у людей. Мы тоже контейнеры (наши тела), программы (автономные функции клеток) и данные (наша ДНК в сочетании с прямой и косвенной информацией, поставляемой органами чувств).

В то же время давняя традиция конструирования автоматов, что началась с маленького монаха, умевшего ходить и молиться, наконец встретилась с работой Тьюринга и Шеннона. Американская промышленная компания Westinghouse построила робота, выполненного на базе электрических реле, для Всемирной выставки 1939 года. Робота звали Elektro the Moto-Man, «механический человек Электро». Он выглядел как гигантская человекоподобная фигура золотистого цвета и довольно грубой формы. Под ногами у него были колеса. Внутри находились 48 реле, используемых в телефонной коммутации.

Электро умел реагировать на команды, подаваемые ему голосом по телефонной трубке, воспроизводя заранее записанные ответы на встроенном проигрывателе. Он представлял собой антропоморфный компьютер, способный принимать элементарные решения – например, что сказать – без непосредственного участия человека в данный момент.

Из газетных заголовков, научно-фантастических рассказов и кинохроники того времени видно, что люди были застигнуты врасплох, потрясены и напуганы подобным развитием событий. Для них происходящее выглядело так, словно эра «мыслящих машин» во всей своей полноте наступила в один день. Фантаст Айзек Азимов опубликовал пророческий рассказ «Лжец» в выпуске журнала Astounding Science Fiction за май 1941 года. Рассказ был его реакцией на достижения науки, свидетелем которых он оказался, и в нем Азимов впервые сформулировал знаменитые Три закона робототехники[28].

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.

Позже Азимов добавил так называемый Нулевой закон.

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.

Мыслит ли мыслящая машина?

В 1943 году ученые-психиатры Уоррен Маккалоу и Уолтер Питтс из Чикагского университета опубликовали важную статью «Логическое исчисление идей, присущих нервной деятельности», где описывалась система нового типа, моделирующая живые нейроны при помощи нейронной сети простой архитектуры. Если контейнеры, программы и данные крепко связаны между собой, как утверждал Тьюринг, и если люди представляют собой аналогичные элегантно сконструированные контейнеры, следовательно, можно построить мыслящую машину, если смоделировать часть человеческого тела, ответственную за мышление, – мозг. Они сформулировали современную вычислительную теорию разума и мозга, «нейронную сеть». Вместо того чтобы сосредоточиться на идеях аппаратного и программного обеспечения, они предложили систему нового типа, способную перерабатывать огромные объемы данных, в точности как это делаем мы. Мощности компьютеров еще не хватало, чтобы проверить их теорию, но статья вдохновила других, начавших работу над разумными компьютерными системами.

Связь между разумными компьютерными системами и автономным принятием решений прояснилась благодаря публикации обширного трактата по прикладной математике, вышедшего из-под пера Джона фон Неймана, американского полимата венгерского происхождения, специалиста в области кибернетики, физики и математики. В 1944 году Нейман в соавторстве с Оскаром Моргенштерном, экономистом из Принстонского университета, выпустил книгу объемом в 640 страниц, где подробнейшим образом рассказывалось, как теория игр объясняет основы любых экономических решений[29]. Именно благодаря этой работе фон Неймана пригласили сотрудничать с Вооруженными силами США, в то время занимавшимися разработкой электрической вычислительной машины нового типа, «Электронного числового интегратора и вычислителя», сокращенно ЭНИАК. Вначале инструкции, предназначенные для машины, реализовывались постоянными соединениями внутри нее, поэтому с каждой новой программой соединения во всей системе нужно было переделывать заново. Вдохновленный трудами Тьюринга, Маккалоу и Питтса, фон Нейман разработал новую систему хранения программ на самом компьютере. Тем самым совершился переход от первой эпохи развития вычислительной техники (табуляции) к новой – эпохе программируемых систем.

Сам Тьюринг к этому моменту работал над концепцией нейронной сети, составленной из компьютеров, каждый из которых был выполнен по архитектуре с хранимым программным кодом. London Times цитировала Тьюринга в 1949 году: «Я не вижу причин, почему она (машина) не могла бы войти в какую-либо сферу профессиональной деятельности, обычно занятую людьми, и постепенно начать конкурировать с ними на равных. Не думаю, что можно исключить даже написание сонетов, хотя здесь сравнение становится немного нечестным: ведь сонет, написанный машиной, скорее оценит по достоинству другая машина». Годом позже, в статье для философского журнала Mind, Тьюринг попытался ответить на вопросы, поставленные Гоббсом, Декартом, Юмом и Лейбницем. В ней он предложил тезис и тест: если когда-нибудь компьютер окажется способен отвечать на вопросы неотличимым от человека образом, он должен быть «мыслящим». Вы наверняка слышали об этой статье под другим названием: «Тест Тьюринга».

Статья начиналась со ставшего знаменитым вопроса, который с тех пор многократно задавали – и на который отвечали – столь многие философы, теологи, математики и ученые до него: «Могут ли машины мыслить?» Но Тьюринг, помнивший о многовековых спорах об уме и машине, отбрасывает этот вопрос как чересчур обший для осмысленной дискуссии. «Машина» и «мыслить» – слишком общие слова, оставляющие слишком много места для субъективной интерпретации (в конце концов, 400 лет люди писали книги и статьи, посвященные их значению).

Игра, по Тьюрингу, строилась на обмане, и компьютер «выигрывал», когда его оказывалось невозможно отличить от человека. Тест проводится следующим образом: имеются человек, машина и находящееся в отдельной комнате лицо, задающее вопросы. Цель игры для лица, задающего вопросы, заключается в том, чтобы понять, какие ответы даются человеком, а какие – машиной. Перед началом игры лицо, задающее вопросы, получает обозначения для своих собеседников, X и Y, но не знает, какая из них относится к компьютеру, и может только задавать вопросы типа: «Не мог бы X сообщить мне, играет ли он в шахматы?» В конце игры ему необходимо указать, кем был X и кем Y. Задачей второго человека является помочь лицу, задающему вопросы, определить машину, а задачей машины – обмануть задающего вопросы так, чтобы тот поверил, что она, машина, и есть второй человек. О самой игре Тьюринг писал: «Я полагаю, что приблизительно через пятьдесят лет станет возможным запрограммировать компьютеры с запоминающим устройством емкостью примерно[30] 10⁹ играть в имитационную игру так, что для среднего лица, задающего вопросы, шанс идентифицировать стороны правильно после пяти минут собеседования не превысит 70 %»[31].

Но Тьюринг был ученым и отдавал себе отчет в том, что его теорию невозможно доказать, – по крайней мере при его жизни. Как оказалось, проблема заключалась не в отсутствии эмпирических свидетельств, показывающих, что машины когда-нибудь обретут возможность мыслить, и даже не во времени жизни ученого – сам Тьюринг говорил, что провести его тест, скорее всего, окажется возможно только к концу двадцатого столетия. «Мы можем надеяться, что машины со временем станут конкурировать с людьми во всех чисто интеллектуальных сферах деятельности», – писал Тьюринг. Настоящая проблема заключалась в том, чтобы совершить рискованный шаг, поверив, что когда-нибудь машины смогут видеть, рассуждать и запоминать, и люди могут оказаться помехой на пути их прогресса. Его коллегам-исследователям тогда пришлось бы наблюдать способность к познанию, лишенную духовной природы, поверить в возможность существования разумных машин, которые, в отличие от людей, станут принимать решения бессознательно.

Лето и зима ИИ

В 1955 году профессора Марвин Минский (математика и неврология), Джон Маккарти (математика), а также Клод Шеннон (математик и криптограф из Bell Labs) и Натаниэль Рочестер (специалист по информатике из IBM) предложили провести двухмесячный семинар, посвященный работам Тьюринга и перспективам машинного обучения. Их идея заключалась в следующем: если возможно описать каждое проявление умственной деятельности человека, то можно и научить машину имитировать ее[32]⁷. Но для этого потребовалась бы многочисленная группа экспертов в разных областях человеческой деятельности. Они полагали, что, собрав междисциплинарную группу исследователей и интенсивно работая без перерывов в течение целого лета, можно добиться существенного прогресса.

Состав группы имел решающее значение. В нее вошли первоклассные инженеры, социологи, психологи, математики, физики и специалисты по когнитивистике. Им предстояло ставить фундаментальные вопросы и отвечать на них: что значит «мыслить», как работает наш «разум» и как научить машины учиться таким же образом, каким это делают люди? Идея заключалась в том, что разноплановая группа продолжит совместную работу после завершения семинара, развивая эту новую область знания. Поскольку речь шла о междисциплинарном подходе к созданию мыслящих машин, для его обозначения понадобилось новое имя. Участники остановились на немного двусмысленном, но элегантном термине «искусственный интеллект».

Маккарти составил предварительный список из 47 экспертов, присутствие которых считал необходимым, чтобы завязать нужные связи между людьми и заложить основу для дальнейших исследований и работ по прототипированию. Составить список людей, без которых нельзя было обойтись, когда по-настоящему начнутся работы по концептуализации и конструированию ИИ, было очень сложно. В частности, Минскому не нравилось, что на встрече не будет двух ключевых фигур: Тьюринг умер за два года до того, а фон Нейман находился в терминальной стадии рака[33].

Тем не менее в своих стараниях собрать разностороннюю группу специалистов, чьи знания и навыки взаимно дополняли бы друг друга, организаторы упустили из виду несколько существенных аспектов. Все в списке были белыми – несмотря на то, что в областях знания, интересовавших Маккарти и Минского, работало множество первоклассных цветных специалистов. Все они работали или в технологических гигантах своего времени (IBM, Bell Labs), или в узком кругу избранных университетов. Множество одаренных женщин уже тогда вносили заметный вклад в инженерное дело, информатику, математику, физику – но им места в списке не нашлось[34]. Среди приглашенных были только мужчины, за исключением жены Марвина Минского, Глории. Не отдавая себе отчета в своих предубеждениях, эти ученые, пытавшиеся понять, как устроен человеческий ум, как мы мыслим и как машины могли бы учиться у всего человечества, резко ограничили свою выборку теми, кто выглядел и говорил так же, как они.

В следующем году группа собралась на последнем этаже факультета математики Дартмутского колледжа. Среди тем ее работ были теория сложности, моделирование естественного языка, нейронные сети, связь случайности и творчества, а также самообучающиеся машины. По рабочим дням они собирались в главной аудитории факультета для общего обсуждения, после которого расходились, чтобы работать над частными задачами. Во время одного из таких общих собраний профессора Алан Ньюэлл, Герберт Саймон и Клифф Шоу предложили способ доказательства теорем логики и смоделировали процесс вручную. Свою программу они назвали Logic Theorist, «Ученый логик». Она оказалась первой программой, способной имитировать навыки решения задач, присущие человеку. (Впоследствии программа доказала 38 из 52 теорем из «Оснований математики» Альфреда Норта Уайтхеда и Бертрана Рассела, фундаментального учебника по началам математической науки.) Клод Шеннон, несколькими годами ранее учивший компьютеры играть в шахматы против людей, получил возможность показать прототип своей программы, работа над которой тогда еще продолжалась[35].

Тем летом в Дартмуте расчетам Маккарти и Минского на фундаментальный прорыв в области ИИ не суждено было оправдаться. Чтобы превратить ИИ из теории в практику, им не хватило времени, не говоря уже о вычислительной мощности[36]. Тем не менее именно к этому моменту восходят три практики, образующие фундамент ИИ в известном нам сегодня виде:

– теоретическая и практическая разработка ИИ, его тестирование и совершенствование будут производиться крупными технологическими компаниями и академической наукой, работающими совместно; – совершенствование ИИ требует больших сумм денег, поэтому станет необходима коммерциализация этих работ в той или иной форме – будь то взаимодействие с государственными или военными органами через партнерства или разработка продуктов и систем, которые могут быть проданы;

– исследование и разработка ИИ будут опираться на сеть ученых, работающих на стыке дисциплин, что означает создание новой отрасли науки с нуля. Это также означает, что уже работающие в этой отрасли будут нанимать, как правило, знакомых им людей, обеспечивая относительную однородность сети и ограничивая выборку.

Тем летом произошло другое интересное событие. Работая над вопросом Тьюринга, могут ли машины мыслить, группа разделилась из-за подходов к ответу на него, а именно построению самообучающейся машины. Некоторые участники предпочитали биологический метод. Иными словами, они считали, что при помощи нейронных сетей можно придать ИИ здравый смысл и способность рассуждать логически – и таким образом машины могут стать разумными. Другие возражали, что построить настолько полную копию мыслительного аппарата человека невозможно никогда. Вместо этого они предлагали инженерный подход. Вместо того чтобы подавать машине команды, приводящие к решению задачи, программа могла бы помочь системе «обучиться» на наборе данных. Система делала бы предсказания, основываясь на этих данных, а контролирующий ее человек проверял бы ответы, тренируя и настраивая ее в процессе работы. Таким образом определяется «машинное обучение» в узком смысле, то есть обучение решению изолированной задачи, например игре в шашки.

Психолог Фрэнк Розенблатт, участвовавший в семинаре в Дартмутском колледже, хотел смоделировать обработку визуальной информации в человеческом мозгу и в итоге научить машину распознавать предметы. Он рассчитывал создать простую рамочную программу, восприимчивую к обратной связи. Опираясь на результаты летних исследований, Розенблатт создал систему, которую назвал Perceptron. Это была первая искусственная нейронная сеть (ANN), работавшая по принципу создания связей между многочисленными элементами, обрабатывающими информацию и расположенными послойно. Каждый механический нейрон принимал на входе множество различных сигналов и затем обрабатывал их математически с учетом весов, чтобы определить, какой сигнал генерировать на выходе. Такая параллельная структура позволяла осуществлять доступ ко множеству обрабатывающих элементов одновременно, а это означало, что она не только была быстрой, но и могла непрерывно обрабатывать большой объем данных.