Искусственный интеллект: «Мы как дети, играющие с бомбой»

По мнению оксфордского философа Ника Бострома, разумные машины представляют собой большую угрозу для человечества, чем изменение климата.

Вы найдете Институт будущего человечества на средневековой улочке в центре Оксфорда. Он находится рядом с церковью Святого Эббе, стоящей на этом месте с 1005 года, и над тренажерным залом Pure Gym, открывшимся в апреле. Институт, исследовательский факультет Оксфордского университета, был основан десять лет назад, чтобы задавать самые важные вопросы от нашего имени. В частности: каковы именно «экзистенциальные риски», которые угрожают будущему нашего вида; как мы их измеряем; и что мы можем сделать, чтобы предотвратить их? Или, говоря по-другому: в мире множества страхов, чего именно нам следует бояться больше всего?

Когда я приезжаю на встречу с директором института профессором Ником Бостромом, в кабинет на втором этаже доставляют кровать. Экзистенциальный риск — это круглосуточная операция; он спит прерывисто, если вообще спит.

Бостром, 43-летний философ шведского происхождения, недавно приобрел что-то вроде статуса пророка гибели среди тех, кто в настоящее время делает больше всего для формирования нашей цивилизации: технологических миллиардеров Кремниевой долины. Его репутация в первую очередь основана на его книге «Суперинтеллект: пути, опасности, стратегии», которая неожиданно стала бестселлером New York Times в прошлом году, а теперь выходит в мягкой обложке, уступая обязательным к прочтению рекомендациям Билла Гейтса и Илона Маска из Tesla. (В лучшем виде литературного обзора Маск также выделил институту Бострома 1 миллион фунтов стерлингов на продолжение расследования.)

Книга представляет собой живое, спекулятивное исследование единственной угрозы, которая, по мнению Бострома – после многих лет расчетов и споров – является той, которая с наибольшей вероятностью может нас уничтожить. Эта угроза – не изменение климата, не пандемия и не ядерная зима; это, возможно, неизбежное создание общего машинного интеллекта, превосходящего наш собственный.

На обложке книги Бострома доминирует нарисованное пером и тушью изображение совы с безумными глазами. Сова является предметом первой притчи книги. Группа воробьев строит свои гнезда. «Мы все такие маленькие и слабые», — слабо пишет один из них. «Представьте, насколько легкой была бы жизнь, если бы у нас была сова, которая могла бы помочь нам строить гнезда!» Среди воробьев повсюду существует общее согласие в щебетании; сова могла бы защитить воробьев! Он мог бы позаботиться об их стариках и молодежи! Это могло бы позволить им жить жизнью досуга и процветания! Помня об этих фантазиях, воробьи с трудом сдерживают волнение и улетают на поиски поворотноголового спасителя, который изменит их существование.

Есть только один голос несогласия: «Скронкфинкль, одноглазый воробей с капризным темпераментом, не был убежден в мудрости этого начинания. о приручении и приручении совы, прежде чем мы принесем такое существо в нашу среду?» Его предупреждения неизбежно остаются глухими к воробьиным ушам. Приручение совы будет сложным; почему бы сначала не получить сову, а потом проработать мелкие детали? Книга Бострома, которая является пронзительным сигналом тревоги по поводу мрачных последствий искусственного интеллекта, посвящена Скронкфинклу.

Бостром формулирует свои собственные предупреждения в достаточно раздраженной манере. У него репутация одержимого человека и трудоголика; он стройный, бледный, ведет полуночной образ жизни и часто остается в офисе до утра. Возможно, неудивительно, что для человека, чьи дни доминируют над досками, заполненными формулами, выражающими относительные достоинства 57 разновидностей апокалипсиса, он, кажется, оставляет как можно меньше шансов. Вместо еды он предпочитает зеленый смузи-эликсир, включающий овощи, фрукты, овсяное молоко и сухую сыворотку. Другие интервьюеры отметили, что он избегает рукопожатий, чтобы защититься от инфекции. Он действительно протягивает мне руку, но у меня такое ощущение, что он впоследствии изолирует ее, чтобы продезинфицировать, когда я уйду. Возможно, поэтому в нем чувствуется легкое нетерпение, которому он изо всех сил пытается сопротивляться.