Искусственный интеллект. Что стоит знать о наступающей эпохе разумных машин
Искусственный интеллект. Что стоит знать о наступающей эпохе разумных машин
(сост. Элисон Джордж, Дуглас Хэвен)
Machines that Think. Everything You Need to Know about the Coming Age of Artificial Intelligence
© New Scientist, 2017
© Оформление, ООО «Издательство АСТ», 2019
* * *Авторы-составители
Элисон Джордж, редактор серии Instant Expert для журнала New Scientist.
Редактор – Дуглас Хэвен, технологический журналист и консультант New Scientist. Работал главным технологическим редактором в New Scientist и выпускающим редактором в BBC Future Now.
Авторы научно-популярных статей
Ник Бостром – директор Института будущего человечества Оксфордского университета и автор книги «Искусственный интеллект. Этапы. Угрозы. Стратегии» (2014). Написал рубрику «Что случится, если ИИ станет умнее нас?» из главы 8.
Нелло Кристианини – профессор по искусственному интеллекту в Бристольском университете (Великобритания), а также автор учебников по машинному обучению (в том числе Kernel Methods for Pattern Analysis (2004)). Участвовал в написании глав 1, 2, 3 и 5.
Джон Грэм-Камминг – программист, начинающий специалист по криптоанализу и автор книги The Geek Atlas (2009). В 2009 году успешно запустил кампанию по принесению извинений Алану Тьюрингу со стороны правительства Великобритании. Участвовал в написании главы 1.
Питер Норвиг – директор по исследованиям в Google и соавтор книги «Искусственный интеллект: современный подход» (1994). Бывший глава Подразделения вычислительной техники в исследовательском центре «Амес» NASA. Участвовал в написании глав 1, 2, 5 и 6.
Андерс Сандберг – исследователь Института будущего человечества Оксфордского университета; изучает маловероятные, но существенные риски вследствие внедрения новых технологий. Написал рубрику «Может ли программа страдать?» из главы 8.
Тоби Уолш – профессор искусственного интеллекта в Университете Нового Южного Уэльса (Австралия). Автор книг «Оно живое! Искусственный интеллект от умного пианино до роботов-убийц» (2017) и «2062: время машин» (2018). Написал параграф «Пять причин, почему сингулярности не бывать».
Также благодарим следующих авторов:
Салли Ади, Гилад Амит, Джейкоб Арон, Крис Баранюк, Кэтрин де Ланге, Лиз Эльзе, Найл Ферт, Ник Флеминг, Аманда Гефтер, Дуглас Хэвен, Хэл Ходсон, Вирджиния Хьюз, Кирстин Кидд, Пол Маркс, Джастин Маллинс, Шон О'Нил, Сэнди Онг, Саймон Паркин, Самит Пол-Чоудхури, Тимоти Ревелл, Мэтт Рейнольдс, Дэвид Робсон, Авива Руткин, Вики Тюрк, Прю Уоллер, Джон Уайт и Марк Застроу.
Введение
Искусственный интеллект (ИИ) – один из главных трендов нашего времени. За последнее десятилетие компьютеры обучали решению все более сложных задач. Теперь они способны выполнять множество вещей, которые ранее казались присущими только человеку. Успех ИИ не стоит на месте. Машины активно покоряют многие области, начиная от идентификации людей в толпе, управления автомобилем на загруженной автомагистрали и заканчивая победами над лучшими игроками в го – игре, которая многие годы казалась чем-то недостижимым для ИИ, – и на этом достижения не заканчиваются. Иногда компьютеры выполняют работу лучше людей. В большинстве своем машины работают быстрее, дольше и никогда не устают.
Конечно же, идея разумных машин совершенно не нова. Без малого 75 лет мы пытались создать компьютеры, способные продемонстрировать хоть толику нашего интеллекта. А концепция автоматов, похожих на человека, и вовсе родилась столетия назад. Мы очарованы собой и своим интеллектом, и нет ничего удивительно в нашем желании наделить «искрой человечности» машины.
Сравнение искусственного интеллекта с человеческим вызывает как радость, так и беспокойство. Насколько похожим на нас станет ИИ? Сможет ли он нас заменить, лишить работы, превзойти в играх и творческих начинаниях, придающих смысл нашей жизни? Общественные деятели во главе со Стивеном Хокингом и Илоном Маском дошли до того, что стали строить предположения о конце света, спровоцированном ИИ, при котором сверхразумные машины будущего растопчут нас в погоне за своими непостижимыми целями. Маск говорит, что, развивая ИИ, мы «вызываем дьявола».
Всеобщее волнение показывает, насколько глубоко в нашем сознании засели опасения о будущем ИИ. Конечно же, наше будущее вряд ли будет схоже с сюжетами фильмов-катастроф. Однако стоит готовиться к тому, что нас ждут еще менее понятные и более удивительные события.
Мы уже сталкивались с технологическими «пузырями», например бум и крах доткомов в конце 1990-х. Шумиха вокруг ИИ – и миллиардные вложения в профильные компании по всему миру – сравнима с напряженным ажиотажем в первые дни появления Интернета. Однако сейчас все иначе. Нам стоит готовиться к колоссальным переменам во всех аспектах нашей жизни, начиная с взаимодействия с устройствами и заканчивая принципами функционирования общества. Есть и те, кто полагает, что ИИ сможет изменить даже понимание того, что значит быть человеком.
Мы уже стоим на пороге еще больших технических и этических проблем, и эта книга расскажет вам все, что нужно знать об ИИ. Собрав воедино мысли ведущих исследователей и лучшее из журнала New Scientist, мы познакомим вас с мнением и деятельностью тех, кто формирует наше будущее, и расскажем об их прогнозах. Читайте эту книгу, если хотите узнать о надеждах и страхах тех, кто стоит на передовой ИИ. Ведь ИИ, как сказал один из пионеров отрасли, – это последнее изобретение, которое нам осталось создать.
Дуглас Хэвен, редактор
1. По нашему подобию
Проблема создания разумных машин
Мы давно подозревали о том, что интеллект не является сугубо человеческим качеством, и вот уже более 75 лет мечтаем о создании машины, рассуждающей и обучающейся не хуже человека. С расцветом компьютерных вычислений стало казаться, что мы близки к своей цели, однако создание машины по нашему образу и подобию оказалось куда сложнее, чем мы думали.
Что такое искусственный интеллект?
Область ИИ – это наука и техника создания машин, способных действовать разумно. Здесь возникает сложный вопрос: а что такое «разумность»? В большинстве случаев «неразумные» машины уже в разы умнее нас. Но мы не называем компьютерную программу «умной» только потому, что она умеет умножать длинные числа или отслеживать тысячи банковских операций. Мы воспринимаем это как данность. А слово «умный» мы оставляем для описания уникальных человеческих качеств: узнавания знакомого лица, маневрирования на дороге в часы пик или освоения музыкального инструмента.
Почему же так сложно создать машину, которая сможет выполнять эти действия? Обычно программист знает, какую задачу будет решать запрограммированный им компьютер. Но в случае с ИИ перед программистом стоит другая задача – научить компьютер действовать правильно, при этом не зная, как именно.
В реальном мире неопределенность может принимать различные формы. Например, в лице соперника, мешающего вам достичь желаемой цели, в форме последствий принятых решений, которые не очевидны сразу (если вы пытаетесь уйти от столкновения на дороге, не убедившись в безопасности маневра), или в качестве новой информации, поступающей в процессе выполнения задачи. «Умная» программа должна уметь обрабатывать все новые данные и многое другое.
Чтобы приблизиться к человеческому интеллекту, системе нужно смоделировать не только задачу, но и саму ситуацию, при которой эта задача может возникнуть. Она должна улавливать окружающую среду и реагировать на нее, при необходимости изменяя и корректируя собственные действия. О разумности системы можно говорить только тогда, когда машина научится принимать правильные решения в ситуации неопределенности.