Гарри Каспаров про AlphaZero и искусственный интеллект

Спустя 23 года после проигрыша Deep Blue Гарри Каспаров признает, что людям стоит работать совместно с машинами. Нам следует «совершить рывок в развитии интеллектуальных алгоритмов».

Пожалуй, Гарри Каспарова стоит признать величайшим шахматистом в истории. В течении двух десятилетий после завоевания титула чемпиона мира в 1985 году он доминировал в игре благодаря жесткому стилю и столь же жестокому чувству превосходства над окружающими.

За пределами мира шахмат Каспаров известен тем, что проиграл суперкомпьютеру. В 1997 году, на пике своего могущества, Гарри был сметен и напуган мощью машины корпорации IBM под названием Deep Blue. Этот проигрыш вызвал небывалый резонанс во всем мире и казался предвестником новой эры — эры доминирования компьютера над человеком.

Прошедшие годы позволяют смотреть на события в перспективе. Персональные компьютеры обрели невообразимую мощь, а смартфоны способны работать со столь же мощными шахматными программами, как Deep Blue и его аналоги. Более важным фактом следует считать то, что прогресс в области искусственного интеллекта позволил машинам самостоятельно обучаться игре в шахматы.

Deep Blue следовал шахматным алгоритмам, заложенным в него посредством ручного кодирования. Представленная в 2017 году AlphaZero, программа компании DeepMind (дочернего подразделения холдинга Alphabet, владеющего Google), самостоятельно обрела необходимые знания об игре в шахматы на уровне гроссмейстера на фоне постоянных тренировок. Примечательно и то, что AlphaZero смогла раскрыть новые подходы к игровому процессу, вызвав немалое удивление у экспертов.

На прошлой неделе Гарри Каспаров вновь оказался в бальном зале нью-йоркского отеля Plaza, превратившегося в сцену его знаменитого проигрыша детищу IBM. Поводом для визита стали дебаты, организованные Ассоциацией по развитию искусственного интеллекта. По ходу мероприятия господин Каспаров встретился с участником команды журнала WIRED Уиллом Найтом и согласился обсудить шахматы, ИИ-технологии и стратегию борьбы с ними за шахматной доской. Ниже приводится полная расшифровка интервью.

WIRED: Каково это — вернуться туда, где вы проиграли Deep Blue?

Гарри Каспаров: Я смирился с этим. Воспринимаю тот матч как благословение, а не проклятие. Он стал частью чего-то очень важного в моей жизни. Двадцать два года назад я считал иначе. Но так бывает. Все мы совершаем ошибки, все мы проигрываем. Важно только то, как мы переживаем эти ошибки. Как справляемся с негативным опытом.

Ситуация 1997 года была не самой приятной для меня. Но она позволила мне понять перспективу сотрудничества человека и машины. Мы, люди, долгое время полагали, что непобедимы в шахматах, го и сёги. Но в этих играх нас постепенно теснят все более мощные программы искусственного интеллекта. Это не означает, что жизнь подошла к концу. Нам стоит задуматься — как использовать эти навыки машин в своих интересах.

Я всегда говорил, что стал первым служащим интеллектуального труда, чья работа была поставлена под угрозу компьютером.

Но это позволило мне донести важное сообщение до общественности. Поэтому, как вы знаете, никто не может обвинить меня в том, что я на стороне машин.

WIRED: Какое сообщение вы адресуете людям, рассказывая о влиянии ИИ-технологий?

Полагаю, что человечеству стоит осознать неизбежность присутствия искусственного интеллекта вокруг нас. Когда я слышу вопли о том, что ИИ врывается в нашу жизнь, портит ее, слишком быстро развивается — я говорю «нет, он развивается слишком медленно».

Каждая новая технология приводит к уменьшению количества рабочих мест перед их последующим увеличением. Согласно статистике, лишь 4% занятого населения США используют свой творческий потенциал. Остальные 96% трудятся в режиме зомби. Они мертвы, но просто не осознают этого.

Десятилетиями мы стремились к тому, чтобы люди выполняли шаблонную работу как машины, а теперь жалуемся, что эти рабочие места под угрозой. Да, это так. И мы должны искать возможности для создания рабочих мест, которые подчеркнут сильные стороны человека.

Технологии — единственная причина, по которой многие из нас до сих пор живы и могут жаловаться на засилье компьютеров.

У этой монеты две стороны. Я уверен, что вместо жалоб на технологии и борьбы с ними, нужно быстрее их развивать и двигаться вперед.

Когда машины начнут заменять людей, нам потребуются новые отрасли для занятости и фонды, которые помогут в этом. Может быть, следует обеспечить людей минимальным базовым доходом. Это не идеальное решение, но оно поможет сформировать финансовую подушку тем, кто не смог приспособиться к новым условиям. Сейчас реакция общественности и руководителей крупных компаний на потенциальную замену человека искусственным интеллектом осторожна — они говорят: «нужно улучшить работу машин, они могут повысить результативность бизнеса!». Но пока ИИ остается темной лошадкой. Сейчас мы находимся на пути к пониманию того, каких высот достигнет искусственный интеллект в будущем.

WIRED: Многим специалистам придется соперничать с ИИ-технологиями, которые могут их заменить. Каков ваш совет для людей, оказавшихся в подобной ситуации?

Существуют разные машины, и такова роль человека — создавать их и понимать, что необходимо для того, чтобы эти машины раскрывали свой потенциал. В итоге все приходят к пониманию того, что кооперация людей и ИИ неизбежна. Примером может служить радиология. Представьте, что у вас есть продвинутая система искусственного интеллекта для проведения диагностики. Я бы предпочел, чтобы её использовала опытная медсестра, а не профессор высочайшей квалификации. Человек с хорошими базовыми знаниями прекрасно поймет, в чем ему следует прибавить [при работе с ИИ]. Но медицинское светило предпочтет бросить машине вызов, а не работать вместе с ней, и это разрушает все попытки коммуникаций ИИ с человеком.

Мне часто задают вопрос «Чем вы можете помочь шахматным движкам в борьбе с AlphaZero?». Я могу смотреть игры программы и отмечать потенциальные слабости. Оценки алгоритма не всегда точны, это естественно. Например, он ценит слона выше, чем коня. Алгоритм проанализировал 60 миллионов партий, как вы знаете, и в большинстве из них слон был доминирующей фигурой. В итоге AlphaZero отдала ему слишком высокий приоритет на основе количественной оценки. И что же нужно вам? Все просто: ваш алгоритм должен заставить AlphaZero совершать неизбежные ошибки на основании имеющихся неточностей.

Обычно я использую один простой пример. Представьте, что у вас есть мощное оружие, которое может поразить цель на расстоянии почти двух километров. Сдвиг прицела на миллиметр обеспечит разброс в десять метров на километровой дистанции. Из-за мощности винтовки крошечное изменение обеспечивает гигантскую разницу. В этом и заключается будущее отношений человека и машины — в исключении подобных ошибок.

AlphaZero и подобные машины позволяют мне отвести человечеству будущего роль пастуха. Нам потребуется лишь направлять стадо интеллектуальных алгоритмов. Просто подтолкнуть их в ту или иную сторону — остальное они сделают сами. Вы просто помещаете нужную машину в нужное место и поручаете ей соответствующую задачу.

WIRED: Как вы думаете, насколько достижимо создание человекоподобного искусственного интеллекта?

Мы не знаем ничего о том, как устроен разум. Ведущие эксперты компьютерной отрасли и люди с передовой современной науки обладают сомнениями относительно того, что мы пытаемся создать — подобие человеческого интеллекта без 100% понимания принципов его организации.

Искусственный интеллект сегодня остается не более, чем инструментом. Нам вполне комфортно рядом с машинами, которые делают нас сильнее и быстрее. Но умнее ли? В этом заложен некий человеческий страх. Но стоит ли бояться? Мы всегда создавали машины, которые позволяли что-то улучшить. Я полагаю, что в этом контексте искусственный интеллект становится прекрасным инструментом для достижения целей, которые казались неосуществимыми десять или двадцать лет назад.

Я не знаю, как будет развиваться эта сфера. Но я не верю в AGI (artificial general intelligence — искусственный интеллект общего уровня). Мне сложно поверить в то, что машины способны передавать знания из одной открытой системы в другую. ИИ будет доминировать в закрытых системах, созданных человеком — в играх или других рукотворных мирах.

Дэвид Сильвер, создатель AlphaZero, не смог ответить на мой вопрос о том, могут ли машины самостоятельно ставить себе цели. Он говорил о подцелях, но это не одинаковые категории. Определение интеллекта, данное Дэвидом, имеет определенный изъян. Мы, люди, ставим цели и ищем способы их достижения. Машина доступна только вторая часть этой цепочки.

Пока мы не наблюдаем достаточного количества доказательств того, что машины могут работать вне условий стороннего целеполагания, что остается самым важным признаком человеческого интеллекта. Представим, что вы получили обширный опыт в какой-либо игре. Сможет ли ИИ, получив подобные знания, применить их в другой игре — похожей, но не копирующей первоисточник? Нет, компьютерам придется начать с нуля. Человек же не испытает никаких трудностей с переносом приобретенного опыта в новые условия.

WIRED: Давайте поговорим об этике применения ИИ. Что вы думаете об использовании технологии для слежения за людьми или управления оружием?

История учит нас тому, что прогресс неизбежен. Есть вещи, которые мы не можем предотвратить. И если запретить использование ИИ для слежки в Европе или Америке, то Китай получит существенное преимущество. Но все же я думаю, что необходим общественный контроль над Facebook, Google и другими корпорациями, обрабатывающими значительное количество пользовательских данных.

Люди говорят: «Черт, нужно создать ИИ, соответствующий этическим нормам!». Но монополия на осуществление зла до сих пор принадлежит людям. Проблема точно не в искусственном интеллекте. Беда заключается в том, что люди используют новые технологии для нанесения вреда друг другу.

ИИ подобен зеркалу — он отражает и плохое, и хорошее. Мы должны посмотреть вокруг и понять, как исправить такой расклад, а не говорить «О, мы сделаем ИИ, который будет лучше человека!».

Наука застряла между двумя крайностями. ИИ — не волшебная палочка или терминатор. Это не предвестник грядущей утопии или антиутопии. Это всего лишь инструмент. Да, уникальный, способный расширить наши возможности. Но всего лишь инструмент.

На Земле, к моему сожалению, хватает политических проблем внутри свободного мира и за его пределами. Неправильное использование ИИ может значительно усугубить их.

WIRED: Вернемся к шахматам. Что вы думаете об игровом стиле AlphaZero?

Я смотрел игры этого устройства и написал о нем статью, назвав шахматы «образцом мышления». [В оригинале Каспаров использует выражение Drosophila of reasoning — «дрозофила от мышления», сравнивая роль шахмат в оценке структуры мыслительного процесса человека с ролью мухи-дрозофилы в генетических исследованиях 19-20 веков — прим. пер.]. Сейчас любая шахматная программа может оказаться слишком сильной для человека. Но мы все еще можем узнать больше об играх, которые придумали сами. Миллионы партий, которые сыграла AlphaGo в период обучения, принесли программе определенный набор полезных знаний.

Наивно полагать, что мощные шахматные машины сделают игру скучной, создадут условия для многочисленных ничьих за счет вялых маневров на доске. Не будет и матчей на 1800-1900 ходов, во время которых никто не сможет достичь победы. Суть AlphaZero абсолютная противоположна. Для меня это комплементарно, ведь алгоритм играет в стиле, который больше похож на манеру Каспарова, чем Карпова. Алгоритм обнаружил, что может пожертвовать каким-то фигурами ради большей агрессии в собственных действиях. Да, это не творческий мыслительный процесс человека. Машина просто видит свои шансы, схему. Но это делает шахматы динамичными и более привлекательными.

Магнус Карлсен, действующий чемпион мира, сказал, что изучение матчей AlphaZero позволило ему увидеть неочевидные при игре с человеком аспекты шахмат. Он много размышлял о возможных ходах, но никогда не совершал их. Теперь Магнус и все мы знаем, как это работает.

WIRED: Ваш проигрыш DeepBlue пошатнул веру людей в то, что шахматы могут быть интересными. Как думаете, почему поклонники игры столь активно наблюдают за Магнусом Карлсеном?

Гарри Каспаров: Вы сами ответили на свой вопросы. Публике по-прежнему интересны живые шахматисты. Машины быстрее людей, но что с того? Соревновательный элемент важен для человечества. Все мы хотим знать, что наша команда, наши парни или девушки — лучшие в мире.

Появились компьютеры, доминирующие в шахматах. Это вызывает у игроков определенные беспокойство. С другой стороны, вырос интерес публики к шахматам.

Сейчас все не так, как тридцать лет назад. Играли Каспаров и Карпов — никто не осмелился бы критиковать нас за допущенную ошибку. Теперь достаточно посмотреть на экран, чтобы получить подробный анализ от машины.

В некоторой степени компьютеры поспособствовали возрождению интереса людей к игре. Поклонники могут присоединиться к игре, общаться на одном языке с шахматистами. ИИ становится своеобразным проводником, переводчиком для них.