«Шахматы – простая игра. Мы пытаемся выиграть в «Цивилизацию»

Искусственный интеллект способен автоматизировать вообще всё. Есть области, где у него нет никакого понимания (например, естественные языки), но если ему это понимание дать, то он может автоматизировать всё, что мы делаем.

Чего искусственный интеллект не может делать - так это найти что-то новое. Он может найти новый ход в Го (настольная игра, в которой компьютер долгое время не мог победить человека, но несколько лет назад всё же это сделал - прим.ред.), но он не сможет изобрести новую игру. Искусственный интеллект не умеет творить, у него нет воли. Если ты дашь искусственному интеллекту систему, в которой заложено неравенство, то неравенства станет ещё больше, т.к. искусственный интеллект стремится к оптимизации. Чтобы избавиться от неравенства, нужно желание и сознательное решение. Искусственный интеллект на это не способен. У него нет «я».

Категорически с этим не согласен. То мнение, что вы сейчас привели – это PR-хохма от Google. Давайте вспомним, как это мнение вообще возникло. Такое заявление сделала компания Waymo, принадлежащая Google и занимающаяся беспилотными автомобилями. Они несколько месяцев назад выступили и рассказали о том, как же трудно внедрять машины без водителей. Все остальные производители автомобилей радостно выдохнули и подхватили эту мысль, потому что проблемы с внедрением беспилотных машин есть у всех.

Но что произошло дальше? Через неделю после этого интервью Waymo... подала заявку на получение разрешения на беспилотное вождение в 400 городах.

Они сказали то, что сказали, а все остальные выдохнули, решив, что можно расслабиться. И вот тут-то Waymo вдарило. Я считаю, что беспилотные автомобили появятся очень скоро. Но есть проблема страховки.

Сегодня, если ты сбил человека, то очевидно, что ты и твоя страховая компания должны заплатить. Если машины станут беспилотными, однозначно будут и погибшие. Представим худший сценарий: беспилотная машина сбивает ребёнка. К тому моменту, как это случится, мы уже будем знать, что это означает с экономической точки зрения. В том смысле, что кто будет за это платить.

Хотя если мы перейдём на беспилотные машины уже сейчас, то можем спасти около 30 000 жизней в год. Но мы этого не делаем, т.к. не можем гарантировать, что смертей не будет вообще. Мы намеренно убиваем 30 000 человек в год, потому что не можем пообещать, что убитых не будет вообще. В этом нет никакого смысла. Мы просто внутренне привыкли к тому, что люди убивают других людей на дорогах, поэтому намерены позволить им это делать дальше. Это очень эмоциональный подход, мы ведём себя нерационально.

Сменим тему. Верите ли вы в реальность достижений проекта DeepMind, принадлежащего Google (команда DeepMind разработала программу, победившую человека в Го, а также заявила, что её нейронная сеть сумела победить сильнейшую на сегодняшний день компьютерную программу по игре в шахматы Stockfish)? Лично я им не поверил. Как вы думаете, они эту историю просто придумали?

Нет. В мире существует совсем немного компаний, занимающихся созданием общего искусственного интеллекта. Мы - одна из них, DeepMind - одна из них, [китайская] SenseTime , которая фокусируется на таких технологиях, как распознавание людей в толпе и т.д. - одна из них. Технология у DeepMind однозначно не фейковая.

Когда ты сегодня обучаешь нейронную сеть, то должен для каждой новой задачи обучать её с нуля. Даже если эти задачи очень похожи. Например, если ты перемещаешься от бухгалтерии к менеджменту, то тебе всё равно пригодятся те знания, что ты получил в бухгалтерии. Но программа их забывает и должна начинать всё с нуля. Это очень плохо. Затрачивается масса энергии - создание нейронной сети безумно энергозатратный процесс. Если ты хочешь автоматизировать всю деятельность своей компании, то такими темпами у тебя на это уйдёт лет 100.

При применении обобщённого искусственного интеллекта всё, что программа выучила, она сможет использовать и для следующей задачи. Ты просто немножко меняешь параметры. Тем самым, прогресс происходит гораздо быстрее, а энергии потребляется значительно меньше. Это такой искусственный интеллект, который ты можешь засунуть куда угодно.

С помощью одной лишь нейронной сети этого достичь нельзя. Есть несколько систем, которые можно подразделить на 3 типа.

Первый тип - гиперконнективные системы, симулирующие компактные системы (т.е. нейронные сети). Второй тип - символические системы, симулирующие спор. Такая система может, к примеру, взвесить два аргумента в споре и сравнить их между собой. И третий тип - статистические системы. Они, в свою очередь, подразделяются на два подтипа: аналоговый и вероятностный. Статистические системы нужно использовать тогда, когда ты не можешь сформулировать проблему на символическом языке, и когда она слишком сложна для нейронной сети. Тогда мы привлекаем статистику.

Вообще, каждый вид системы хорош для своих задач. Нейронные сети хороши для того, чтобы симулировать инстинкт. Например: «если видишь тигра, - беги». Символические системы прекрасно подходят для комплексных решений. Когда решение состоит из нескольких шагов.

Например, когда ты играешь в игру, где у тебя есть общая стратегия, промежуточный слой и микроменеджмент – так устроена, например, компьютерная игра «Цивилизация».

Кстати, каждый раз, когда нам, людям, кто-то даёт задание, и мы его выполняем, мы тоже занимаемся комп­лексным решением какой-то проблемы.

В самом начале объём данных действительно имеет огромную ценность. Однако очень быстро наступает момент, когда увеличение количества данных даёт очень маленький прирост ценности.

Этот «хайп» уже позади. 18 месяцев назад люди действительно были в возбуждении: «Нейронные сети принесут нам мир во всём мире!» Теперь все уже говорят более конкретно: нейронные сети позволят нам сэкономить энергию и т.д. Это всегда так происходит. Нельзя решить все проблемы с помощью одного алгоритма.

Разве она сегодня не решена?

Почему вы так говорите?

Я считаю, что шахматы на сегодня решены, потому что человек ни при каких обстоятельствах не может обыграть компьютер. Другой вопрос, что Гарри Каспаров изобрёл новый вид шахмат – человек играет в команде с компьютером. Благодаря этому 5-минутный блиц заиграл новыми красками, и там можно найти много интереснейших партий. Весьма рекомендую их посмотреть.

Естественные языки. Компьютеры не умеют создавать машины, умеющие вести диалог. Все решения, что есть на рынке сейчас, – там компьютер читает предварительно написанный текст. Это вообще не работает.

Также компьютеры не освоили пока стратегическое мышление. А ещё - парадокс Моравека.

Его сформулировал преподаватель робототехники Ханс Моравек (а также американский учёный в области искусственного интеллекта Марвин Минский - ДВ). «Всё, что трудно для людей, легко для компьютеров, всё, что трудно для компьютеров, легко для людей». Так что да, назову три вещи: естественные языки, стратегическое мышление и парадокс Моравека.

Чтобы продемонстрировать миру те возможности, которые представляет собой искусственный интеллект.

В шахматах количество возможных ходов десять в семьдесят восьмой степени. В Го - десять в семьсот шестьдесят первой степени. В «Цивилизации» – десять в степени пятьсот тысяч.

«Цивилизацию 2». Потому что для неё есть бесплатная версия - FreeCiv.

Я заметил, что люди здесь очень прагматичны. Вы просто берёте и делаете. И это прекрасно, нам нужно больше таких людей. Я много времени провожу в европейских организациях, в частности, немецких. Так вот, там 20% людей говорят о будущем, и 80% - о проблемах, которые мы можем получить. В Эстонии же 80% людей говорят о будущем, а 20% - о том, как решить проблемы, которые мы только что создали.

В настоящий момент инженерное мышление лучше. Бизнес стремится к достижению целей, а инженеры - к решению проблем. В этом и разница между ними. В бизнесе цели, как правило, под сомнение не ставятся. А вот в инженерии проблемы подвергаются сомнению всегда. Последние 150 лет люди много работали над эффективностью и оптимизацией. Теперь нам нужно другое: решение проблем.

Изначально - нет. Не исключаю, что те инженеры, которых мы успели взрастить в промышленных корпорациях, действительно перестроились и начали стремиться к эффективности.

Но изначально инженеры были любопытными решателями проблем. Это потом мы им дали такую работу, что они начали углубляться, стали узкими специалистами и ничего, кроме очередного повышения эффективности на 2%, выдать не смогли. Да, они улучшили систему, но ничего нового в своей отрасли не изобрели.

Вот почему я в своих выступлениях избегаю слова «инженер» и использую слово «технарь». Потому что сегодня в автомобильных компаниях есть масса инженеров, которые гонятся за этими самыми 2%. А вот в программном обес­печении люди по-настоящему создают что-то новое.

Не поймите меня неправильно: я не против бизнеса. Эффективное внедрение - это тоже важно. Но если раньше у нас было мало технологий и много эффективности, то теперь нам нужно, чтобы было наоборот: много технологий и чуть-чуть эффективности.

Подождите, а где у Uber хорошие технологии? Там как раз технологии очень примитивны. Что у них в реальности есть, так это бизнес-модель и положение на рынке. Я думаю, что Uber изначально не создавался для того, чтобы быть прибыльным. Что у них есть, так это готовый парк для беспилотных автомобилей. Если ты хочешь вывести на рынок беспилотные машины, то лучшая стратегия для тебя - это купить Uber и заменить водителей. Ибо часть работы (вход на рынок) Uber за тебя уже сделал. Ценность у всего этого есть только в том случае, если появятся машины без водителя. Иначе в Uber нет никакого смысла: индустрия такси вообще-то самая древняя в мире.

Или для того, чтобы создать парк беспилотных автомобилей.