Однажды автомобиль с искусственным интеллектом убьет человека

С этим никто не будет спорить. Мы находимся на грани прорывов в робототехнике и искусственном интеллекте (ИИ), которые обладают потенциалом существенно изменить жизнь человеческой расы в лучшую сторону. Эти технологии начали выходить за рамки научно-исследовательских лабораторий, чтобы двигать вперед старые и новые отрасли. Но что произойдет, когда кто-то умрет от руки робота? Начнется золотой век человечества? ИИ поглотит нас? Самые разные мнения рождаются время от времени. В этот раз мы поговорим о благоприятном будущем.

Билл Гейтс, Элон Маск и Стивен Хокинг уверенно заявили, что ИИ представляет собой одну из самых глубоких угроз человечеству. Трудно игнорировать такое заявление, исходящее от одних из самых блестящих умов, живущих ныне. Несмотря на неоспоримые преимущества достижений в робототехнике и ИИ, они указывают на страх перед тем, что у машин появятся когнитивные способности, которые безусловно приведут к глубоким противоречиям с интересами человечества. Эти люди, кажется, приняли реальность, в которой «Терминатор» выходит за пределы большого экрана.

Конечно, в ответ на месседж Билла, Элона и Стивена есть экспертное мнение: мы не обречены на порабощение злобными и неуправляемыми роботами. Да, автономный автомобиль однажды неизбежно убьет человека — но не благодаря акту самоосознания, а из-за ошибки в алгоритме, который неправильно оценит некоторые элементы общей картины. Несмотря на мрачный исход, такая ошибка не будет сильно отличаться от ошибки, скажем, в шахматной программе, которая делает плохой ход, поскольку не учитывает некоторый скрытый нюанс. Конечно, это не смягчит потерю человеческой жизни. Но этот риск ничем не отличается от другого риска, сопряженного с принятием новых технологий — вспомните, сколько людей за всю историю человечества погибли в шахтах, во время испытаний первых самолетов и так далее.

Чтобы лучше оценить такую сложную угрозу, нам придется нырнуть под капот почти всех современных систем ИИ. Как бы невзрачно это на первый взгляд ни звучало, почти любое приложение можно представить просто как задачу оптимизации, которой поручено найти самое эффективное по затратам или самое эффективное по награде решение конкретной проблемы. Нет магии или эмоций в таком классе ИИ. Есть цель — найти оптимальное решение, которое будет соответствовать нашему восприятию интеллекта. К примеру, автономный автомобиль выбирает путь так, чтобы свести к минимуму штрафы риска или пройденное расстояние, и если алгоритм компьютерного зрения видит кошку, переходящую дорогу, то он делает это исключительно потому, что видит миллионы пикселей, которые статистически соответствуют больше кошке, чем чему-либо другому.

Даже системы «глубокого обучения», которые сейчас чрезвычайно популярны, больше относятся к слоям нейронов в структуре мозга, а не к тому, как те «обучаются». В конце концов, несмотря на ряд невероятных применений, под капюшоном этой системы лежит еще одна задача оптимизации, алгоритм, созданный для сбора и обработки данных.

Программа, которая определяет содержание изображения, имеет не больше сознания, чем программа, совершающая блестящий шахматный ход или планирующая движение самоуправляемого автомобиля по оживленной улице. Ни одна из таких систем на самом деле не «думает» так, как это делаем мы — она оптимизирует конкретную проблему так, чтобы та соотносилась с намерениями людей в определенной ситуации. И какими бы сложными системы ИИ ни были, пока они выполняют сугубо линейные в глобальном понимании задачи.

Таким образом, хотя смерть от рук роботов и даже от самоуправляемого автомобиля может звучать жутко, мы должны напомнить себе, что сотни тысяч людей погибают в автомобильных катастрофах каждый день. Хотя мы можем найти утешение в том, что человек в настоящее время сидит за рулем каждого автомобиля, статистически это никогда не будет безопаснее, чем когда роботы примут на себя обязанности водителей. И когда преимущества самоуправляемых автомобилей переплюнут факторы безопасности — в том числе эффективность ежедневных поездок, нашего планирования городов, смещение динамики цен при обновлении целых отраслей промышленности — мы будем бояться их не больше, чем персональных компьютеров.

Настоящий риск, связанный с развитием робототехники и искусственного интеллекта, заключается в непреднамеренном их использовании. Точно так же, как есть тонкая грань между ядерной энергией и ядерным оружием, эти достижения в робототехнике и ИИ обещают непредсказуемые возможности злоупотребления: смертельные военные применения, расширение способов шпионажа и взлома точно таких же сложных систем. Поэтому мы должны быть полностью осведомлены об этих рисках и готовы решать связанные с ними вопросы, при этом не забывая о том, какую пользу они могут принести человечеству.

Гейтс, Маск и Хокинг абсолютно правильно поощряют осторожность во время движения вперед. Однако видят угрозу немножко не там, поскольку человеческое намерение остается куда более грозной опасностью, нежели машины, которые оно изобретает. Невообразимые технологии находятся на расстоянии вытянутой руки, когда-то о них можно было лишь мечтать, но главным врагом людей всегда были лишь сами люди.