Представитель «Яндекса» рассказал в Совфеде об искусственном интеллекте. И намекнул на закон для беспилотных автомобилей Статьи редакции

Это калька с английского языка, как и многие кальки она не точная. По моему мнению, слова «artificial intelligence» на самом деле означают — «рукотворный думатель». Это то, что создал человек, что пытается, так или иначе, думать и осознавать, что происходит. И даже эта формулировка очень слабая и неточная.

Это два больших сегмента. Мы строим системы принятий решений и системы, который мы называем «распознаванием образов».

Как вы знаете, на территории Москвы и области огромное количество водителей. Эти люди используют системы навигации и вводят туда конечный адрес, куда они хотят добраться без пробок. Если вы произносите адрес «Большая Дмитровка 25», вероятность того, что живой человек или водитель распознает этот адрес – 92%, то есть 8% будет набрано с ошибкой. Современные системы ИИ, как встроенный в «Яндекс.Навигатор», делают это с вероятностью 97%, то есть компьютер ошибается в 2,5 раза реже. А чтобы обучить этому ИИ, уходит несколько часов.

Совершенный «рукотворный разум» должен уметь обучаться, ощущать окружающий мир, объяснять то, что с ним происходит, и разговаривать с человеком. Ни Siri, ни Алиса, ни другие голосовые помощники всеми этими навыками пока не владеют.

Изначально в области сидели живые люди, которые смотрели на фотографию номера автомобиля и выписывали штраф. Это чудовищно неэффективно, потому что живой человек тратит на эту операцию 2-3 секунды, а компьютер за 3 секунды обрабатывает десять тысяч фотографий.

Системы ИИ, связанные с медициной, в зачаточном состоянии. Сейчас они могут помочь выбрать курсы врачу, которые ему наиболее эффективно изучить, чтобы быть более квалифицированным врачом. Медицина — невероятно сложная система, завязанная на личных навыках врача. Пока система не готова скопировать эти навыки.

Представим, что автомобиль едет по однополосной дороге, и внезапно перед ним телепортируется человек. Слева — отбойник, справа — остановка с ещё одним человеком. Любое решение потенциально летальное. Человек в такой ситуации принимает решение менее чем за полсекунды и при этом понимает, что любое его действие может быть фатальным.

В Китае для таких непредвиденных случаев предлагают на основании сбора данных автоматически определять социальную значимость каждого гражданина. Другими словами, управляемая искусственным интеллектом машина скорее задавит менее ценного для общества человека.

Я часто пользуюсь общественным транспортом, а он не работает ночью. Очень сложно вывести на работу ночного водителя. Это дорого, некомфортно для водителя, и нужно учитывать нормы на ночную работу. Беспилотные системы прекрасно решают эту проблему.

Главная проблема при выходе беспилотных автомобилей на дороги — другие водители, которые нарушают правила, и пешеходы, которые выскакивают на дороги. Проблемы будут до тех пор, пока большинство машин не перейдут на ИИ. Единственное требование к ИИ состоит в том, что он должен водить лучше, чем средний водитель. Не лучше, чем лучший, а лучше, чем средний. И уже тогда качество вождения и безопасности на дорогах поднимется.

Если система ИИ приняла неправильное решение, то кто несёт за это ответственность? Ведь в ситуации, когда живой человек нарушил правила и проехал на красный свет, вы все знаете, кто несёт ответственность — водитель. А это автоматическая система, у которой есть только разработчик, который запустил её в эксплуатацию, и владелец этого автомобиля.

Как решить, кто будет виноват и получит штраф в случае превышения скорости или проезда на красный свет — большой и сложный вопрос, решения которому нет.