Автопилот и дилемма: кого «убить» — водителя или пешеходов?

Автономные автомобили уже перестают быть фантастикой: на дорогах появляются машины с режимом автопилота, которые могут ехать без вмешательства человека. Автолюбители пока что больше интересуются традиционными показателями – скоростью, мощностью, комфортом. Они с увлечением сравнивают, к примеру, немецкие суперседаны BMW M5 F90 и Mercedes-AMG E63 S по их характеристикам. Однако с появлением автопилота на первый план выходит совсем другая тема – этика и безопасность. Что делать машине, когда аварии не избежать?

Это уже не теоретический вопрос из учебников, а реальная проблема на дороге. Представим ситуацию: беспилотное авто мчится и вдруг перед ним на пешеходном переходе появляется группа людей. Тормозить уже поздно. Есть два варианта развития событий: свернуть в сторону и врезаться в стену (пожертвовав водителем) или продолжить движение и сбить пешеходов. Алгоритм искусственного интеллекта запрограммирован на определенное решение – и от этого решения зависят жизни.

Философы называют такой трагический выбор «проблемой вагонетки». Когда-то это был чисто мысленный эксперимент: направить ли неуправляемый трамвай на другой путь, чтобы спасти пятерых ценой жизни одного? Теперь подобная дилемма встает перед искусственным интеллектом на дороге – и его решения будут иметь реальные последствия.

• Спасти пассажира. Продолжать движение, защищая водителя, несмотря на риск для группы пешеходов.
• Спасти пешеходов. Направить авто на препятствие или обочину, жертвуя жизнью того, кто находится внутри машины.
• Не выбирать осознанно. Избегать специального алгоритма выбора – то есть заложить минимизацию ущерба без таргетинга, фактически позволив событиям развиваться стихийно.

Кто-то может возразить, что искусственный интеллект будет настолько умным, что всегда найдет третий, безопасный выход. Но это скорее миф. На самом деле даже самые современные сенсоры и программы не способны отменить законы физики и исключить все риски. Критические ситуации все равно будут случаться. Следовательно, рано или поздно машина может оказаться перед выбором, кого уберечь ценой другой жизни.

Человечество до сих пор не нашло единого правильного ответа на эту дилемму. Тем не менее социологические исследования дают интересный взгляд на проблему. Опросы показывают: большинство респондентов согласны, что в крайней ситуации автономное авто должно жертвовать пассажиром, чтобы спасти группу людей. Однако те же люди признаются, что не хотели бы ездить в машине, которая в случае опасности сознательно пожертвует ими ради чужих жизней. Этот парадокс может стать препятствием для внедрения беспилотников на дороги.

Приведем показательный результат одного из исследований общественного мнения о «дилемме автопилота»:

Как видим, общество одновременно хочет, чтобы роботы-водители спасали как можно больше людей, и при этом не желает рисковать собой. Такой разрыв между моральными и личными интересами создает дилемму для производителей и регуляторов. Ведь как ни программируй алгоритм – решение будет противоречивым и может вызвать возмущение.

Кто сядет в тюрьму, если беспилотное авто спровоцирует ДТП?

Если же машина на автопилоте все-таки вызвала аварию с фатальными последствиями – кого наказывать? Этот вопрос не менее сложен, чем моральный выбор. Первые тревожные звоночки уже прозвучали. Например, в 2018 году тестовый автономный автомобиль Uber насмерть сбил пешехода; известны и другие смертельные ДТП с участием Tesla на автопилоте. Подобные случаи, где управляет компьютер, ставят под сомнение традиционный принцип, по которому вся вина возлагается на водителя.

В ситуации с «робо-водителем» возможны разные подходы к определению виновника. Рассмотрим основные сценарии:

1. Владелец (пассажир) автомобиля. Логика: именно он сидел в салоне и включил режим автопилота. Возможно, человек должен был контролировать движение и вмешаться – значит, несет долю вины за бездействие.
2. Разработчик программы (алгоритма). Ведь это программисты заложили ту модель поведения, которая привела к трагедии. Должны ли инженеры нести уголовную ответственность за последствия решений своего кода?
3. Компания-производитель автомобиля. Фирма, выпустившая беспилотное авто, могла не предусмотреть всех рисков или сэкономить на датчиках. Отвечать может производитель (в лице руководства) как юридическое лицо – например, через судебные иски и штрафы.

Пока что четкой нормы закона на этот счет нет. В большинстве стран, где тестируются автономные авто, ответственность возлагается на человека за рулем. Ведь нынешние системы автопилота (уровня 2–3) требуют, чтобы водитель оставался внимательным. Так, в случаях с Tesla суды чаще всего признают виновным водителя, который переоценил возможности автопилота и не вмешался, когда это было нужно.

Однако с появлением полностью беспилотных машин (уровень 4–5) логично возникает необходимость сместить вину на создателей технологии. В Германии национальная Этическая комиссия по автоматизированному вождению еще в 2017 году постановила: если человек больше не контролирует авто, то и ответственность за его действия несет не пассажир, а производитель или оператор системы. Некоторые автопроизводители сами готовы брать на себя такую ответственность – например, компания Volvo публично обещала взять всю вину на себя, когда ее автомобили будут ездить в автономном режиме.

Перекладывание вины на компанию имеет свои плюсы и минусы. С одной стороны, владельцы охотнее будут доверять автопилоту, если будут знать, что их не сделают «крайними» в случае аварии. С другой – производители опасаются брать всю вину на себя, ведь это грозит многомиллионными исками и даже уголовной ответственностью их должностных лиц. Возможно, будут введены специальные страховые полисы или юридические ограничения, чтобы сбалансировать эти риски.

Несмотря на все эти неопределенности, технологии автономного вождения не стоят на месте. Новые модели авто получают все более умные «мозги». Например, электрический кроссовер Volkswagen ID.4 оснащен комплексом Travel Assist для полуавтономного движения, а водители этой модели могут повысить комфорт и практичность, установив различные аксессуары для Volkswagen ID.4. Полностью автономное управление (уровень 5) пока остается делом будущего. А значит, дискуссии о моральных алгоритмах и юридической ответственности будут продолжаться – обществу нужно время, чтобы прийти к согласию.

Итак, моральная дилемма автопилота пока не имеет четкой развязки. Программировать машины на спасение большинства ценой пассажира или на защиту своего водителя при любых условиях? Кого наказывать за ошибки искусственного интеллекта – инженеров, владельцев или вообще никого? Над этими вопросами размышляют философы, юристы и сами производители. Возможно, уже скоро придется пересмотреть устоявшиеся принципы этики и ответственности на дорогах. Ведь когда за рулем компьютер, то и решения, и вина приобретают совершенно новое значение – такое, с которым человечеству еще предстоит научиться жить.