В среду из-за столкновения грузовика с беспилотным авто в американском Питтсбурге двое пассажиров машины без водителя оказались в больнице. Так как в скором времени беспилотные автомобили постепенно начнут заменять обычные, законодатели, производители и эксперты торопятся решить несколько важных этических проблем, связанных с ответственностью, спасением жизней и технологической безопасностью машин. Apparat вспоминает самые крупные аварии с участием беспилотных авто и рассказывает о нерешимых — во всяком случае, на данный момент — этических дилеммах по поводу машин без водителя.
Как мы видим, большинство аварий закончились незначительными повреждениями автомобилей. Из всех происшествий только один закончился гибелью водителя. Электромобиль, попавший в аварию, строго говоря, был не беспилотником, а электромобилем Tesla, который позволял передвигаться по дорогам в режиме автопилота.
При этом безопасность беспилотных авто всё ещё является важной этической проблемой как для производителей машин, так и для законодателей. Главные вопросы: «Кто несёт ответственность за аварию, если машиной никто не управляет?» и «Кем автомобиль должен пожертвовать в случае аварии?».
По словам Кристофа Мазура из Имперского колледжа Лондона, «машина – непосредственный виновник. Если виновата машина без водителя, то я полагаю, что ответственность несет компания, но не непосредственный инженер, который занимался автомобилем». В то же время компании, устанавливающие активный круиз-контроль в свои автомобили (например Volkswagen), сразу предупреждают: водитель в любом случае будет нести ответственность за ДТП, свалить всё на машину будет нельзя.
В августе 2017 года Комиссия по этике, созданная министерством транспорта и цифровой инфраструктуры Германии, опубликовала этический кодекс для разработчиков беспилотного транспорта. Авторы кодекса не смогли ответить, кого должна спасать машина. «Такие решения не могут быть четко стандартизированы и запрограммированы таким образом, чтобы они были этически неопровержимыми», — говорят её авторы.
Производители машин считают, что беспилотное авто должно спасать водителя в любом случае. Например, представители Mercedes-Benz заявили, что задача машины — спасти пассажира, даже если пострадавших пешеходов будет больше. Менеджер по системам безопасности Mercedes-Benz Кристоф фон Хьюго заявил, что «невозможно предугадать, что произойдет со спасенными людьми после этого [аварии]».
Не помогают решить дилемму и опросы общественного мнения. Например, жители США с одной стороны считают, что число смертей в аварии с беспилотным авто надо уменьшить даже ценой жизней пассажиров, с другой — когда им предложили представить себя на месте пассажиров, заявили, что автомобиль должен спасти их жизни любой ценой.
Однозначный ответ на вопрос, кого спасать, дают американские власти: конечно, пассажиров. Департамент транспорта США в 2016 году выпустил первый свод правил для беспилотных автомобилей. Машина, согласно документу, должна при неизбежности аварии минимизировать ущерб для людей, прежде всего, пассажиров и водителя. Без выполнения этих требований, как пишет New York Times, автопроизводители не смогут продавать машины для публичного использования.
Ещё одна проблема — безопасность машин. Так как они собирают информацию и обмениваются ей с другими участниками дорожного движения, их можно взломать. В сентябре 2015 года Джонатан Петит из компании Security Innovation выяснил, что систему управления автомобилей без водителя можно сбить с толку лазерной указкой. Радар машины считывает луч как препятствие и пытается объехать. Опрошенные Guardian эксперты отмечают, что полностью безопасными нынешние системы беспилотных машин сделать нельзя.
При этом пока беспилотные машины кажутся более безопасными, чем обычные: из их деятельности практически исключён человеческий фактор. Почти половина автокатастроф происходит по вине людей. В США более каждый год 30 тысяч человек погибают в автомобильных катастрофах. Причина в почти половине случаев — алкоголь, наркотики, заболевания — в общем, те факторы, которые будут исключены, если машиной будет управлять компьютер, а не человек. Соответственно, дороги станут безопасными и для пешеходов.
Как мы видим, большинство аварий закончились незначительными повреждениями автомобилей. Из всех происшествий только один закончился гибелью водителя. Электромобиль, попавший в аварию, строго говоря, был не беспилотником, а электромобилем Tesla, который позволял передвигаться по дорогам в режиме автопилота.
При этом безопасность беспилотных авто всё ещё является важной этической проблемой как для производителей машин, так и для законодателей. Главные вопросы: «Кто несёт ответственность за аварию, если машиной никто не управляет?» и «Кем автомобиль должен пожертвовать в случае аварии?».
По словам Кристофа Мазура из Имперского колледжа Лондона, «машина – непосредственный виновник. Если виновата машина без водителя, то я полагаю, что ответственность несет компания, но не непосредственный инженер, который занимался автомобилем». В то же время компании, устанавливающие активный круиз-контроль в свои автомобили (например Volkswagen), сразу предупреждают: водитель в любом случае будет нести ответственность за ДТП, свалить всё на машину будет нельзя.
В августе 2017 года Комиссия по этике, созданная министерством транспорта и цифровой инфраструктуры Германии, опубликовала этический кодекс для разработчиков беспилотного транспорта. Авторы кодекса не смогли ответить, кого должна спасать машина. «Такие решения не могут быть четко стандартизированы и запрограммированы таким образом, чтобы они были этически неопровержимыми», — говорят её авторы.
Производители машин считают, что беспилотное авто должно спасать водителя в любом случае. Например, представители Mercedes-Benz заявили, что задача машины — спасти пассажира, даже если пострадавших пешеходов будет больше. Менеджер по системам безопасности Mercedes-Benz Кристоф фон Хьюго заявил, что «невозможно предугадать, что произойдет со спасенными людьми после этого [аварии]».
Не помогают решить дилемму и опросы общественного мнения. Например, жители США с одной стороны считают, что число смертей в аварии с беспилотным авто надо уменьшить даже ценой жизней пассажиров, с другой — когда им предложили представить себя на месте пассажиров, заявили, что автомобиль должен спасти их жизни любой ценой.
Однозначный ответ на вопрос, кого спасать, дают американские власти: конечно, пассажиров. Департамент транспорта США в 2016 году выпустил первый свод правил для беспилотных автомобилей. Машина, согласно документу, должна при неизбежности аварии минимизировать ущерб для людей, прежде всего, пассажиров и водителя. Без выполнения этих требований, как пишет New York Times, автопроизводители не смогут продавать машины для публичного использования.
Ещё одна проблема — безопасность машин. Так как они собирают информацию и обмениваются ей с другими участниками дорожного движения, их можно взломать. В сентябре 2015 года Джонатан Петит из компании Security Innovation выяснил, что систему управления автомобилей без водителя можно сбить с толку лазерной указкой. Радар машины считывает луч как препятствие и пытается объехать. Опрошенные Guardian эксперты отмечают, что полностью безопасными нынешние системы беспилотных машин сделать нельзя.
При этом пока беспилотные машины кажутся более безопасными, чем обычные: из их деятельности практически исключён человеческий фактор. Почти половина автокатастроф происходит по вине людей. В США более каждый год 30 тысяч человек погибают в автомобильных катастрофах. Причина в почти половине случаев — алкоголь, наркотики, заболевания — в общем, те факторы, которые будут исключены, если машиной будет управлять компьютер, а не человек. Соответственно, дороги станут безопасными и для пешеходов.
