Этика автономных транспортных средств: планирование безопасности и подотчетности

• Автор:
• Имя автора

  Квантумран Форсайт
• 11 апреля 2023

Автономные транспортные средства используют программное обеспечение для определения своего курса, чтобы свести к минимуму последствия столкновений. Эти транспортные средства предназначены для снижения риска аварий за счет постоянного наблюдения за окружающей обстановкой, прогнозирования потенциальных опасностей и соответствующей корректировки курса действий. Однако по мере того, как эти автомобили становятся все более совершенными, машинное суждение вызывает этические дилеммы и опасения общественности по поводу их безопасности. 

Контекст этики автономных транспортных средств

У заинтересованных сторон разные ожидания от автономных транспортных средств: пользователи ожидают эффективности и надежности, наблюдатели ожидают безопасности, а правительство ожидает эффективности транспорта. Благодаря многолетним исследованиям, 360-градусному обзору и датчикам, а также большей мощности обработки информации, чем люди, такие транспортные средства оценивают риски в зависимости от ситуации и быстро принимают решения для предположительно наилучшего курса действий. Утверждалось, что интеллект, стоящий за этой технологией, будет принимать лучшие и более быстрые решения, чем люди, в случае столкновений.

Остается вопрос, кто будет виноват, если произойдет столкновение. Может ли искусственный интеллект (ИИ) выбирать, какие жизни ценить, а какие сохранять, когда появляется возможность? Германия предложила, чтобы такие автомобили всегда стремились минимизировать количество смертельных случаев и ценили человеческую жизнь без дискриминации. Это предложение вызвало неоднозначные мнения о том, насколько правительство должно ценить жизнь. Более того, утверждалось, что технология основана на этике инженеров, которые ее разработали. Некоторые говорят, что произвольные решения лучше, чем заранее определенные программы определения потерь. Возможность взлома или неисправности автономных транспортных средств еще больше усугубляет этические дилеммы. 

Разрушительное воздействие 

Этические проблемы, связанные с полностью автоматизированными автомобилями, включают такие вопросы, как то, как транспортное средство будет принимать решения в чрезвычайных ситуациях, кто будет нести ответственность в случае аварии и как гарантировать, что программирование автомобиля не дискриминирует определенные группы людей. Эти опасения могут привести к тому, что некоторые люди будут сомневаться в переходе на полностью автоматизированные транспортные средства, а также могут привести к усилению давления на инженеров по продуктам, чтобы они были более прозрачными в отношении алгоритмов, используемых в автомобилях.

Одним из возможных решений этих этических проблем являются обязательные требования к автоматизированным черным ящикам, которые могут помочь определить причину несчастных случаев. Однако вмешательство правительства в эту область также может встретить сопротивление, поскольку некоторые могут утверждать, что регулирование использования автономных транспортных средств не входит в обязанности правительства. 

Страховым компаниям также придется адаптироваться к появлению полностью автоматизированных автомобилей. Им потребуется изменить свою политику, чтобы учесть уникальные риски и обязательства этих транспортных средств. Эти планы могут включать подготовку к случаям неисправности продукта и определение того, кто будет нести ответственность в случае аварии. Всесторонняя защита необходима, поскольку уже были случаи, когда автономные автомобильные системы ошибочно идентифицировали пешеходов как объекты, что приводило к авариям.

Последствия этики автономных транспортных средств

Более широкие последствия этики автономных транспортных средств могут включать:

• Растущее недоверие общественности к автономным транспортным средствам, особенно если производители не прозрачны в отношении своих этических принципов ИИ.
• Регулирующие органы требуют от производителей автономных автомобилей публиковать свои политики в области ИИ и планы обеспечения устойчивости к ошибкам, вызванным этими системами.
• Страховые компании разрабатывают комплексные планы, которые касаются неисправных систем, связанных с ИИ, и кибер-взломов.
• С появлением автономных транспортных средств данные людей могут собираться и передаваться третьим лицам без их ведома или согласия.
• Переход на автономные транспортные средства может привести к потере рабочих мест водителями-людьми, но также создать новые рабочие места в таких областях, как техническое обслуживание транспортных средств, анализ данных и урегулирование споров.
• Потенциальная дискриминация определенных групп пешеходов, особенно если данные обучения необъективны.
• Автономные транспортные средства уязвимы для взлома и кибератак, которые могут поставить под угрозу безопасность пассажиров и других участников дорожного движения.

Вопросы для рассмотрения

• Доверитесь ли вы беспилотному автомобилю в качестве пассажира или стороннего наблюдателя?
• Верите ли вы, что общественные страхи постепенно рассеются, или некоторые навсегда откажутся принимать эту технологию?