истории

Ученые два года пытались выяснить, кем могут «жертвовать» беспилотные машины: пассажирами или пешеходами, мужчинами или женщинами. Понятнее не стало

Источник: Meduza

В 2016 году Массачусетский технологический институт (MIT) опубликовал специальный тест, который должен был помочь создателям самоуправляемых автомобилей сформулировать основные этические принципы для искусственного интеллекта. В ходе исследования ученые пытались выяснить, как должен вести себя беспилотный автомобиль во время ДТП и чьи жизни для него должны быть в приоритете: женщин или мужчин, молодых или пожилых, пешеходов, переходящих дорогу по правилам, — или нарушителей.

Анкета состояла из 13 вопросов, на которые мог ответить любой желающий. Отвечающим предлагали выбрать, кем должен пожертвовать искусственный интеллект, если произошла чрезвычайная ситуация. Например, в одной из задач предлагалось выбрать между женщиной и двумя детьми в салоне автомобиля и тремя женщинами на пешеходном переходе, две из которых — преклонного возраста. Также исследователи обращали внимание на социальное положение, профессию, законопослушность и даже внешность потенциальных жертв. Уже после теста нужно было оставить информацию о себе, чтобы ученые могли отнести отвечавшего к той или иной группе.

25 октября исследователи MIT представили результаты теста. За два года его прошли почти 500 тысяч человек со всего мира. Как объяснили ученые, им было важно получить ответы представителей разных стран и культур. Ответы всех респондентов оценивали по двум параметрам: исходя из их личных качеств (сюда вошли возраст, образование, пол, доход, политические и религиозные взгляды), а также по принадлежности к культурным кластерам (их определили по геоданным).

Выяснилось, что ни одно из личных качеств не влияло на результаты теста сколь-либо радикальным образом. Отличия в ответах были связаны в основном с полом и религиозными взглядами — но и они не были слишком заметными. Например, мужчины чуть реже предпочитали «оставлять в живых» женщин — но всего на 0,06%. Как заключили ученые, индивидуальные различия теоретически важны, но не несут никакой существенной информации для разработчиков.

Геолокация позволила исследователям выявить более значимые различия. Ученые выбрали ответы из 130 стран (в каждой из них тест прошли минимум 100 человек) и разделили всех ответивших на три группы: западную (в нее вошли жители Северной Америки и Европы, среди которых были католики, протестанты и православные), восточную (жители азиатских стран, исповедующие конфуцианство, а также мусульмане из Индонезии и арабских стран) и южную (жители Латинской Америки и стран, находившихся под французским влиянием).

Выяснилось, что «южане», когда им приходится выбирать, чью жизнь подвергать опасности, а чью — спасать, отдавали предпочтение молодым людям и людям с высоким социальным статусом. Также респонденты из южной группы заметно выше остальных ценили жизнь женщин и тех, кто занимается спортом. А представители восточной группы предпочли законопослушных людей и пешеходов, меньше остальных «оценив» жизни женщин и молодых. Как отмечают ученые, различия между этими культурными кластерами могут представлять серьезную проблему для разработчиков, которые занимаются искусственным интеллектом.

В целом исследование выявило три основные тенденции: робот, по мнению людей, должен спасать во время ДТП человека, а не животное, причем в приоритете — спасение более молодых. Одной из главных задач беспилотника, по результатам теста, должно стать спасение наибольшего числа людей во время аварии.