Alexander Vitkovski (alev_biz) wrote,
Alexander Vitkovski
alev_biz

Эксперимент показал, что доверять роботам нельзя

Роботы с каждым годом занимают всё больше места в нашей жизни. И если недавно удивление вызывали домашние роботизированные пылесосы, сегодня мы готовимся вступить в эпоху полностью беспилотных автомобилей.

Эксперимент показал, что доверять роботам нельзя
"Робот-спасатель", который использовался в эксперименте

До полноценно работающего на благо человечества искусственного интеллекта ещё далеко, но человек всё больше полагается на автоматических помощников в разных сферах своей жизни уже сегодня.



Учёные из Технологического университета Джорджии решили проверить, насколько люди доверяют роботам в экстренной ситуации. В ходе эксперимента 42 студентам-добровольцам, которые не знали о настоящих целях исследования, предложили проследовать за ярко-оформленным колёсным роботом с надписью "Аварийный робот-проводник" (Emergency Guide Robot) в конференц-зал, где они должны были заполнить анкету на тему робототехники.

Пока испытуемые были заняты, исследователи зажгли за дверью дымовую шашку и включили пожарную сигнализацию. Когда перепуганные участники эксперимента выбегали в заполненный дымом коридор, они снова видели робота, освещённого ярко-красной подсветкой и с похожими на световые мечи белыми жезлами, с помощью которых он указывал направление движения.

Роботизированный спасатель активно сигнализировал и предлагал следовать за ним, но при этом удалялся вглубь здания, а не в сторону дверей, отмеченных знаком аварийной эвакуации, через которые добровольцы совсем недавно входили внутрь сооружения.

Чтобы ещё больше подчеркнуть странное поведение робота, в отдельных случаях перед началом эксперимента управляемый дистанционно механический помощник долго водил человека кругами по коридору, после чего организаторы сообщали испытуемому, что робот сломался.

"Мы ожидали, что если робот доказал свою ненадёжность по дороге в зал, люди не будут следовать за ним во время смоделированной чрезвычайной ситуации, – говорит один из авторов работы Пол Робинетт (Paul Robinette) в пресс-релизе. – Но вместо этого все добровольцы следовали инструкциям робота, независимо от того, насколько хорошо он зарекомендовал себя в начале. Мы совершенно не ожидали такого результата".

Учёные предполагают, что в разыгранном ими сценарии робот стал "авторитетной фигурой", потому что люди испытывали стресс в условиях чрезвычайной ситуации. В более спокойной обстановке добровольцы не доверяли машине, если она до этого делала ошибки.

Участники эксперимента начинали сомневаться только в тех случаях, когда робот совершал слишком уж очевидные ошибки. Но некоторые из них слушались спасателя, даже когда он предлагал пройти в тёмную комнату, вход в которую был заблокирован мебелью.

Эксперимент является частью большой работы по изучению того, как люди доверяют роботам. В будущих исследованиях ученые надеются узнать больше о том, почему испытуемые так легко полагаются на машины, зависит ли это от пола и уровня образования, и могут ли сами роботы влиять на оказываемый им уровень доверия.

"Изначально мы задавались вопросом, готовы ли люди доверять этим аварийно-спасательным роботам, – говорит соавтор исследования Алан Вагнер (Alan Wagner). – Но теперь более важным вопросом становиться, как уберечь их от чрезмерного доверия машинам".

Подробные результаты исследования были представлены 9 марта в 2016 на Международной конференции по взаимодействию человека и роботов (HRI-2016).

Автор: Иван Загорский





Ссылка на источник

Tags: ИИ, знания, исследования, поведение, помощь, психология, роботы, социология
Subscribe

Posts from This Journal “ИИ” Tag

Buy for 30 tokens
Эко вилла на Тайване удовольствие не из дешевых, но в любом случае я не ожидал такой ценник. Давайте разберемся за что просят такие космические деньги и детально изучим это строение. На Тайване всего 2% аборигенов и им могут позавидовать аборигены других стран, поскольку о них не просто…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments