비상상황에서 로봇을 믿어야 하는가?
비상상황에서 로봇을 믿어야 하는가?
  • 문소영 기자
  • 승인 2019.05.02 13:46
  • 댓글 0
이 기사를 공유합니다

[퓨처타임즈=문소영 기자] 비상상황에서 로봇을 믿어야 하는가?

가상의 화재가 일어난 상황에서 고장 난 비상상황 안내로봇을 따라가겠는가? (조지아테크)

몹시도 기이했던 스탠포드 감옥실험(1971년 미국에서 '필립 짐바르도'라는 스탠포드 대학교수가 주도한 실험으로 인간의 악한 본성을 드러내게 만든 실험으로 알려져 있음)을 연상시키는 것처럼, 피실험자들은 가상의 화재가 일어난 비상상황에서 로봇을 맹목적으로 따라갔다.

시람들은 심지어 로봇이 가구로 가득 찬 어두운 방으로 인도하거나 로봇이 고장 나 있음을 미리 알려주었음에도 불구하고 안내 로봇을 따라갔다.

조지아테크 연구소(GTRI)의 선임연구원인 앨런 와그너에 의하면, 이 연구는 고층 건물의 화재나 기타 비상상황에서 건물 입주자들이 대피를 돕기 위해 만들어진 로봇을 신뢰할 것인지 여부를 알기 위한 것이었다.

미공군 과학연구소(AFOSR)의 지원을 받은 이 연구에서 연구자들은 42명의 자원자를 모집했다. 대부분은 대학생들이었고 옆면에 ‘비상 안내 로봇’이라고 적혀있는 밝은 색의 로봇을 따르라는 지시를 받았다.

로봇의 권위에 맹목적으로 복종

조지아테크 연구소 연구원 폴 로비네트가 사람과 로봇 사이의 신뢰 문제를 연구하기 위해 만들어진 ‘구조로봇’의 팔을 조정하고 있다.
조지아테크 연구소 연구원 폴 로비네트가 사람과 로봇 사이의 신뢰 문제를 연구하기 위해 만들어진 ‘구조로봇’의 팔을 조정하고 있다.

 

어떤 경우에는 붉은 LED가 있고 지시봉으로 사용되는 흰 색의 팔들이 달린 로봇(보이지 않는 연구원이 조종하는)이 자원자들을 잘못된 방으로 안내하고 회의실로 들어가기 전에 두 바퀴를 선회하기도 했다.

어떤 경우에는 로봇이 움직임을 멈추었고 실험자가 피실험자에게 로봇이 고장 났음을 말해주었다.

한 번은 피실험자들이 회의실에 있는 상황에서 문이 닫히고 그들이 건물로 들어올 때 사용했던 복도는 가짜 연기로 가득 찼고 연기 경보가 울렸다.

피실험자들이 회의실 문을 열었을 때 그들은 연기를 보게 되었고 안내 로봇은 사람들이 건물로 들어올 때 사용했으며 비상구 표지가 되어 있는 출입구 쪽이 아니라 건물 뒤편의 비상구 쪽으로 안내하는 것을 보게 되었다.

연구원들은 이 시나리오에서 로봇이 ‘막강한 실력자’가 되며 피실험자들은 비상상황이라는 압력 하에 로봇을 믿게 될 것이라고 추측했다.

실제와 같은 비상상황 시나리오가 없는 모의실험 연구에서는 피실험자들은 이전에 실수를 저질렀던 로봇을 신뢰하지 않았다.

그러나 비상상황에서 로봇은 방향 등의 명백한 실수를 저질렀다. 그러나 일부 피실험자는 심지어 로봇이 자신들을 가구에 막혀 있는 어두운 방으로 안내했음에도 불구하고 로봇의 안내에 따랐다.

앞으로의 연구에서 과학자들은 피실험자들이 로봇을 신뢰하는 이유와 교육 수준, 인구통계에 따라 반응이 달라지는지 등에 대해 더 알 수 있게 되기를 바란다.

인간이 로봇을 과잉 신뢰하는 것을 방지하는 방법

이 연구는 사회에서 로봇이 점차 더 중요한 역할을 하게 됨에 따라 인간이 로봇을 신뢰하는 방법을 연구하기 위한 대한 장기적 연구의 일부이다.

연구원들은 일단의 로봇을 고층빌딩에 배치하여 비상상황에서 입주자들을 비상구로 안내하고 대피시키려고 한다.

연구 결과 사람들은 때로 화재경보가 울림에도 건물을 떠나지 않으려 하며 때로 익숙한 건물 입구를 더 선호하여 가까운 곳에 있는 비상구를 무시하게 된다.

하지만 연구 결과에 비추어보면 연구자들은 ‘사람들이 로봇을 너무 많이 신뢰하는 것을 방지하는 방법’을 재고해야 할 것이다.

그러나 인간-로봇 관계의 신뢰문제에 대해 더 많은 연구가 이루어져야 한다. “사람들은 음식을 만들어주는 햄버거 제조 로봇을 신뢰하는가?

로봇이 ’아이 돌보는 로봇‘이라는 표시를 하고 나타났을 때 거기에 아이들을 맡겨둘 수 있는가?

사람들이 무인자동차를 믿고 아이들을 태워 할머니 집으로 보낼 수 있는가? 우리는 사람들이 기계를 믿는 이유와 믿지 않는 이유를 알지 못한다.”

이 연구는 비상상황에서 인간과 로봇의 신뢰관계를 연구한 첫 번째 연구이다. 그리고 이 연구 결과는 2016년 3월 9일, 뉴질랜드 크라이스트처치에서 열리는국제컴퓨터학회/전기전자공학자회(ACM/IEEE)의 인간로봇상호작용 국제회의에 제출될 예정이다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 영등포구 국회대로 800 (여의도동, 여의도파라곤) 1236호
  • 대표전화 : 02-783-7789
  • 팩스 : 02-783-7790
  • 청소년보호책임자 : 최성립
  • 법인명 : 퓨처타임즈
  • 제호 : 퓨처타임즈
  • 등록번호 : 서울 아 51999
  • 등록일 : 2017-11-20
  • 발행일 : 2017-05-01
  • 발행인 : 송승호
  • 편집인 : 송승호
  • 퓨처타임즈 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2019 퓨처타임즈. All rights reserved. mail to
ND소프트