"인공지능과 사람 사이 고정관념 편향 조심해야"
2022-02-11 11:36
"사람은 인공지능을 상호작용 가능한 대상으로 인식"
[사진=게티이미지뱅크]
윤성훈 삼성전자 메모리사업부 마케팅 팀장은 11일 열린 '2022 경제학 공동학술대회' 4번째 특별세션 '데이터와 AI시대의 경제주체 행동'에서 이같이 밝혔다.
윤 팀장은 “인공지능이 사회로 들어와 소비자와 대면하면서 서비스를 제공할 일이 점점 많아지고 있다”며 “이런 부분에서 고정관념 편향이 나타날 수 있다”고 주장했다.
학계에 따르면 인공지능이 사람을 대신해 서비스업에 투입되기 시작하면서 사람이 소비자에게 서비스를 제공할 때 나타났던 문제들이 인공지능에서도 나타날 수 있다는 연구 결과가 많이 발표되고 있다.
윤 팀장은 “사람에 가까운 인공지능이 소비자를 바라보면서 고정관념 편향을 갖지 못하도록 개발되고 있다”며 “인공지능이 소비자에 대해 고정관념 편향을 갖지 않도록 만들더라도 소비자가 인공지능에 대해 고정관념 편향이 생길 수도 있다”고 지적했다.
이어 “인공지능이 인간화돼 서비스를 제공하는 경우가 있다. 제일 흔하게 접하는 게 빅스비나 시리다”라며 “인공지능이 인간화되면 소비자들은 좀 더 친숙함을 느끼고 상호작용이 가능한 대상으로 인식한다” 덧붙였다.
그러면서 “이제 사회 심리학 분야 선행연구 중에도 컴퓨터 소셜 프레임업이 있다”며 “프레임업에서는 사람들이 무의식적으로 사람에게 적용하는 도덕적 관념이나 사회적 태도를 로봇에게도 적용한다는 이론이 있다”고 말했다.
사람 간 나타나는 부정적 상호작용이 인공지능과 사람 사이에서도 나타날 수 있다는 의미다. 윤 팀장은 “사회적 상품으로 내놓기 위한 인공지능을 잘 만들려면 이러한 부정적인 영향이 나타나지 않도록 해야 한다”고 강조했다.