박윤규 과기정통부 2차관 "AI 가상인간, 진짜 사람에 영향… 윤리·신뢰 중요"
2023-07-28 11:10
박윤규 과학기술정보통신부 제2차관이 인공지능(AI) 윤리와 신뢰성 인식을 높이기 위해 AI 분야별 대표기업 방문 일정을 지속하고 있다. 이번엔 실사 기반 ‘AI 휴먼’을 생성하고 활용하는 데 자체 AI 윤리강령을 적용하고 있는 이스트소프트를 찾았다.
과기정통부는 박 차관이 28일 서울 서초구 이스트소프트 사옥에 방문해 AI 윤리와 신뢰성 준수 현황을 파악하고 이행을 독려했다고 밝혔다. 이스트소프트는 AI 휴먼을 활용해 제작한 방송, 금융, 교육 관련 영상 콘텐츠를 제공하고 있다. 이 과정에 △인간을 존중하는 AI △사회에 공헌하는 AI △공정한 AI △윤리적 AI △안전한 AI 등 자체 수립한 5대 윤리강령을 적용하고 있다.
정상원 이스트소프트 대표는 AI 휴먼 개발에 챗GPT를 활용해 고객과 실시간 질의응답하고 신문기사와 뉴스 등 데이터를 활용해 환각 현상을 완화했으며 이용자에게 AI 휴먼과 대화하고 있음을 나타내 사람으로 오인되지 않게 했다고 설명했다. 생성 AI가 딥페이크 등에 활용돼 사회 문제를 일으킬 수 있다는 우려에 대응해 AI를 활용한 생성물 탐지 기술 개발에 나섰다고 덧붙였다.