생성AI 스타트업 '업스테이지', 과기정통부 릴레이 간담회 첫 타자 낙점

박윤규 과기정통부 제2차관(오른쪽)이 15일 과기정통부 'AI 윤리·신뢰성 확보 릴레이 기업 방문' 첫 일정으로 업스테이지를 찾았다. 이활석 업스테이지 최고기술책임자(CTO·왼쪽)가 의견을 공유하고 있다. [사진=업스테이지]

정부가 인공지능(AI) 윤리·신뢰성 향상 방안을 논의하기 위해 생성AI 기반 챗봇 운영사인 업스테이지를 첫 타자로 방문했다.

박윤규 과학기술정보통신부 제2차관은 15일 경기 용인 소재 업스테이지 연구소를 방문해 생성AI 문제점인 환각 현상(할루시네이션)을 완화해야 한다는 등 AI 윤리의 중요성을 짚었다. 과기정통부의 'AI 윤리·신뢰성 강화를 위한 기업 릴레이 방문' 행사 일환이다. 업스테이지는 현장 방문 첫 번째 기업으로 선정된 바 있다.

이번 행사에는 최동원 과기정통부 AI기반정책과장, 이강해 한국정보통신기술협회 단장과 곽준호 팀장, 이활석 업스테이지 최고기술책임자(CTO), 한지윤 데이터팀 리더, 손해인 마케팅팀 리더 등도 함께 했다.

이활석 CTO는 이 자리에서 "챗GPT의 할루시네이션과 혐오 발언 등으로 인해 AI 윤리·신뢰성에 대한 논의가 가속화되고 있다"며 "민·관 논의 등 다양한 활동을 통해 AI 기술 발전에 필수인 윤리·신뢰성 확보를 위한 노력을 계속하겠다"고 말했다.

관련기사

• 업스테이지 'AI 4대 석학' 앤드류 응 교수와 LLM 강의 공개
• 권순일 업스테이지 부사장 "AWS 입점한 '솔라' 글로벌 기업 공략"

자체 문서 AI 솔루션인 '다큐먼트 AI 팩' 적용 시 개인 민감정보 유출 등을 막기 위한 목적으로 데이터 관리 대책을 세웠다고 설명했다. 또한 환각 현상을 줄이기 위해 아숙업에 '? 검색'을 도입하는 한편 개인정보 마스킹 처리, 부적절한 이미지 생성 요청 시 거절 및 출력 거부 조치 등 노력을 기울였다고 강조했다.

박윤규 제2차관은 "AI가 일상 속으로 빠르게 확산되고 있는 상황에서 기술 개발부터 활용의 전 단계에서 윤리와 신뢰성을 확보하는 것이 산업 발전의 전제 조건"이라며 "산업 현장에 방문해 업계 애로사항과 지원 필요 사항을 경청하고 AI 윤리·신뢰성 확산에 앞장서겠다"고 했다.