사람보다 글 더 잘쓰는 AI 나왔지만 출시 금지된 이유는?

[사진=아이클릭아트]

미국에서 새로 개발된 인공지능(AI) 시스템이 글쓰기가 너무 뛰어나 악용될 우려 때문에 출시하지 않을 것이라고 밝혔다고 미 CNN 등 외신이 18일(현지시간) 보도했다.

테슬라 CEO인 일론 머스크와 마이크로소프트 등이 후원하는 비영리 AI 연구기업인 '오픈AI'가 개발한 시스템은 프롬프트(컴퓨터가 제시하는 메시지)에 대한 회신 한장을 작성할 수 있다. 공상 산문에서 가짜 유명인사 뉴스, 숙제에 이르기까지 모든 걸 모방할 수 있다.

이번 시스템은 오픈AI가 지난해 출시한 문서 작성 시스템에 기반을 두고 있다.

오픈AI의 당초 목표는 AI가 제시된 단어들을 고려해 문장으로 다음 단어를 만들어내는 것이었다. 이를 위해 AI는 800만 웹페이지로 훈련을 받았다.

관련기사

• 삼성전자, 반도체 테크 세미나 개최… 협력사 상생협력 앞장
• IBK기업은행 "IBK창공 하반기 프로그램 데모데이 개최"

지난주 오픈AI가 온라인 게시한 결과물은 컴퓨터 작성 문서가 얼마나 설득력이 있는지를 보여준다.

비록 가짜이지만 여러 면에서 AI가 만들어 낸 설득력 있는 영상·음성 파일 조작 기술의 문서 작성 버전으로 들린다.

오픈AI 연구원은 '반지의 제왕' 스타일로 '레골라스와 김리가 무기를 들고 함성을 지르며 오크 족을 향해 진격한다'는 내용의 프롬프트를 시스템에 입력했다.

AI는 이에 대해 '오크족의 대응은 귀를 먹먹하게 하는 맹공이었다. 엘론드조차도 물러설 수밖에 없었다. 김리는 "안심해라, 난쟁이"라고 말했다. 김리는 오크족을 공격하는 선두에 있었다'며 적절히 폭력적인 내용을 추가한 글을 만들었다.

오픈AI의 정책 디렉터인 잭 클라크는 "AI가 반응을 보이는 방식이 아주 묘하다"고 말했다.

AI 기술이 일상생활에서 다양하게 활용될 수도 있지만, 위험한 목적에 악용될 가능성도 존재한다. 가짜인데 진짜처럼 들리는 뉴스나 소셜미디어 포스트를 생산하는 일에 이용될지 모른다는 우려가 나온다.

오픈AI는 이번에 개발된 AI 시스템은 기술의 악용에 대한 우려 때문에 출시하지 않기로 했다고 말했다.