차상균 교수 "AI에게 원전 맡길 수 없어"... AI 신뢰 위한 감사 시스템 제안

차상균 서울대 전기정보공학부 교수(서울대 빅데이터연구원 초대원장).[사진=아주경제DB]

"신뢰할 수 있는 인공지능(AI)이 필요하다. AI 시스템에도 감사 기능을 도입해야 한다."

차상균 서울대 전기정보공학부 교수(서울대 빅데이터연구원 초대원장)가 AI 시대를 맞아 AI 관리·감독의 중요성을 강조했다.

8일 AI 업계에 따르면, 차 교수는 지난 6일 광주광역시 김대중컨벤션센터에서 열린 '2019 빛가람국제전력기술엑스포(BIXPO 2019)'의 기조연설에서 "AI는 인간과 달리 아직 명시적인 지식구조가 없고 설명이나 합리적인 추론이 불가능하다. 원자력 발전, 자율주행차 등 정말 중요한 상황에서 AI를 믿고 활용할 수 있는지 의문"이라고 말했다.

이어 "편향된 데이터를 입력하면 AI 역시 편향된 결과를 내놓을 수밖에 없다. AI 시스템에 문제가 발생했을 때 이를 확인할 수 있는 감사 기능이 필요하다"고 전했다.

관련기사

• ②비전 부재 후폭풍···흔들리는 삼성 '초격차'
• "유망 AI 인재 해외로"…서울대 데이터사이언스 대학원, 생성AI 혁신 직접 가르친다

차 교수는 AI 시대를 맞아 인재육성의 중요성을 강조했다. 알파고를 개발한 구글 딥마인드에는 1000명이 넘는 전문가가 AI를 연구 중이며, 이들의 평균 연봉은 50만달러에 달한다. 국내에서도 AI 인재 육성의 중요성을 강조하지만, 이처럼 장기적인 관점에서 많은 금액을 투자하지는 않고 있다는 것이 차 교수의 지적했다. 차 교수는 구글이 바둑을 넘어 의료, 제약 등에 진출하고 있는데, 이를 좌시하면 의료마저 구글에 의존하는 세상이 올 수도 있다고 경고했다.

이러한 미국 주도의 AI 패권에 대응하기 위해 중국, 독일, 프랑스 등이 국가 주도의 AI 관련 연구개발 정책을 수립, 시행 중이다. 예를 들어 독일은 AI 관련 교수직을 200명 넘게 마련할 계획이다.

마지막으로 차 교수는 "한국전력의 세계 최고 수준 전력 인프라와 한국의 정보통신과 반도체 기술 역량을 결합한 융합사업을 고민할 시점"이라며, "지능형 반도체 등 한국의 강점을 살린 AI 기술 개발이 필요하다"고 말했다.