가짜뉴스 '핀셋' 검증...KISO, 딥페이크 기반 허위조작정보 대응 강화

2024-03-16 22:00
  • * AI기술로 자동 요약된 내용입니다. 전체 맥락과 내용을 이해하기 위해서는 기사 본문 전체를 보시길 권장합니다

    한국인터넷자율정책기구(KISO)가 최근 사회적 이슈로 떠오르고 있는 '딥페이크에 의해 생성된 허위조작정보'에 대응하기 위한 논의에 착수했다.

    또 선거 관련 허위 정보 신고 채널 운영과 서비스 내 딥페이크 주의 안내 문구를 표시해 이용자의 주의를 환기할 예정이다.

    이재신 KISO 신기술위원회 위원장은 "온라인 환경에서 사실로 오인 가능한 허위조작정보가 확산되면 사회 신뢰를 저하시키고, 수많은 콘텐츠의 진위를 판별하는 것이 더욱 어려워질 수 있다"며 "AI 기술 오남용으로 인한 사회적 문제에 대응하기 위한 연구를 활성화 해나갈 것"이라고 말했다.

  • 글자크기 설정

위법 게시물 관련 관계기관과 긴밀히 협력

D
한국인터넷자율정책기구(KISO) CI [사진=KISO]

한국인터넷자율정책기구(KISO)가 최근 사회적 이슈로 떠오르고 있는 ‘딥페이크에 의해 생성된 허위조작정보’에 대응하기 위한 논의에 착수했다. 

16일 KISO에 따르면, KISO 산하 신기술위원회는 최근 열린 회의에서 딥페이크 등 인공지능(AI) 기술 오남용 문제와 관련해 회원사들의 대응 현황을 공유하고 향후 대책을 논의했다. 학계 전문가들로 구성된 신기술위원회에는 네이버와 카카오를 비롯해 심심이·스캐터랩·튜닙 등 챗봇서비스 업체가 참여하고 있다.
신기술위원회는 특히 4월 국회의원 선거를 앞두고 딥페이크 기술을 이용한 허위조작정보가 확산할 가능성을 예의주시하며 구체적인 사례를 수집·분석하기로 했다. 또 설문조사 등 이용자의 의견을 수렴한 후 자율규제 측면에서 적절한 대응책을 마련해 나가기로 했다.

KISO는 선거의 공정성을 확보하기 위해 중앙선거관리위원회와 협력해 딥페이크 영상을 이용한 허위조작정보에 대해 명확히 확인된 경우, 빠르게 조치할 계획이다.

네이버는 신고센터 메인 페이지에 △선거 관련 허위정보 △딥페이크 생성물에 신고 영역을 신설해 이용자들이 최대한 거르고 대처할 수 있는 체계를 마련했다. 또 블로그, 카페 등에서 동영상을 게시하거나 딥페이크 관련 검색어 입력 시 딥페이크 활용에 관한 주의·안내 문구를 제공해 이용자를 보호하고 있다. 이 밖에도 뉴스 서비스에서는 AI 로봇이 생성한 기사를 이용자가 인지하도록 기사 본문에 해당 사실의 표기를 강조하고 있다.

카카오는 이용자들이 스스로 쉽게 AI 저작물을 파악하는 데 도움이 되는 방향으로 정책과 기술적 조치 방안을 마련했다. 카카오는 언론사에서 AI를 이용해 생성한 기사 상단에 “AI가 생성한 기사입니다”라고 노출해 이용자가 쉽게 인지할 수 있도록 했다.

생성 AI 이미지 생성 모델 ‘칼로’에는 비가시성 워터마크를 부착하는 기술을 도입했다. 또 키워드 검색, 배너 등을 활용한 캠페인을 통해 이용자의 주의를 환기하고, 딥페이크 신고 요령 등을 자세히 안내할 예정이다.

SK컴즈는 ‘AI챗’ 서비스를 이용한 이미지 생성 시 주요 정치인의 성명에 관한 ‘검색어 제한 조치’를 통해 선거 관련 딥페이크 제작을 방지하는 방안을 마련한다. 또 선거 관련 허위 정보 신고 채널 운영과 서비스 내 딥페이크 주의 안내 문구를 표시해 이용자의 주의를 환기할 예정이다.

이재신 KISO 신기술위원회 위원장은 “온라인 환경에서 사실로 오인 가능한 허위조작정보가 확산되면 사회 신뢰를 저하시키고, 수많은 콘텐츠의 진위를 판별하는 것이 더욱 어려워질 수 있다”며 “AI 기술 오남용으로 인한 사회적 문제에 대응하기 위한 연구를 활성화 해나갈 것”이라고 말했다.

©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지

0개의 댓글
0 / 300

로그인 후 댓글작성이 가능합니다.
로그인 하시겠습니까?

닫기

댓글을 삭제 하시겠습니까?

닫기

이미 참여하셨습니다.

닫기

이미 신고 접수한 게시물입니다.

닫기
신고사유
0 / 100
닫기

신고접수가 완료되었습니다. 담당자가 확인후 신속히 처리하도록 하겠습니다.

닫기

차단해제 하시겠습니까?

닫기

사용자 차단 시 현재 사용자의 게시물을 보실 수 없습니다.

닫기
공유하기
닫기
기사 이미지 확대 보기
닫기
언어선택
  • 중국어
  • 영어
  • 일본어
  • 베트남어
닫기