페이스북, AI로 자살 예방 기능 강화한다
2017-11-28 10:54
페이스북이 인공지능(AI) 기술을 이용해 자살 예방 및 대응 역량을 강화하는 업데이트를 도입한다고 28일 밝혔다.
페이스북은 이를 통해 페이스북 내에서 자살 징후를 효율적으로 감지하고, 빠르게 대응할 수 있게 됐다.
이번 업데이트는 AI ‘패턴인식’ 기술을 기반으로, 페이스북 게시글과 라이브 방송의 텍스트를 분석해 자살 신호를 자동으로 감지한다.
예컨대, 게시글이나 댓글에 “괜찮아?”, “내가 도움 줄 수 있는 부분이 있을까?” 같은 표현이 있다면 자살 징후가 높은 글로 분류해 담당자에게 알리게 된다. 기존에 사람이 직접 했던 자살 암시 콘텐츠 신고 접수에 AI 기술을 더해 빠르고 효과적으로 자살을 막을 수 있다.
콘텐츠를 검토하는 직원들의 신속한 대응에도 AI가 사용된다. 신고가 접수된 콘텐츠에 우선순위를 매기고 자살 신호로 판단되는 부분을 선별해 담당자에게 알린다. 접수 내용을 파악하고, 유관기관에 신고해 조치를 취할 수 있도록 하는데 소요되는 시간을 단축시킬 수 있다.
페이스북은 10년이 넘는 기간 동안 자살 예방에 공을 들여왔다.
다양한 전문가들의 의견을 수렴해 만든 ‘자살 예방 도구’가 그 대표적인 예다. ‘자살 예방 도구’는 지인의 게시물이 자살을 암시하는 내용을 담고 있을 때, 친구들이 해당 내용을 직접 신고해 당사자가 적절한 도움을 받을 수 있도록 돕는다. 신고가 접수되면 24시간 전담팀이 검토해 자살 징후를 판단하고 당사자의 화면에 자살을 피할 수 있는 다양한 방법을 전달하며, 경우에 따라서는 유관기관에 직접 연락을 취하기도 한다.
국내에서는 중앙자살예방센터, 보건복지부 보건복지콜센터, 정신건강증진센터 정신건강위기 상담전화 등의 여러 단체와의 협력을 통해 더욱 효과적으로 자살을 막을 수 있는 다양한 방법을 지속적으로 논의 중이다.
페이스북은 이를 통해 페이스북 내에서 자살 징후를 효율적으로 감지하고, 빠르게 대응할 수 있게 됐다.
[사진=한준호 기자]
이번 업데이트는 AI ‘패턴인식’ 기술을 기반으로, 페이스북 게시글과 라이브 방송의 텍스트를 분석해 자살 신호를 자동으로 감지한다.
예컨대, 게시글이나 댓글에 “괜찮아?”, “내가 도움 줄 수 있는 부분이 있을까?” 같은 표현이 있다면 자살 징후가 높은 글로 분류해 담당자에게 알리게 된다. 기존에 사람이 직접 했던 자살 암시 콘텐츠 신고 접수에 AI 기술을 더해 빠르고 효과적으로 자살을 막을 수 있다.
콘텐츠를 검토하는 직원들의 신속한 대응에도 AI가 사용된다. 신고가 접수된 콘텐츠에 우선순위를 매기고 자살 신호로 판단되는 부분을 선별해 담당자에게 알린다. 접수 내용을 파악하고, 유관기관에 신고해 조치를 취할 수 있도록 하는데 소요되는 시간을 단축시킬 수 있다.
페이스북은 10년이 넘는 기간 동안 자살 예방에 공을 들여왔다.
다양한 전문가들의 의견을 수렴해 만든 ‘자살 예방 도구’가 그 대표적인 예다. ‘자살 예방 도구’는 지인의 게시물이 자살을 암시하는 내용을 담고 있을 때, 친구들이 해당 내용을 직접 신고해 당사자가 적절한 도움을 받을 수 있도록 돕는다. 신고가 접수되면 24시간 전담팀이 검토해 자살 징후를 판단하고 당사자의 화면에 자살을 피할 수 있는 다양한 방법을 전달하며, 경우에 따라서는 유관기관에 직접 연락을 취하기도 한다.
국내에서는 중앙자살예방센터, 보건복지부 보건복지콜센터, 정신건강증진센터 정신건강위기 상담전화 등의 여러 단체와의 협력을 통해 더욱 효과적으로 자살을 막을 수 있는 다양한 방법을 지속적으로 논의 중이다.