"초 단위로 AI PC가 스크린샷"…영국, MS 코파일럿+PC 조사
2024-05-22 10:53
'리콜' 기능 문제 삼아…이용자 활동 끊임없이 스캔
파일·사진·이메일·검색기록 등 모든 활동 저장
영상통화 등 상대방 저장 동의 여부는?
EU, 최초 AI 규제법 내달 발효…세계로 확산하나
파일·사진·이메일·검색기록 등 모든 활동 저장
영상통화 등 상대방 저장 동의 여부는?
EU, 최초 AI 규제법 내달 발효…세계로 확산하나
영국 당국이 마이크로소프트(MS)의 인공지능(AI) PC와 관련해 개인정보 침해 가능성을 들여다보고 있다. 초 단위로 노트북 화면을 찍어 이용자의 활동 하나하나를 저장하는 AI PC가 개인정보 침해로 이어질 수 있다는 우려다.
22일(현지시간) BBC에 따르면 영국 개인정보 보호 감독 기구인 정보위원회(ICO)는 MS의 ‘코파일럿+(플러스) PC’의 안전성 문제와 관련한 추가 정보를 MS에 문의했다.
MS가 전날 공개한 코파일럿+ PC는 생성형 AI 구동에 최적화된 고성능 PC다. 사티아 나델라 MS CEO는 “컴퓨터가 우리를 이해할 뿐만 아니라 우리가 원하는 의도를 예측할 수 있는 새 시대로 진입하고 있다"며 차세대 AI PC를 통해 애플에 빼앗긴 PC 시장을 재탈환할 수 있다는 자신감을 드러냈다.
이러한 리콜 기능을 통해 이용자들은 과거 자신이 봤던 이미지나 영상 등을 손쉽게 찾을 수 있다고 MS는 강조한다. 예컨대 이용자가 “최근에 조와 함께한 영상통화를 찾아줘. 조는 그때 ‘아이러브 뉴욕’ 커피 컵을 들고 있었어”라고 명령하면 리콜은 해당 파일을 바로 찾는다.
IOC는 리콜 기능이 개인정보 침해로 이어질 수 있다는 우려가 잇따르는 만큼, 안전성이 갖춰졌는지 여부를 파악할 수 있는 추가 정보를 MS에 요청한 상태다. 또한 영상통화를 한 상대방이나 사진에 찍힌 불특정 다수 등으로부터 파일 저장 동의는 어떻게 얻을 것인지 등도 문의한 것으로 전해진다.
전문가들은 기기를 사용하는 동안 끊임없이 스크린샷이 찍힌다는 사실만으로도 이용자들이 오싹함을 느낄 수 있다고 봤다. 또한 기업들 역시 AI PC에 기업의 기밀 정보 등이 남는 것을 반기지 않을 것이란 의견도 나온다. PC 비밀번호를 취득하는 순간 이용자에 대한 정보를 손쉽게 얻을 수 있는 점도 문제로 거론된다.
한편, 유럽 내에서는 AI를 규제해야 한다는 목소리가 거세지고 있다. 유럽연합(EU)은 이날 세계 최초 AI 규제법을 최종 승인했다. 내달부터 EU 역내에서 정식 발효되며, 발효 6개월 뒤부터 금지 대상 AI 규정이 우선 시행된다. 전면 시행 시점은 2026년으로, 이 규제가 세계 AI 규제의 기준점이 될 것이란 전망이 나온다.
EU는 AI 규제를 통해 의료, 교육, 선거 등 고위험 등급으로 분류된 분야에서 AI를 활용할 경우 사람이 반드시 해당 AI 시스템을 감독하도록 했다. 또한 공공장소에서 생체 인식 데이터 사용 등 일부 AI 기술 활용은 원천 금지된다. 법을 위반한 기업에 대해서는 전 세계 매출의 최대 7%에 해당하는 벌금 등을 부과할 수 있다.