“모디 정책은 파시스트적”이란 제미나이 답변에 화들짝 놀란 구글이 선거 관련 질문을 아예 제한하기로 했다. 대선 관련 질문을 받으면 제미나이는 “구글에서 검색해 보라”는 형식적 답변을 하게 된다.

올해 전 세계에서 굵직한 선거가 잇달아 열리는 가운데 생성형 인공지능(AI)이 가짜 정보의 진원지로 지목되자, AI 기술을 주도하는 빅테크 기업들이 뭇매를 맞고 있다.
  구글은 12일(현지시간) 블로그를 통해 "이용자들이 제미나이 챗봇에 물어볼 수 있는 선거 관련 질의 유형을 제한할 것"이라며 "올봄 선거가 있는 인도에서는 이미 시행했다"고 밝혔다.
 
구글은 "중요한 문제에 대한 경계심을 높이기 위해 제미나이가 답변할 선거 관련 질의 유형에 대한 제한 조치를 시작했다"며 "이런 질의에 대해 양질의 정보를 제공할 책임을 무겁게 받아들이고 있다"고 설명했다.
 
이번 결정은 이른바 '파시스트' 논란에 따른 것으로 보인다. 인도 한 언론인이 “모디는 파시스트인가”라는 물음에, 제미나이가 “모디는 일부 전문가들이 파시스트로 규정한 정책을 실행했다는 비난을 받는다”고 답한 이미지를 소셜미디어(SNS) 엑스(X)에 올리며 논란이 불거졌다. 제미나이는 “인도 여당인 인도국민당(BJP)이 힌두 민족주의 이데올로기, 반대 의견에 대한 탄압, 소수 종교를 향한 폭력 등을 행했다”며 이를 파시스트 정책의 사례로 꼽았다.
 
모디 총리 지지자들은 물론이고 인도 정부 고위 관료들은 구글이 편견을 부추기고 있다며 분노를 표출했다. 제미나이가 모디 총리와 달리 도널드 트럼프 전 미국 대통령에 대해서는 “선거는 정보가 빠르게 변하는 복잡한 주제”라며 “정확한 정보를 얻으려면 구글 검색을 사용하라”라고 차별적으로 답한 것이 알려지며 분노의 물결은 더욱 거세졌다.
 
파시스트 사태 직후 인도 당국은 ‘신뢰할 수 없거나 시험 중인’ AI 도구를 이용자들에게 공개하기 전에는 정부 승인을 받도록 명령하는 등 빅테크를 압박했다.
 
전문가들은 올해 지구촌 '선거의 해'를 맞아 정치권과 기술 기업 간 갈등이 더욱 심화할 것으로 봤다. 일부 전문가들은 AI의 신뢰성에 의문을 제기했다. 다니엘 수서 코넬대 교수는 "구글의 생성형 AI 도구가 민주적인 선거와 관련해 정보를 전달하는 데 있어서 신뢰할 수 없는 수준이라면, 건강이나 금융 정보는 왜 신뢰해야 하냐"고 가디언에 말했다.
  AI가 만들어낸 가짜 이미지 등이 선거에 혼란을 줄 수 있다는 우려가 커지자, 빅테크들은 허위 정보를 막기 위해 AI가 생성한 이미지에 출처 등 라벨을 붙이는  워터마크를 도입하고 있다.
 
그러나 IEEE(미국전기전자공학회)가 발간하는 학술 전문지 IEEE스펙트럼에 실린 한 연구는 메타가 이미지에 붙인 워터마크를 제거하는 데 단 2초도 걸리지 않은 점을 지적하며, 빅테크들의 노력이 ‘매우 허술하다’고 비판했다.
 
일부 대선 캠프가 의도적으로 딥페이크 이미지를 퍼뜨리고 있다는 의혹도 나온다. BBC는 트럼프 전 대통령 지지자들이 생성형 AI로 트럼프 전 대통령과 흑인 유권자들이 함께 있는 가짜 이미지를 만들어 온라인에 유통하고 있다고 보도했다. BBC는 “이들 이미지가 트럼프 선거 캠프와 직접 연관돼 있다는 증거는 없다”면서도 미국 보수계 라디오 진행자 마크 케이가 가짜 이미지를 만들어 SNS에 이를 사실인 양 올리는 등 흑인 유권자들을 의도적으로 속이려는 의도가 다분하다고 지적했다.
 
뉴욕타임스(NYT)와 시에나 칼리지의 여론조사에 따르면 6개 주요 경합 주에서 흑인 유권자의 71%가 올해 바이든 대통령을 지지하겠다고 답했다. 지난 미국 대선에서는 흑인 유권자 92%가 바이든 대통령을 지지했었다.