[뉴스 깊이보기]‘대테러 전선’ 구축한 소셜미디어들...AI ‘머신러닝’으로 테러 막을까

공격에 참여할 사람을 모집하고, 폭력을 미화해 독려하며, 범죄를 생중계한다. 전 세계를 연결한 소셜미디어는 테러마저 공유하게 됐다. 페이스북과 트위터, 유튜브, 마이크로소프트(MS)가 공동 전선을 구축해 테러리즘과의 고리를 끊어보기로 했다. 페이스북 등은 26일(현지시간) ‘대(對)테러 글로벌 인터넷 포럼’을 설립해 소셜미디어에 올라오는 테러 모의와 극단주의 관련 게시물을 차단하는데 대응하기로 했다고 밝혔다.

　

우선 이미 지난해 합의한 콘텐츠의 지문, 해시 테이터베이스를 공유한다. 유튜브에서 찾은 테러 관련 영상을 발견하면 트위터, 페북에서도 찾아내 바로 삭제하는 것이다. 인공지능(AI)이 스스로 자료를 축적해 익히는 머신러닝 기술을 이용, 테러와 관련된 정보를 구분하고 찾아내는 시스템도 같이 개발한다. 대형 4개 IT기업과 유엔의 대테러위원회와 각국 정부, 학계와 협력하는 형태로 시작해 향후에는 소규모 업체들도 참여할 수 있도록 문을 열 계획이다.

　

페이스북이 지난 4월 미국 샌프란시스코에서 연 연례 개발자 컨퍼런스 ‘F8 2017’ 행사장. _ AP

소셜미디어들의 이런 움직임은 최근 테러 양상에 따른 것이다. 그동안은 이슬람국가(IS) 등 조직 단위로 대규모 공격이 이뤄졌지만 이제는 유럽 대도시에서 차량과 흉기를 이용해 일반 시민들의 일상을 파괴하는 것이 테러의 대표적인 수법이 됐다. 

　

이 과정에서 소셜미디어는 범행 수범을 공유하고 가담자를 모으며 실행하는 역할을 하게 됐다. 각국 정부는 소셜미디어가 사전에 이들 모의를 적절히 처리해야 한다고 압박하고 있다. 올들어 네 차례나 도심에서 테러가 발생한 영국은 테러리즘을 선전하는 동영상과 이미지 등에 대해 삭제 등 충분한 조치를 취하지 않는 IT 플랫폼을 단속하겠다고 밝혔고 프랑스는 벌금 등 법적 책임을 부과할 방침이다.

그러나 소셜미디어가 자체 차단막을 강화해 삭제되거나 차단되는 게시물이 늘어날 것을 우려하는 목소리도 있다. 지난해 페이스북이 정부에 대한 저항운동을 주도한 카슈미르와 파키스탄 학자와 언론인들의 계정을 검열하면서 윤리적 논란이 휩싸인 것처럼 또다른 정부의 탄압이 될 수도 있다. 영국의 싱크탱크 데모스의 칼 밀러 검색총괄담당은 “(정부와 소셜미디어의) 끔직한 결속”이라며 “업체들은 전혀 기대하지도 않았으며 오히려 없는 것이 나았을 책임, 권력을 발견할 것”이라고 가디언에 말했다.

 

테러 게시물을 찾아내는 작업을 규적화해 인공지능(AI)이 삭제하는 시스템을 갖추더라도 언어와 문화별 미묘한 차이를 기계가 잡아내기는 불가능하다. 밀러는 “일정 기준을 만들려고 하겠지만 인간의 언어는 (기준대로) 그렇게 작동하지 않는다”고 덧붙였다. 아직까지 ‘수작업’으로 이뤄지는 검열의 신뢰도도 의문이다. 페북은 4500명의 운영팀이 매월 1억건 이상을 검토하는 것으로 알려졌다. 약 10초에 한 건씩 게시물의 적합성을 판단하고 있는 셈이다.

　

앞서 인종·민족·종교, 성정체성 등을 직접 공격하는 글, 테러활동에 참가를 유도하는 게시물 등은 삭제한다는 기준을 마련한 페이스북의 마크 저커버그 최고경영자(CEO)는 “(자체)기준과 현지법에 따라 게시물 등을 차단하고 있지만 우리의 희망은 공유의 제한은 최소화돼야 한다는 것”이라고 밝혔다.