이 글은 주간경향에 게시된 칼럼의 초벌본입니다..


정치적 선동이 알고리즘 덕을 보고 있다. 그럴 듯한 음모론이 소셜미디어를 거치며 진실로 둔갑한다. 조작과 강제, 억압의 메커니즘을 따르지 않아도 된다. 선동의 주체는 바뀌지 않았지만 선동의 확산은 서서히 기계의 몫으로 넘어가고 있다. 이를 옥스퍼드의 한 연구팀은 컴퓨테이셔널 선동(Computational Propaganda), 혹은 자동화한 선동이라 부른다.

미국 플로리다 고교 총격 사고가 발생한 며칠 뒤. 미국의 일부 음모론자들은 데이비드 호그라는 17세 청년이 재난 전문 배우라는 검증되지 않은 루머를 퍼뜨리기 시작했다. 총기 규제론자들의 지원을 받았다는 확인되지 않은 정보까지 덧입혀 페이스북에 글을 남기고 유튜브에 영상도 올렸다. 이 콘텐츠는 얼마되지 않아 유튜브의 인기 영상 공간인 ‘트렌딩’ 코너에 배치됐다. 음모론이 사실로 둔갑하고 인기 콘텐츠로 돌변하는 순간이었다. 유튜브는 뒤늦게 이 영상을 삭제했지만 이미 수많은 사용자들이 돌려보고 공유하며 진실로 믿어버린 결과를 되돌려놓을 수는 없었다. 컴퓨테이셔널 선동의 대표 사례다.

유튜브 알고리즘의 핵심 ‘체류 시간’

컴퓨테이셔널 선동은 코드로 제작된 봇(bot)에 의해서도 추동되곤 한다. 지난 2월 초 유명 영화 비평가 리차드 로퍼가 시카고썬타임스로부터 일정 기간 동안 칼럼 집필권을 박탈당한 적이 있었다. 트위터 봇을 유료로 매입해 팔로어를 늘리고 자신의 영향력을 키워왔다는 혐의를 받아서다. 봇을 동원해 팔로어를 늘리는 행위는 은밀하게 횡행하는 ‘영향력 조작법’이다. 이미 많은 수의 미국 내 유명인사들이 이런 방식으로 자신의 이름값을 키웠다. 기계 봇을 동원해 공유를 늘려가는 행위는 플랫폼 사업자의 이해관계와 맞아떨어지면서 감시 영역에서 배제되기도 했다. 트위터가 이 사실을 알고도 쉬쉬했던 정황이 여러 차례 보도되기도 했다.

플랫폼 사업자의 이윤을 향한 욕망은 컴퓨테이셔널 선동을 부추기는 토대다. 유튜브의 알고리즘은 사용자들의 체류 시간을, 페이스북과 트위터는 공유와 리트윗이라는 인터렉션을 확대하는데 초점이 맞춰져있다. 내용의 진위도 고려되지만 어디까지나 이윤이라는 욕망의 부속요소일 뿐이다. 공유와 리트윗이 높은 콘텐츠는 체류 시간을 높여 광고주들의 입맛을 자극한다. 음모론에 휩쓸리는 경향성, 확증편향에 대한 의식적 의존성이라는 인간의 심리는 플랫폼의 알고리즘이 취약점을 드러내는 사각지대다. 내용의 진실성보다 체류 시간을 중심으로 설계된 알고리즘 앞에 음모론을 향한 인간의 내밀한 관심은 이것들의 미끼가 된다. 여기에 봇의 자동화한 선동이 결합되면 진실은 어느새 자취를 감추고 만다.

인용 저널리즘-추천 알고리즘의 시너지

더 위험한 건 컴퓨테이셔널 선동의 확장 고리에 저널리즘까지 힘을 보태는 경우다. 국내 언론처럼 정치인의 선동이나 검증되지 않은 발언을, 무분별하게 인용 보도하는 관습이 더해지면 컴퓨테이셔널 선동은 그야말로 권위의 훈장까지 부여받게 된다. 정치인의 의도된 거짓 선동에 봇의 지원, 플랫폼 사업자의 알고리즘이 컨베이어벨트 돌 듯 연쇄적으로 작동하게 되면, 걷잡을 수 없는 사회적 위험으로 커져나갈 수밖에 없다. 이미 국내 포털의 댓글은 이 연쇄작용의 테스트베드가 되고 있다.

컴퓨테이셔널 선동의 감시는 더 이상 인간의 손으로 다룰 수 없는 문제가 됐다. 기계의 작동은 기계적 감시 기법으로 해결할 수밖에 없다. 데이터 생성 과정을 이해하지 못하고, 알고리즘의 작동 원리를 외면한 채로 감시 체계를 구축하기란 어려워졌다. 정치의 계절이 다가오고 있다. 봇으로 무장하고 알고리즘에 편승한 정치적 선동이 활개를 칠 수 준비는 끝났다. 극단적 분열에 가까운 사회적 심리 상태도 마련됐다. 한국은 컴퓨테이셔널 선동이 만개할 수 있는 최적의 시공간에 직면해있다. 남은 건 사회적 감시의 기술적 진화이며 새로운 감시 주체의 등장이다.