상단여백
HOME 이슈
허위정보 확산 막으려 도입된 '유튜브 정보패널', 음모론 확산시켰다기술과 해석적 유연성이 불러온 새로운 문제

라이딩계의 페이스북이라 불리는 기업이 있다. 스트라바(Strava)라는 이름의 이 실리콘 밸리 기업은 모바일앱을 통해 사용자의 운동 기록을 추적하고 경로를 데이터로 남긴다. 운동량을 계측해 지인들과 공유할 수 있는 것은 물론 다양한 분석과 기능을 통해 운동 욕망을 장려한다. 라이딩을 넘어 달리기, 마라톤 등 수천 만 명의 사용자 운동 기록을 이 앱을 통해 확인하고 자극을 받을 수 있다.

스트라바는 지난 2017년 11월, 사용자들이 세계 어느 곳을 가더라도 손쉽게 운동 공간을 찾을 수 있도록 도와주기 위해 운동 열지도를 공개했다. 이것이 화근이 됐다. 공개된 열지도에는 시리아, 아프가니스탄 등 해외 파견 미군의 활동 지역이 포함돼 있었다. 마음만 먹으면 해당 지역 미군이 활동한 경로와 지역, 부대의 위치 등을 얼마든지 파악해낼 수 있었다. 실제로 호주의 20대 연구자가 이 사실을 확인하고 위험성을 경고하기도 했다. 미 군당국도 심각성을 파악하고 운동 시 관련 앱 사용을 중단하라고 명령을 하달한 바 있다.

열지도 스트라바를 소개한 영국 가디언 기사 캡처.

이처럼 기술은 설계자의 의도와 다른 엉뚱한 결과를 초래한다. 기술이 사용되는 시간공간적 맥락, 해당 지역의 문화 등에 따라 기술 사용의 범위와 해석은 전혀 달라질 수도 있다. 이를 기술에 대한 광의의 ‘해석적 유연성’이라고 부른다. 동일한 기술적 인공물을 두고 다양한 사회적 집단은 그들이 터잡고 있는 상황적 맥락에 따라 다양한 의미를 부여하기 마련이다. 이 과정에서 새로운 기술이 탄생하기도 하고 의도하지 않았던 기술의 용도가 발견되기도 한다. 쉽게 말하자면 기술 수용과 활용의 의외성이 기술에 내재돼 있어, 기술의 진화 방향을 예측하기가 쉽지 않다는 이야기다.

허위 정보와 유튜브의 ‘정보 패널‘

지난 4월15일, 유튜브에 무척 곤혹스러운 사건이 발생했다. 허위정보와 음모론의 확산을 방지하기 위해 추가한 ‘정보 패널‘(information panel)이라는 기능이 애초 의도와는 정반대로, 음모론을 부추기는 역설적 결과를 불러온 것이다.

잠시 당일 사건의 흐름을 따라가 보자. 노트르담 성당 화재 사건이 발생한 4월15일, 프랑스 국제보도 전문 채널 ‘프랑스24’는 화재 현장을 유튜브로 생중계 하고 있었다. 전세계 수많은 유튜브 사용자들이 노트르담 성당의 화재를 참담한 심경으로 지켜보고 있을 때, 영상 하단에 ‘정보 패널’ 박스가 갑작스레 노출됐다. 제목은 ‘September 11 attack’, 9.11테러를 설명하는 브리태니커 사전의 설명문과 링크였다. ‘프랑스24’뿐만 아니다. 노트르담 성당 화재를 생중계했던 MSNBC 채널 등에도 해당 링크 박스가 부착됐다.

노트르담 성당 화재를 생중계라는 유튜브 채널 하단에 9.11 테러 설명이 붙은 모습. 출처: 니먼랩 기사

그 시점, 트위터에선 무슬림과 노트르담 성당 화재를 연결시키려는 '음모론'이 확산되고 있었다. 트위터 쪽도 재빠르게 관련 트윗과 계정을 삭제하며 차단에 나섰지만, 허위정보와 과거 테러 영상이 뒤엉키며 상황은 점점 더 악화될 무렵이었다. 페이스북에서도 음모론을 암시하는 포스트에 ’웃음(smile)’ 카운트가 높아지면서 오해는 더욱 증폭되던 순간이었다. 유튜브의 ‘정보 패널’은 이 타이밍에 9.11 정보 링크를 제시함으로써, 음모론의 확산을 부추기는 결과를 초래했다. 상황의 심각성을 확인한 유튜브는 신속하게 해당 정보 패널을 내리고, 사과문을 발표했다.

앞서 언급했다시피, 정보 패널은 음모론 확산에 제동을 걸고 팩트체크를 확대하기 위한 목적으로 고안된 기술이다. 지난 2018년 3월 발표된 뒤 서서히 적용 범위를 확대하려던 중이었다. 유튜브의 CEO 수잔 워지스키는 당시 SXSW 행사에 참석해 “음모론으로 볼 수 있는 무언가에 초점을 맞춘 비디오가 있을 때, 해당 사건에 대한 정보를 담고 있는 위키피디아를 가져와 함께 노출하겠다”고도 했다. 이처럼 ‘정보 패널’은 철저하게 음모론과 허위정보에 대응하기 위해 설계되고 개발된 장치였다. 하지만 지난 4월15일, 그들 기술의 선한 의도는 산산조각이 났다.

이 같은 결과를 불러온 1차적인 원인은 패턴 매칭 알고리즘의 취약성에 있다. 이 알고리즘은 노트르담 성당 화재 영상이 묘사하는 상황이 9.11 테러와 유사하다고 판단하고 ‘9.11 테러’를 관련 정보 패널로 제시했다. 미디어산업 전문 매체 ‘니먼랩’의 4월15일 보도를 보면, 유튜브는 지난 4월11일 스페이스X가 팰컨 헤비 로켓을 발사할 때도 해당 영상의 관련 정보 패널로 ‘September 11 attack’을 제안한 적이 있다. 이처럼 불안정한 알고리즘이 이러한 어처구니없는 사태를 불러왔다. 유튜브 쪽도 인정했다. 유튜브는 사과 성명에서 “이 정보 패널은 알고리즘으로 촉발됐고, 우리의 시스템은 때론 잘못된 호출을 만들기도 한다”고 했다.

다수의 사용자들은 당시 ‘유튜브의 알고리즘이 아직 성숙하지 않았구나’로 생각하고 가볍게 넘겼을 것이다. 하지만 특정 집단은 전혀 다른 태도로 두 정보의 조합을 해석하고 음모론을 확산시키는 데까지 나아갔다. 유튜브 권위에 대한 차별적 인식, 특정 집단이 지닌 연계 기억, 다른 소셜네트워크에서의 허위정보 확대 등이 개입하면서 의도하지 않은 해석을 만들어낸 것이다. 불과 4일 전 팰컨 헤비의 발사 때만 하더라도 이런 알고리즘 오류는 아무런 관심을 끌지도 않았다는 점을 상기해보라. 이렇듯, 기술은 그것이 놓여있는 상황과 맥락, 조합에 따라 전혀 다른 해석이 가능해지고, 새로운 문제를 야기할 수도 있다는 사실을 주목할 필요가 있다.

'그것'이 주는 메시지

기술에 대한 해석의 유연성과 사용의 의외성은 또다른 기술의 변형을 불러내기 마련이다. 기술이 지닌 사회적, 문화적 특성 때문이다. 이 사건은 기술이 모든 사회 문제를 해결할 수 있다는 기술결정론적 태도를 완화하거나 더 나은 해결방안을 탐색하는데 도움을 줄 수 있다. 한 단계 높은 수준의 기술 개발을 자극하는 계기로 작동할 것이다.

다만, 한 가지 유념해야 할 점이 있다면, 기술은 사회와 그리고 또다른 기술과 상호작용하면서 진화하고 성장한다는 사실이다. 따라서 기술 설계자는 사회에 대한 폭넓은 이해와 대화에 열려있어야 하며, 그들과 소통하는데 주저하지 않아야 한다. 이 사건은 기술의 완결성을 숭배하는 기술적 자만심에 경고 신호를 보낸 것이다. 더 정교하고 고도화된 알고리즘으로 음모론을 해결하려는 선의를 갖고 있더라도 그것을 수용하고 해석하는 사용자들의 의외성이 존재하는 한 이상적인 기술은 빚어지지 않는다. 기술 설계자들의 성찰적 태도가 반드시 필요한 이유다.

이성규 팩트체커는 저널리즘과 미디어, 그리고 비즈니스 모델을 고민하는 연구자이자 저널리스트이다. 오마이뉴스와 매일경제, 블로터에서 근무했고 메디아티 미디어테크랩장으로 미디어 창업을 도왔다. 저서로 <사라진 독자를 찾아서> <혁신 저널리즘> <트위터, 140자의 매직> 등이 있다.
이성규 팩트체커  dangun76@gmail.com  최근글보기
저널리즘과 미디어, 그리고 비즈니스 모델을 고민하는 연구자이자 저널리스트이다. 오마이뉴스와 매일경제, 블로터에서 근무했고 메디아티 미디어테크랩장으로 미디어 창업을 도왔다. 저서로 <사라진 독자를 찾아서> <혁신 저널리즘> <트위터, 140자의 매직> 등이 있다.

이성규 팩트체커  dangun76@gmail.com

<저작권자 © 뉴스톱, 무단 전재 및 재배포 금지>

이성규 팩트체커의 다른기사 보기
icon인기기사
기사 댓글 0
전체보기
첫번째 댓글을 남겨주세요.
여백
여백
여백
Back to Top