[표지이야기]페이스북 10년 ‘위험한 실험’ 이번뿐일까

2012년 1월 일주일간 진행된 ‘감정 전염 실험’ 논문이 공개되면서 SNS이용자들 경악… 부사장은 “사과”, 연구당사자는 “문제될 것 없다”… 전문가들 “병원에서 환자에게 약에 대해 알리지 않고 처방한 격”… 국가든 사기업이든 데이터 통제와 소유, 활용에 관한 제2의 사회적 계약 필요

스탠리 큐브릭 감독의 영화 <시계태엽 오렌지>(A ClockWork Orange·1971)에는 이런 대목이 있다. 주인공 알렉스는 윤간살해 혐의로 14년형을 받는다. 교도소에 복역 중인 그를 방문한 내무부 장관은 그에게 실험 참여를 제안한다. 딱 2주만 어떤 요법을 받으면 사회로 나올 수 있다. 루드비코 요법이다. 장치에 결박된 알렉스는 강제로 눈을 뜨고 폭력적인 장면을 보게 된다. 폭력과 그가 좋아했던 베토벤 9번 교향곡이 들리면 조건반사적으로 구토를 일으키게 되는 것이다. 사회로 나왔으나 폐인으로 살아가는 알렉스. 결국 자신에게 실험을 제안했던 내무부 장관이 와서 사과한다. 영화의 마지막 장면에서 그는 중얼거린다. “나는 완전히 치유되었어.” 그는 정말 치유되었던 것일까.

페이스북 감정조작 실험 파문은 어떻게 결론이 날까. 지난 6월 11일(현지시간), 한 남자가 캘리포니아 멘로파크에 있는 페이스북 캠퍼스의 한 사무실 앞을 지나가고 있다. AP/연합

페북 사용자 68만9003명 감정조작 실험
한 편의 논문이 세상을 경악시켰다. ‘소셜네트워크를 통한 대량 감정 전염의 실험적 증빙’이라는 제목이다. 세계 정상급 학술지인 미국 국립과학원 회보(PNAS)에 지난 6월 17일 게재된 논문이다. 논문의 내용은 페이스북에서 이뤄졌던 어떤 ‘실험’에 대한 것이다.(논문의 제목에 ‘experimental’이라는 말이 들어 있음에도 불구하고, 페이스북 측은 <주간경향>에 보내온 답변서에 ‘연구’라고 여러 차례 강조했다) 지난 2012년 1월 11일부터 18일까지 딱 일주일간 진행한 실험이다.

실험은 이렇게 설계되었다. 페이스북을 사용하지 않는 사람이라면 잘 모르겠지만, SNS 서비스 페이스북에 접속하거나 내부에서 홈 버튼을 누르면 페이스북에서 관계를 맺은 지인들이 쓴 이야기들이 올라온다. 이걸 ‘뉴스피드’라고 한다. 논문 작성자들은 페이스북 사용자 68만9003명의 페이스북 페이지에 올라온 뉴스피드에서 부정적인 혹은 긍정적인 단어가 언급된 게시물을 빼는 형태로 조작했다. 그 결과, 사용자들이 올리는 글의 ‘반응’도 전체적인 뉴스피드 분위기가 부정적이면 부정적으로, 긍정적이면 긍정적으로 바뀌는 것을 ‘발견’했다. 3명이 공동으로 작성한 논문의 주 저자는 페이스북 데이터사이언스팀에 근무하는 아담 크래머다. 논란이 확산되자 그는 자신의 페이스북에 해명 글을 올려 “어떤 사람의 게시물도 감춰지지 않았고, 그 사람 자신의 타임라인에 들어가면 다 남아 있다”며 “실험은 조심스럽게 진행되었고, 페이스북 내부에서 검토절차를 거쳐 이뤄졌던 것”이라고 주장했다.

그런데 이 연구가 아무런 문제가 없다는 주장은 맞을까. 이원재 카이스트 문화기술대학원 교수는 “일반적인 조사연구(research)와 실험은 차원이 다른 문제”라고 말한다. “같은 감정분석이라고 하더라도 조사연구라면 원자료(raw data)를 모아 패턴을 분석하는 것이다. 이 경우 통제할 수 없는 변수가 너무 많다. 흔히 대학에서 지원자를 모아 심리학 실험을 하는 것은 그 통제변수를 덜어내는 편리성 때문이다. 윤리적인 문제를 고려하지 않는다면 할 수 있는 실험은 많다. 한계가 있으니 안 하는 것일 뿐이다. 페이스북의 이번 실험을 비유적으로 본다면, 병원에서 환자에게 약에 대해 알리지 않고 처방한 것과 같다. 더 비슷하게 예를 든다면 정신과 의사가 환자의 감정 변화를 보기 위해 일부러 우울한 방향으로 상담을 했다고나 할까.”

한상기 소셜컴퓨팅연구소 대표는 “감정이 전염되는 과정에서 위험성을 참여한 학자들이 생각하지 못했다면 납득할 수 없다”며 이렇게 덧붙였다. “위험한 상상이지만 이를테면 연구 결과를 응용해서 미국 국가안보국(NSA)이 페이스북 사용자 중 자국의 적성국가 사용자들의 타임라인 정보를 필터링해 무기력한 모습을 보이도록 교묘하게 유도한다고 생각해보라. 얼마나 끔찍한 일인가.”

정보감시시민단체, FTC에 페이스북 제소
아담의 해명 글과 미국 국립과학원 회보에 공개된 논문에 달린 댓글에 실제로 그런 비난이 쏟아졌다. 논문 공동 저자 중 한 명이 재직하고 있는 코넬대학의 대학신문인 코넬 크로니클은 논란이 확산되기 전인 지난 6월 10일 이 연구 결과를 소개하는 기사 말미에 “이 연구는 제임스 S.맥도널 재단과 미국 육군조사연구소(army research office)의 지원으로 이뤄졌다”고 덧붙였었다. 논란이 확산되자 코넬 크로니클 측은 “해당 연구는 아무런 외부 지원 없이 수행된 것”이라며 해당 부분을 삭제했다.

국립과학원 회보의 논문에 대해 많은 사람들이 논문의 윤리적 문제에 대해 의문을 제기하며, 인간을 대상으로 하는 실험을 엄격히 한정짓고 있는 헬싱키 선언을 위반한 것이 아니냐고 문제제기 하고 있다. 특히 교직원이 공동연구자로 참여하고 있는 코넬대학 측에 “생명연구윤리심의위원회(IRB) 차원의 검토가 제대로 이뤄졌느냐”며 입장 표명 요구가 쏟아지고 있다. 이와 관련해서는 폭로전이 벌어지고 있다. “논문이 작성되는 과정에서 특별한 문제는 없었다”는 것이 현재까지 코넬대학의 공식 입장이다. 코넬대학교의 한 IRB 멤버는 미국 언론 아틀랜틱에 7월 4일 “사전에 다 결정된 형태로 위에서 내려왔다”고 밝혔다.

스캔들은 일파만파로 번지고 있는 중이다. 월스트리트저널은 7월 2일(현지시간) 페이스북의 데이터사이언스팀에 근무했던 IT전문가 앤드루 레드비나를 인터뷰해 페이스북 내에서 실험이 “누구의 통제도 받지 않고 무제한적으로 이뤄지고 있었다”고 보도했다. 7월 4일, 레드비나는 “월스트리트저널의 기사는 자신의 발언 맥락을 왜곡했다”며 자신과 월스트리트저널 기자 사이에 오간 이메일 내용 등을 자신의 블로그를 통해 공개했다. 한편, 정보감시시민단체인 ‘전자프라이버시정보센터’(EPIC)도 7월 3일 미연방거래위원회(FTC)에 페이스북을 제소했다. 13쪽에 달하는 제소장에서 EPIC의 주장을 요약하면 과거 프라이버시 침해 논란 당시 EPIC이 요구했던 이용자 보호 권리에 대한 약속을 페이스북이 이행하지 않았다는 것이고, 페이스북의 뉴스피드 알고리즘을 공개(make public)하라는 것이다.

이번 감정조작 실험 논문 사건이 벌어진 뒤 인터넷에 올라온 풍자 이미지. 유명한 애플의 1984년 매킨토시 광고에서 사람들을 조종하는 전체주의자 지도자의 얼굴 자리에 페이스북 창립자 마크 저커버그를 넣어 풍자했다. | http://utstatic.a.cdnify.io/

페이스북 측은 <주간경향>의 관련 질문에 대해 “페이스북은 사용자들의 이해를 돕기 위해, 뉴스피드 FYI 블로그를 통해 뉴스피드 알고리즘이나 주요 변화를 공지하고 있다”며 “텍스트 기반의 친구 글을 보다 우선적으로 노출시키는 것으로 알고리즘이 업데이트되었다”는 지난 1월의 공지를 예로 제시했다. 페이스북의 뉴스피드 정보(News feed FYI)를 보면 가장 최근 공지가 올라온 것은 지난 6월 23일. 비디오링크를 직접 올릴 수 있도록 개선했으며, 관련 노출 순위를 높이는 것으로 개선했다는 내용이다.

그런데 그것만으로 페이스북 측이 져야 할 책임은 다 된 것일까. 앞의 뉴스피드 정보에는 오로지 ‘개선’되었고 ‘(성능이) 향상되었다’는 이야기뿐이다. 이종대 트리움 이사는 “논문이 나오면서 알려졌지만 알려지지 않은 경우는 훨씬 더 많을 것”이라며 다음과 같이 덧붙였다. “흔히 a·b테스트라고 하는데, 미국 IT업계에서는 어떤 결정이 이뤄질 때 데이터에 근거해 결정을 내리는 것이 일반화되어 있다. 상황을 통제해 a와 b의 두 가지 선택지를 만들어 각각 테스트를 해서 몇 %의 지지를 더 받았는가를 근거로 판단하는 것이다. 월스트리트저널이 묘사한 페이스북 데이터사이언스팀의 일상적인 모습이 맞을 것으로 생각한다.”

뉴스피드 알고리즘 공개요구에 딴청
페이스북의 뉴스피드는 처음부터 제공했던 서비스가 아니다. 지난 2006년부터 도입됐다. 도입 당시부터 논란이 되었다. 친구의 타임라인에 들어가지 않고 마치 언론사 홈페이지에서 기사를 클릭해 읽는 것처럼 친구의 타임라인에 올라온 글을 읽게 된 것은 이후 페이스북이 개인블로그나 싸이월드와 같은 다른 SNS적 성격을 가진 매체와 결정적으로 구분되는 지점이 되었다.

그런데 문제는 어떤 사람이 있을 때 이 뉴스피드 타임라인에 그가 친구를 맺은 모든 사람들이 올리는 글을 다 보여줄 수 없다는 데서 발생한다. 한 사람의 친구관계는 대충 150명 내외에서 결정된다는 유명한 ‘던바의 수’라는 개념이 있다. 그런데 페이스북에서 친구관계는 보통 150명을 상회한다. 현실적으로도 최대 5000명까지 가능한 페이스북 친구들이 올린 글을 모두 보여주는 것은 불가능하다.

그래서 도입한 것이 뉴스피드 알고리즘이다. 언론사 웹페이지에서 톱기사를 선정하는 것처럼, 타임라인의 윗부분에는 상위를 차지하는 친구들의 글이 선정된다. 언론사와 다른 점은 이 경우 편집자에 의한 ‘선택’이 아니라 이 페이스북 사용자가 ‘가장 관심이 있을 만한 소식’을 알고리즘이 추론해 선정, 보여준다는 것이다. 내가 페이스북 상에서 A라는 친구의 글을 주목하고 댓글도 자주 달고 좋아요 버튼을 자주 눌렀다고 치자. 그러면 A가 새로 게시한 글은 나의 뉴스피드 타임라인에서 상단에 노출될 가능성이 많다. 하지만 A의 타임라인에 나의 게시글이 반드시 상단에 배치되진 않는다. 서로에 대한 관심이 비대칭적일 수 있기 때문이다. 그러다 보니 이런 일이 발생한다. 페이스북에서 오랫동안 교류해 왔는데 소식이 뜸해진 사람이 있다. 오랜만에 그 친구의 글이 눈에 띈다. 그래서 “오랜만입니다. 그동안 어디 계셨나요?”라고 물어볼 수 있다. 그런데 실은 그 친구는 꾸준히 활동하고 있었다. 내 뉴스피드 타임라인에 그 친구의 활동이 안 떴을 뿐이다.

여기에 페이스북 타임라인의 무서운 비밀이 숨어 있다. 친하다고 생각하는 것이 페이스북 알고리즘에 의해 만들어진 착각일 수도 있다. 실제로는 친하지 않은 사람이 뉴스피드 알고리즘의 어떤 ‘알 수 없는 논리’(logic)에 의해 계속 내 뉴스피드 타임라인에 뜨는 경우도 있다. 여기에 페이스북은 타임라인에 다양한 기법으로 고안된 광고글을 배치한다. 광고글은 점점 실제 친구가 올린 글과 구분이 어려운 형태로 진화하고 있다. 정리해 보자. 페이스북 상의 친소(親疎)관계는 자신이 페이스북에서 취한 행위에 기반하고 있지만, 다시 그 관계를 추론한 페이스북 측에 의해 인위적으로 만들어지는 것이다. 그리고 이번 실험.

이원재 교수는 “만약 그 실험 결과로 누군가 우울증에 걸렸다면 그 책임은 누가 질 것인가”라고 반문했다. 페이스북 측은 <주간경향>에 “페이스북은 새로 서비스에 가입하는 사용자들에게 서비스의 향상 목적으로 사용자의 정보에 접근할 수 있도록 동의 여부를 묻고 있다. 따라서 어떠한 경우에도 사용자의 동의 없이 진행되는 경우는 없다”고 답했다. 그런데 이 해명은 많은 의문을 남긴다. 페이스북 측의 설명대로라면, 처음 가입 당시에 ‘사용자 정보 접근’에 동의했기 때문에 가입한 지 몇 년이 지난 경우에도 수시로, 아무런 통보 없이 실험대상이 되는 것이 가능하다는 뜻이 된다. 더군다나 ‘서비스 향상 목적의 사용자 정보 접근’이라는 것은 포괄적이어서 구체적 행위에 대한 답이 되기 어렵다.

게다가 이번에 우연히 외부로 알려진 ‘실험’은 과거 알려진 페이스북 데이터사이언스팀의 연구와는 질적으로 다르다. 한상기 소장이 최근 펴낸 책 <소셜미디어 특강>에는 데이터사이언스팀의 다른 연구 결과가 실려 있다. 사용자가 ‘싱글’, ‘이혼’과 같은 상태에서 ‘연애 중’, ‘약혼’으로 자신의 상태를 변화시키는 데이터를 기반으로 여러 가지 의미 있는 분석을 내놓았다. 사람들이 가장 많이 헤어질 때는 주말이고, 연애는 주 초반 월요일과 화요일에 시작되는 경우가 많다. 많은 데이터가 모여 이전에는 몰랐던 집단의 특성을 보여주는 전형적인 빅데이터 분석이다.

사실 ‘뉴스피드 알고리즘을 공개하라’는 EPIC의 주장은 현실성이 없다는 게 대부분 전문가의 공통된 지적이다. 강정수 연세대 커뮤니케이션연구소 전문연구위원은 “어떤 IT기업이든 마찬가지지만 알고리즘은 엄연하게 지적재산권 보호 대상”이라며 “알고리즘을 공개하는 순간 그 기업의 핵심 노하우가 노출될 수밖에 없기 때문에 당연히 그 주장은 수용할 리 없다”고 말했다.

그렇다면 사용자는 주어지는 대로, ‘보다 나은 커뮤니케이션을 제공하기 위해서’라는 페이스북의 주장대로 이미 결정된 방향대로 쓸 수밖에 없는 것일까.

이번 사건과 무관하게 인터넷커뮤니티에서 화제가 된 영상이 있다. ‘당신이 페이스북을 그만둬야 할 이유’라는 제목의 영상이다. 영상의 주인공이 페이스북 상에서 보는, 또는 보여지는 모습은 현실의 그의 모습과 다르다. 주인공의 부인은 바람을 피우고 그를 떠난다. 그는 페이스북의 자신의 상태를 ‘결혼’에서 ‘자유로운 연애’로 바꾼다. 현실세계에서 주인공이 처한 상황은 악화일로로 치닫고 있지만, 역설적으로 SNS 상의 ‘좋아요’ 수는 증가되고 있다. 사실 이 영상은 가상공간에서 보여지는 모습과 현실세계의 ‘차이’를 코믹하게 묘사하는 내용이지만 한 가지 교훈을 남긴다.

페친간 친소관계 알고리즘이 좌지우지
페이스북 상에는 간단한 의사표시 도구로 ‘좋아요’(Like) 버튼만 있다. ‘화나요’나 ‘슬퍼요’는 없다. 결국 페이스북이 유도하는 관계는 일방향적이다. 실명으로 쓰는 것을 원칙으로 하는 페이스북 상에서 자신에게 불편한 콘텐츠에 딴죽을 거는 것은 가급적 장려하지 않는 방향으로 설계가 되어 있다. 동의하지 않는 경우, 침묵을 지키거나 불쾌감의 강도가 높은 경우 친구관계를 단절하도록 되어 있다. 마크 저커버그의 말처럼 SNS가 현실세계의 인간관계를 웹에 그대로 재현하는 것을 목표로 하고 있다면, SNS에서 인간관계는 다시 현실세계로 삼투압해 들어간다. 최근 폐쇄형 SNS를 출발점으로 하는 각종 사건·사고가 예시하는 것이다. 페이스북과 같은 SNS가 결합되어 바뀔 세계의 모습은 과연 어떤 것일까.

처음에 인용한 영화 <시계태엽장치 오렌지>로 돌아가보자. 주인공 알렉스는 자신의 극단적인 폭력에 죄의식을 전혀 느끼지 못하는 일종의 소시오패스였다. 그런데 극장문을 나서는 관객에게 영화는 되묻고 있다. 누가 더 폭력적일까. 알렉스인가 아니면 국가인가.

페이스북 실험에서 더 큰 문제는 국가도 아니고 사기업이라는 것이다. 한상기 대표는 그것이 더 근본적인 문제라고 주장했다. “그 논문이 국립과학원 회보에 실린 논문인데, 근본적으로 검증이 불가능하다. 논문이 주장하는 걸 거칠게 요약하면 이것이다. 우리가 가진 자료 분석에 따르면 이랬어. 그리고 끝. 근본적으로 검증이 불가능한 것이다. 논문 때문에 드러났기에 망정이지, 이런 실험은 내부에서 끝없이 이뤄지고 있을 것이다. 페이스북뿐만 아니라 구글이나 아마존도 다 하고 있는 것이다. 글로벌 기업이 자기의 데이터를 가지고 하는 연구를 어떻게 사회적으로 통제할 것인가가 심각한 문제다.”

데이터마이닝과 같은 빅데이터 시대에는 새로운 윤리가 필요하다는 지적도 나온다. <빅데이터, 승리의 과학> 저자 고한석씨는 앞으로 더 보편화될 ‘기술에 의존하는 결정’이 야기하는 새로운 상황이라는 것이다. 고씨의 말. “데이터마이닝은 근본적으로 AI(인공지능)의 하위 범주다. 이를테면 이런 가정을 해보자. 구글이 지금 현재도 사용하고 있는 무인카가 사고를 냈다고 치자. 그러면 이 사고의 책임은 누구에게 물을 것인가. 무인카에는 핸들도 없다. 옆자리에 앉은 사람은 차량의 운전과 관련해 아무런 조작도 안 했다. 그렇다고 시스템 설계자에게 책임을 물을 것인가. 구글의 무인카는 AI로 운영되기 때문에 컴퓨터가 운전에 필요한 기술은 스스로 학습을 통해 익힌 것이다. 애초의 시스템 설계와 진화하는 방향이 다르기 때문이다.”

사건은 어떻게 결론날까. 페이스북의 셰릴 샌더버그 COO(최고운영책임자)는 인도를 방문 중이던 7월 2일, 이번 사태와 관련해 인도 언론의 질문을 받고 “실험의 취지가 잘못 전달된 부분은 유감스럽게 생각한다”면서도 “페이스북은 이번 사건과 관련해 진심으로 후회하고 있으며 이용자들에게 사과한다”고 말했다. 그러나 셰릴의 사과는 페이스북의 소식을 전하는 공식 블로그나 공식 뉴스에서 언급되지 않고 있다.

구글ㆍ아마존도 ‘실험’… 제어할 윤리 시급
이종대 이사는 “에드워드 스노든의 미국 국가감시 폭로 이슈에서부터 이번 페이스북 비밀 감정조작 실험까지 다 맞물리는 이슈”라며 “데이터의 통제와 소유, 활용에 관한 제2의 사회적 계약이 필요한 시점이 되었다”고 지적했다. 한상기 소장은 “적어도 연구윤리를 다루는 부분에 외부 참여를 가능하게 하거나, 연구 결과의 원자료를 외부에 공개하는 등 자신이 생산하는 데이터의 공공성 문제에 대해 사기업이라도 다시 생각할 필요가 있다”고 말했다.

강정수 연구위원은 이렇게 덧붙였다. “이런 사태에도 불구하고 다른 대체제가 없기 때문에 페이스북은 여전히 건재할 것이다. 하지만 첫 서비스를 시작한 이래 10년의 피로도가 쌓여 있다. 페이스북이 이번 일을 반성의 기회로 삼지 않는다면, 과연 어떻게 될지 앞으로는 장담할 수 없을 것이다.”

정작 페이스북은 이번 사태의 심각성을 인지하고 있는 걸까. 최고운영책임자의 사과에도 불구하고 <주간경향>이 페이스북 측으로부터 받은 해명은 아담 크래머가 자신의 페이스북에 밝힌 내용과 대동소이하다. 아담은 “자신의 입장이 사실상 페이스북의 공식 입장이라고 생각하면 된다”고 자신의 페이스북에서 밝혔다. <주간경향>은 페이스북 측의 답변이 불충분하다고 판단해 답변에 근거해 다시 질문을 보냈지만, 마감시점까지 답은 끝내 돌아오지 않았다.

<정용인 기자 inqbus@kyunghyang.com>