디센터 Decenter

"센틸리언은 인공지능 비서 '틸리' 서비스를 제공하는 기업이다. 틸리는 개인 생활의 모든 데이터를 수집, 분석해 최적의 조언을 해준다. 심지어 데이트 상대도 골라준다.

어느 날 '테러리스트' 두 명이 센틸리언 서버에 바이러스를 심으려다 발각됐다. 센틸리언 CEO 크리스천 린이 직접 테러리스트들을 만났다.

관련기사

테러리스트(T) : 센틸리언은 우리를 작은 거품 속에 가뒀어. 그 속에서 우리가 보고 듣는 것들은 전부 우리 자신의 메아리야. 점점 더 기존 믿음에 집착하고, 자신의 성향을 점점 더 강화해 가는 거지. 우린 질문하기를 멈추고 뭐든 틸리가 판단하는 대로 따르고 있어. 노예가 된거지. 그걸로 당신들은 어마어마한 돈을 벌고.

크리스천(C) : 우리 회사의 모토는 '세상의 정보를 편집하여 인류의 격을 높이자' 입니다. 당신의 취향, 욕망, 생각, 검색 기록, 구매 이력, 읽은 기사와 책, 열람한 웹페이지 등등. 당신의 '디지털 자아'로부터 당신의 욕구를 읽고, 정확하게 그것을 충족시켜줄 뿐이에요.

T : 사악한 욕구도 같이 충족시키잖아!

C : 우리는 사람들 안에 이미 존재하는 어둠을 드러낼 뿐입니다. 우리가 적발해낸 아동 포르노 제작자, 살인 계획, 마약 조직과 테러 음모가 얼마나 많은지 아세요? 정권의 선전 공작을 차단하고 저항 세력의 목소리를 증폭해 혁명에 기여하기도 했어요.

T : 당신 서비스를 반대한 외국 정부를 그런 식으로 셋이나 무너뜨렸지.

C : 만약 세상을 더 살기 좋은 곳으로 만드는 데에 필요한 것이 문화제국주의라면 저희는 기꺼이 세상의 정보를 편집해서 인류의 격을 높일 것입니다. 중립을 지키면서 정보만 제공하는 사업 같은 건 없습니다. 센틸리언이 하는 일은 정보를 조직하는 것입니다.

T : 난 어렸을 때 중국에서 살았어. 네크워크에서 일어나는 일을 모조리 들여다보던 시절이지. 글의 행간을 읽는 법, 감청당하지 않고 할 말을 하는 방법을 배워야 했다고. 당신들이 내 삶을 들여다보는게 싫어.

C : 우리는 이미 오래전에 의식을 전자의 영역으로 확장했습니다. 당신의 디지털 자아는 문자 그대로 실제의 당신입니다. 센틸리언이 무너져도 곧바로 다른 대체재가 등장할 겁니다. 우리를 대신할 더 악독한 기업이 나오겠죠. 센틸리언이 실패하면 누가 그 자리를 치지할 것 같습니까? 우리의 경쟁사인 셰어올? 아니면 어느 중국 기업?

T : 누구도 내 생각을 지배할 수는 없어!

C : 우리는 생각하기를 돕는 기계를 만들었지만 이제는 그 기계가 우리를 대신해서 생각을 한다, 이겁니다. 거인은 이미 오래전에 램프에서 탈출했어요."

이 대화는 미국의 SF 작가 켄 리우의 단편 <천생연분(The Perfect Match)>를 재구성한 것입니다. 2016년 출간된 <종이동물원>이라는 소설집에 수록된 글입니다.

소설 속에서 사람들은 '틸리'라는 서비스 없이는 단 하루도 살지 못합니다. 내가 생활하면서 만든 모든 데이터는 센틸리온 서버로 모이고, 인공지능이 이를 분석해서 '다음 행동'을 코치(?)합니다.

"심장 박동 등 생체 신호를 보니 오늘 우울하신 것 같아요. 이럴 때는 단맛 나는 음료죠. 제가 할인 쿠폰을 가지고 있으니 슈가메가 매장에 주문을 넣어 놓겠습니다"하는 식입니다. 물론 슈가메가는 센틸리온과 마케팅 계약을 맺은 음료 브랜드입니다.

소설인듯 소설아닌 소설같은 스토리죠. 구글, 아마존, 페이스북, 네이버, 카카오가 "이건 완전 소설이야"라고 자신있게 얘기할 수 있을까요? 동영상 플랫폼 '틱톡'을 놓고 미국과 중국이 왜 이렇게 신경전을 벌이는지 이해가 가시나요? 누군가의 데이터를 장악하면 그 사람, 즉 디지털 자아를 장악할 수 있기 때문입니다.

내 취향과 생각이 정말 나의 것이라면 내 데이터를 누군가에게 함부로 맡겨서는 안될 것 같군요. 편리를 위해, 나를 열고, 오픈 네트워크를 지향했지만, 그런 선의가 나도 모르게 비즈니스에 이용되면서 악용 사례를 만들 수 있으니까요. 블록체인 업계에서 고민하고 있는 탈중앙신분증명(DID : Decentralized Identifiers), 마이데이터(My Data) 선언 등이 대안이 될 수 있을까요?

거대 IT 기업, 플랫폼 기업이 "사악해지지 않겠다(Don't be evil)" 다짐했다고, 순진하게 믿고 있어서는 안될 것 같습니다.

센틸리언 CEO가 얘기했죠. 이미 거인은 램프에서 탈출했다고. 지금이라도 확실하게 제어하지 않으면 현실의 거인도 램프의 주인을 배신할 겁니다.

/James Jung 기자 jms@decenter.kr