인천투데이=전영우 객원논설위원│

조지 오웰은 소설 <1984>에서 빅브라더가 사회 구석구석을 감시하고 정보를 통제하는 사회를 묘사했다. 소설의 시간적 배경이었던 1984년 시점에서 봤을 때 오웰의 예견은 전혀 빗나간 것 처럼 보였다. 빅브라더가 통제하는 전체주의와는 대조되는 민주주의 체제를 구축한 시점에서 본 사회는 오웰의 암울한 미래상과는 거리가 멀었다.

1984년에서 거의 30여년이 흐른 2021년의 미디어 환경은 조지 오웰의 비전을 다시 소환하고 있다. 우리는 자신도 모르는 사이에 자신의 모든 정보를 빅브라더에게 제공했고, 빅브라더는 이제 사회 구성원 모두를 감시하고 있다. 소름끼치는 사실은, 우리 모두가 자발적으로 이 과정에 참여했을 뿐만 아니라, 감시받는다는 사실조차 인지하지 못하거나 무시하고 있다는 사실이다.

물론 현대의 빅브라더는 스탈린을 연상시키는 외모의 1인 독재자가 아니다. 특정 개인도 아니다. 현대의 빅브라더는 자본주의 시스템의 거대 미디어 기업이 구축한 인공지능(AI)과 인공지능이 구현하는 알고리즘이다. 언제부터인지는 모르지만 우리는 모두 인공지능이 통제하는 세상에 살고 있다.

정확한 시점은 특정할 수 없지만, 스마트폰이 일상화가 된 이후에 빅브라더가 본격적으로 우리 삶의 방식에 스며들기 시작했다. 스마트폰은 우리의 모든 생활패턴을 기록하고 정보를 모으고 분석하는 가장 효율적인 도구이다.

우리는 스마트폰의 알람소리로 하루를 시작하고, 하루종일 스마트폰과 함께 움직인다. 스마트폰은 우리가 언제 어디서 무엇을 하는지 낱낱이 기록하고, 그 정보는 방대한 데이터로 축적되고 분석된다. 시간이 흐를수록 똑똑해지고 세련되게 발전하는 AI는 이미 생활 깊숙이 파고들어서 자신도 모르는 사이에 우리들의 행동양식을 통제하고 있다.

개인이 관심을 가질 주제의 기사나 제품을 AI 알고리즘이 분석해서 제시하기 시작한지는 벌써 오래됐다. 해외여행을 떠나 낯선 환경을 접했을 때, 묻지도 않았는데 스마트폰이 내게 필요한 정보를 알려주는 경험을 해본 일이 있을 것이다. 개개인의 생활패턴과 소비패턴 그리고 행동양식에 관한 데이터가 축적돼 정확한 분석을 할 수 있기에 가능한 일이다. 이미 오래 전부터 빅브라더는 우리를 감시하고 정보를 모으고 있던 것이다.

사람들이 필요한 제품 정보를 적시에 제공해 제품 판매를 꾀하는 작업은 그 자체로 큰 문제가 없어 보일지 모른다. 그러나 조금 더 들여다보면 AI가 사람들 사고방식에도 영향을 미치고 있다는 것을 알 수 있다. AI는 언론 기사에도 큰 영향을 미치고 있기 때문이다. 곧 여론이 움직이는 방향을 AI가 통제하는 것이 가능하다는 의미이다. 이런 경향은 언론이 포털 사이트에 절대적으로 의지하는 한국의 경우 더욱 심하다고 볼 수 있다.

한국 언론은 자체적으로 수익을 낼 수 있는 능력을 이미 상실했고 포털에서 기사의 클릭 수에 따라 지급하는 수익에 크게 의존하고 있다. 따라서 포털의 메인 페이지에 노출되는 정도에 따라 수익이 크게 차이가 나는 구조이다. 사정이 이렇다보니 언론사는 포털 메인에 걸릴 가능성이 높은 기사에 집중하는 경향을 보인다. 생존을 위한 수익을 고려해야 하기 때문에 발생하는 당연한 현상이다.

포털은 메인 페이지에 노출되는 기사의 선정을 AI 알고리즘에 의해 결정한다. 알고리즘의 편향성에 대한 논란이 있지만, 대체적으로 포털의 알고리즘은 많은 사람들이 관심을 갖고 클릭하는 내용의 기사 위주로 방향을 잡는다고 보면 무리가 없다.

일반적으로 많은 클릭을 유도하는 기사는 자극적이고 선정적인 내용일 가능성이 높다. 또한 사회 분위기에 따라 정치적 편향성을 갖는 기사가 주로 배치될 가능성도 높다. 곧 AI가 만들어낸 알고리즘이 언론의 내용에 영향을 미치고, 우리가 생각해야 할 주제를 제시하고 여론을 지배하고 있다는 의미이다.

“알 수 없는 알고리즘이 나를 여기로 이끌었네.” 알고리즘의 영향력을 잘 표현한 유행어이다. 알고리즘이 이끄는 대로 흘러가다 보니 특정한 콘텐츠를 접하게 됐다는 말이다. 알고리즘의 속성을 잘 파악하고 있는 소위 MZ세대(1980년부터 2004년생까지를 일컫는 밀레니얼 세대와 1995년부터 2004년 출생자를 뜻하는 Z세대를 합친 말)의 인식을 보여주고 있는 표현이다. 우리 일상을 알고리즘이 지배하고 있다는 것을 나타낸다.

알고리즘에 익숙한 세대는 역으로 알고리즘을 이용해 자신이 관심을 가지는 특정한 콘텐츠를 추천받고, 자신의 관심사를 다른 사람들에게 확산시킬 수도 있다. 그런 의미에서 알고리즘에 지배를 받는다기 보다는 능동적으로 이용한다고 보는 견해도 가능하다.

그러나 어떤 경우에도 개인의 성향이 세세하게 분석돼 데이터화 되고 마케팅은 물론 다방면에 이용되고 있다는 것은 피할 수 없는 현실이 됐다. 소설가 필립 K 딕은 AI 알고리즘이 범죄가 발생할 가능성을 미리 예측하고 차단해 범죄가 없는 세상을 그렸는데, 우리는 이미 그런 세계에 성큼 다가와 있다.AI 알고리즘을 이용해 범죄를 해결하는 것이 이미 낯설지 않은 세상이 됐다. 딕의 소설대로 알고리즘이 범죄 발생 가능성을 미리 차단하는 세상이 곧 올 수도 있다.

한번 생각해 볼 것은, 대표적 소셜미디어이자 AI 알고리즘을 가장 잘 활용하는 것으로 알려진 페이스북의 창업자인 마크 저커버그 자신은 정작 페이스북이나 다른 소셜미디어를 직접 하지 않는다는 사실이다. 그의 계정은 12명의 전문 직원이 철저하게 관리하고 있다. 열심히 소셜미디어 계정을 관리하는 사람들이 생각해봐야 할 시사점이다. 미디어의 미래는 사람이 아니라 AI 빅브라더가 통제하는 세상이 될지 누가 알겠는가.