2024년 12월 3일 계엄령 선포 이후 한국 사회의 양극화 현상은 더 심해졌다. 유튜브와 같은 디지털 플랫폼의 추천 알고리즘은 디지털 플랫폼 이용자들의 정치적 의견을 더 양극단으로 몰아가는 촉매 역할을 하고 있다.

이러한 상황을 극복하기 위해서는 알고리즘이 특정 정치적 성향의 콘텐츠를 과도하게 제공하지 않도록 구조적 규제와 함께 알고리즘의 투명성 및 책임성 확보를 위한 제도적 노력이 반드시 병행되어야 한다. 제도적 대응책을 마련하기 위해 유튜브나 넷플릭스 같은 디지털 플랫폼의 추천 알고리즘 현상을 알아봐야 한다.

추천 알고리즘의 부작용을 설명할 때 흔히 등장하는 용어가 정보 여과 현상과 에코 챔버이다. 정보 여과 현상이란 사용자가 자신의 입맛에 맞는 콘텐츠만을 소비하며 다른 관점의 정보를 차단하는 현상이다. 이 용어는 일라이 파리저(Eli Pariser)가 그의 저서 ‘생각 조종자들(The Filter Bubble)’에서 처음 사용하였다. 반면 에코 챔버는 비슷한 의견이나 입장을 가진 사람들이 모여 의견을 주고받으며 특정 관점이 점점 강화되는 현상이다. 이 두 가지 현상은 상호 작용하여 더욱 극단적 의견을 형성하게 하며, 사회의 양극화를 가속한다.

추천 알고리즘의 피해를 막기 위해서는 반대되는 의견이나 다양한 관점의 의견을 담은 콘텐츠를 의무적으로 제공해야 한다. 미국 LA타임스의 실험이 대표적이다. LA타임스는 독자들의 확증편향 문제를 해결하기 위해 AI를 활용한 실험을 시작했다. 특정 주제의 온라인 칼럼을 게재할 경우 AI가 이 글에 대한 반론을 댓글 형식으로 달아준다. 다양한 관점을 제시해 독자들이 한 쪽으로 치우치는 현상을 방지하자는 취지다.

또 한가지 방법은 디지털 플랫폼의 추천 알고리즘을 제어하기 위해 사용자들이 사용한 행동 데이터를 주기적으로 삭제하는 방안이다. 유튜브의 경우 사용자가 설정 기능에서 본인이 과거 시청한 영상을 삭제하면 추천 영상의 방향성이 사라진다.

이와 함께 정치권과 시민단체들의 정치적 양극화를 막기 위한 사회적 제도적 노력을 알아보자. 특히 AI 디지털 기술을 활용해 확증편향을 줄이는 방안을 살펴보자.

첫 번째 방안은 AI 기반 피드백 시스템을 구축하는 방식이다. 정보 소비의 편향을 시각화해주는 방식이다. 우리는 자신이 편향된 정보를 얼마나 자주 소비하는지 쉽게 인식하지 못한다.이를 해결하기 위해 AI 기술을 활용한 정보 소비 분석 플랫폼이 필요하다.

두 번째 방안은 특정 구조를 가진 의사결정 알고리즘과 의사결정 이후 상황에 대한 AI 예측 도구를 정당이나 사회단체 조직에 도입하는 방안이다. 구조화된 의사결정을 유도하는 도구로는 ‘AI 기반 의사결정 지원 시스템(DSS)’이 있다. 이 시스템은 특정 정책이나 행동의 여러 시나리오를 시뮬레이션해 결과를 예측하고 그에 따른 장단점과 위험 요소를 짚어준다.

세 번째 방안은 AI를 활용해 비판적 사고를 훈련하는 방안이다. AI는 훈련이나 교육 도구로서도 강력하다. 토론이나 의사결정에서 자기 주장이나 편향대로만 대응하는 경향을 줄이기 위해 AI 챗봇과의 토론을 실시할 수 있다.

네 번째 방안은 다양한 관점을 수용하기 위해 AI 추천 기술을 활용하는 방안이다. 에코 챔버 효과를 줄이기 위해서는 다양한 관점을 접하는 것이 중요하다. AI는 이를 자동화할 수 있다. 예를 들어 AI 기반 뉴스 추천 도구는 특정 주제에 대해 다른 시각을 가진 기사나 논평을 제시할 수 있다.

이러한 기반 위에서 다양한 시각을 수용하는 정당과 시민사회가 존재할 때야 우리는 AI 시대에 걸맞은 건강한 민주주의를 기대할 수 있다. 결국 민주주의의 미래는 기술뿐 아니라 그것을 어떻게 다루고 조율하느냐에 달려 있다. 디지털 기술이 정치를 극단으로 가르고 사회를 분열시키는 도구가 아니라 다시 연결과 소통의 매개체가 되길 바란다. 그 책임과 과실은 인간의 몫이다.

[김명수 매일경제신문 이사 겸 매경AX 대표]

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]