1. 현황
2010년대에 들어서면서, 핸드폰 보급이 시작되었고, 한국 갤럽에 의하면, 2024년에는 한국 성인 스마트폰 사용률은 98%에 달한다. 2010년대에 들어서 인터넷 보급과 함께 SNS가 본격적으로 발전하기 시작하였다. 이에 따라 다양한 SNS가 생기게 되었고, 자연스레 부정적 영향들이 나타나게 되었다. 미국의 작가이자, 기업가이자, 활동가인 엘리 파리저는 기술과 미디어에 관련한 연구를 하며, SNS의 폐해로 필터 버블이라는 개념을 제시하였다. SNS에서 개인화된 정보를 바탕으로 사용자가 선호하는 방향의 정보만을 노출하는 개념을 일컫는다. 또한, 사이버 커뮤니케이션이 확대되면서, 현대 사회에서 사이버 정치 커뮤니케이션이 활성화됨에 따라 전통적인 매스미디어에 대한 정치의 의존성도 약화되고 있다. 그러면서 사이버 커뮤니케이션에서 어떤 환경을 형성하는 지가 중요해졌다. 하지만 환경을 형성하고, 재생산하는 주체인 인공지능 알고리즘이 발달하면서 그 안에는 정보의 편향성이 나타나게 되었다. 이런 확증 편향 속에서 양극화는 더더욱 심화되어 간다. 현대의 정치적 양극화 현상도 이러한 영향 속에 있다는 것은 무시할 수 없다.
모바일 빅데이터 기업 아이지에이웍스의 모바일인덱스 데이터에 따르면 유튜브는 작년 12월 MAU(월간 활성 이용자 수) 4천565만 명으로 전체 1위를 차지하며 카카오톡(4천554만 명)을 처음으로 제쳤다. 와이즈앱의 통계에 따르면, 유튜브는 월평균 1,083억 분 사용된다고 한다. 2위를 기록한 카카오톡의 경우, 월평균 327억 분이 사용되었다. 유튜브는 카카오톡에 비해 약 3배 정도 더 많이 사용되는 것이다. 압도적인 대다수가 유튜브를 하나의 플랫폼이자 SNS로 활용하고 있으며, 추세로 보아서는 점점 비대해지고 있다. 이를 통한 사이버 커뮤니케이션도 발달하고 전통적인 매스미디어에 대한 정치적 의존성도 약화되고 있는 것이다. 유튜브는 콘텐츠 추천 기반 시스템으로 인해서 필터 버블을 강화해 나가며, 인간의 사고를 획일적으로 만들어가는 데에 특화되어 있다. 유튜브 내에서 사용자는 댓글을 통해 프로슈머가 된다. 그리고 댓글을 통해서 소통할 수 있는 공간은 필터 버블에 의해서 획일화되어 있는 영상의 하단에 위치하고 있으며, 주제 또한 영상에 관련한 것으로 한정되게 된다. 즉, 영상의 의도에 따르고 있는 댓글들이 주를 띄고 있으며, 서로 간의 필터 버블에 의해서 만나지 않게 된다.
2. 문제점
하지만, 이를 제대로 제재할 수 있는 상황이 없으며, 사람들의 무의식 속에 잠재하고 있는 필터 버블에 대해서 일깨우기가 힘든 상황이다. 이는 두 가지의 원인이 존재한다.
첫째로, 알고리즘 컨설팅의 결과이다. 흔히 우리는 자율성에 근거해서 선택한다고 착각하고 산다. 하지만, 우리는 존재구속적, 시대구속적 특성을 가지고 있기에, 자율성을 형성한 최초의 입력이 있었다. 사회를 구성하는 모든 것들이 최초의 인풋이었으며, 알고리즘도 마찬가지이다.
인간은 두 가지 방식으로 지식을 얻는다. 현상으로부터 원리를 발견하는 귀납과 원리로부터 현상에 대한 지식을 얻는 연역이 있다. 반면에, 인공지능은 귀납으로부터 학습한다. 따라서 만약 잘못된 자료를 통해 학습하게 된다면 이로부터 도출되는 인공지능의 귀납적 판단능력에는 오류가 존재하게 된다. 그렇기에 인공지능 알고리즘이 가지고 있는 태초의 학습 데이터에 대한 선택이 굉장히 중요해지게 된다.
즉, 인공지능의 학습에 있어서 사용자의 편향성이 개입될 여지가 있는 것이다. 그 대표적 사례로 미국의 COMPAS 인공지능은 같은 죄를 저질러도 흑인에 대해서 재범 확률이 높다고 판단하며, 절도시도가 있고, 마약을 소지하고 있던 백인보다 저항하지 않았던 흑인이 더 위험하다고 COMPAS는 판단하기도 하였다.
인공지능 알고리즘은 정량적인 것을 측정하지 못한다. 인간은 콘텐츠 추천 시스템 알고리즘에 의해서 매번 의도된 시선을 강요당한다. 하지만, 영상을 볼 지 말 지에 대한 선택권을 인간에게 전가하면서, 그 강요된 시선에 대해서 인식하지 못하게 한다. 미셸 푸코는 “사람들은 감시당하고 있다는 인식을 통해 스스로 행동을 통제하게 된다”고 한다. 알고리즘에 의해서 사회는 어느 한 쪽을 못 보게 된다. 이를 통해 스스로 행동을 통제하는 지경에 이른다.
둘째로, 댓글의 재생산 과정이다. 댓글은 다양한 담론을 띄며 재생산을 거친다. 그 과정에서 다양성을 가지기도 하지만, 동시에 다양성 속에서 획일화 과정을 거치게 된다. 즉, 담론이 형성되면서 그 버블 안에 갇히고 있는 현상을 보인다. 그렇게 되면서 세대 갈등, 성별 갈등 등을 위한 프레임이 만들어지고 일반화의 과정을 거치게 된다.
이러한 일련의 원인들에 인공지능의 딥러닝 기반 추천 알고리즘이 가미되면서 더더욱 버블은 증폭되고 있다. 이런 편향성을 가질 수밖에 없는 알고리즘에 대해서 현재 제재 방안이 없는 셈이다.
3. 개선방안
현재, 가장 문제가 되는 것은 딥러닝 기반 추천 알고리즘이며, 이로 인해서 발생하는 양극화이다. 양극화의 해결에 제일 먼저 나오는 해결이 대화이지만, 현재의 상황에서 양극단 혹은 다른 버블과의 대화의 의지는 없는 상황이다. 즉, 대화로는 해결이 불가능하다. 여기서 우리는 중국의 유천양 학자의 음모 이론을 빠져나오기 위한 수단을 통해서 해결할 수 있을 것이다. 해당 학자의 연구에서 Disenchantment Approach의 경우를 대입한다면, 이를 해소하는 대에 용이할 것이다. 이는 미디어 리터러시 등을 길러서 음모론이 어떻게 전파되는지, 정치적 목적은 무엇인지 등을 시민들에게 학습 시키는 것이다.
현실적인 해결책은 이를 교육으로 시민 전반에 퍼지게 하는 것이다. 단순히 대입을 위한 학습을 하는 것이 아닌, 능동참여형으로 사건에 대해서 다각도로 접근하는 방법 및 음모론이 보여주고 있는 논리적 허점들에 대해서 교육할 필요가 있다.
4. 기대효과
이에 따라서 학생들 교육 커리큘럼에 시사 토론을 의무화할 필요가 있다. 이를 교육할 때에는 경청의 자세와 인정의 자세 그리고 평화적으로 토론하며, 논리성을 갖추는 학습을 할 수 있을 것이다. 강제로 본인과 다른 의견을 변호하면서도 논리성이 증대하며 증거를 찾는 방법 등 다양한 부가적 인센티브를 얻을 수 있을 것이다.
참고:
- 김창남. (2015). 정치와 커뮤니케이션. 커뮤니케이션북스.
- 홍국기. (2024. 3. 4). 한국인 1인당 유튜브 월평균 사용 40시간 돌파. 연합뉴스.
- 이재신. (2022). 인공지능 알고리즘과 다양성 그리고 편향. 커뮤니케이션 북스.
- 제프 올로프스키. (2020). 소셜 딜레마. 넷플릭스.
- 미셸 푸코. (2016). 감시와 처벌. 나남출판.
- 이재신, & 이한종. (2023). SNS 정치정보에 대한 선택적 노출, 이견토론, 공감성향이 정치집단 간 불안에 미치는 영향에 대한 탐구. 한국의회발전연구회.
- Said, E. (1999). 오리엔탈리즘. 현대사상신서.
- Liu, T., Guan, T. & Yuan, R. (2023) Can Debunked Conspiracy Theories Change Radicalized Views? Evidence from Racial Prejudice and Anti-China Sentiment Amid the COVID-19 Pandemic. J OF CHIN POLIT SCI 28, 537–569
1. 현황
2010년대에 들어서면서, 핸드폰 보급이 시작되었고, 한국 갤럽에 의하면, 2024년에는 한국 성인 스마트폰 사용률은 98%에 달한다. 2010년대에 들어서 인터넷 보급과 함께 SNS가 본격적으로 발전하기 시작하였다. 이에 따라 다양한 SNS가 생기게 되었고, 자연스레 부정적 영향들이 나타나게 되었다. 미국의 작가이자, 기업가이자, 활동가인 엘리 파리저는 기술과 미디어에 관련한 연구를 하며, SNS의 폐해로 필터 버블이라는 개념을 제시하였다. SNS에서 개인화된 정보를 바탕으로 사용자가 선호하는 방향의 정보만을 노출하는 개념을 일컫는다. 또한, 사이버 커뮤니케이션이 확대되면서, 현대 사회에서 사이버 정치 커뮤니케이션이 활성화됨에 따라 전통적인 매스미디어에 대한 정치의 의존성도 약화되고 있다. 그러면서 사이버 커뮤니케이션에서 어떤 환경을 형성하는 지가 중요해졌다. 하지만 환경을 형성하고, 재생산하는 주체인 인공지능 알고리즘이 발달하면서 그 안에는 정보의 편향성이 나타나게 되었다. 이런 확증 편향 속에서 양극화는 더더욱 심화되어 간다. 현대의 정치적 양극화 현상도 이러한 영향 속에 있다는 것은 무시할 수 없다.
모바일 빅데이터 기업 아이지에이웍스의 모바일인덱스 데이터에 따르면 유튜브는 작년 12월 MAU(월간 활성 이용자 수) 4천565만 명으로 전체 1위를 차지하며 카카오톡(4천554만 명)을 처음으로 제쳤다. 와이즈앱의 통계에 따르면, 유튜브는 월평균 1,083억 분 사용된다고 한다. 2위를 기록한 카카오톡의 경우, 월평균 327억 분이 사용되었다. 유튜브는 카카오톡에 비해 약 3배 정도 더 많이 사용되는 것이다. 압도적인 대다수가 유튜브를 하나의 플랫폼이자 SNS로 활용하고 있으며, 추세로 보아서는 점점 비대해지고 있다. 이를 통한 사이버 커뮤니케이션도 발달하고 전통적인 매스미디어에 대한 정치적 의존성도 약화되고 있는 것이다. 유튜브는 콘텐츠 추천 기반 시스템으로 인해서 필터 버블을 강화해 나가며, 인간의 사고를 획일적으로 만들어가는 데에 특화되어 있다. 유튜브 내에서 사용자는 댓글을 통해 프로슈머가 된다. 그리고 댓글을 통해서 소통할 수 있는 공간은 필터 버블에 의해서 획일화되어 있는 영상의 하단에 위치하고 있으며, 주제 또한 영상에 관련한 것으로 한정되게 된다. 즉, 영상의 의도에 따르고 있는 댓글들이 주를 띄고 있으며, 서로 간의 필터 버블에 의해서 만나지 않게 된다.
2. 문제점
하지만, 이를 제대로 제재할 수 있는 상황이 없으며, 사람들의 무의식 속에 잠재하고 있는 필터 버블에 대해서 일깨우기가 힘든 상황이다. 이는 두 가지의 원인이 존재한다.
첫째로, 알고리즘 컨설팅의 결과이다. 흔히 우리는 자율성에 근거해서 선택한다고 착각하고 산다. 하지만, 우리는 존재구속적, 시대구속적 특성을 가지고 있기에, 자율성을 형성한 최초의 입력이 있었다. 사회를 구성하는 모든 것들이 최초의 인풋이었으며, 알고리즘도 마찬가지이다.
인간은 두 가지 방식으로 지식을 얻는다. 현상으로부터 원리를 발견하는 귀납과 원리로부터 현상에 대한 지식을 얻는 연역이 있다. 반면에, 인공지능은 귀납으로부터 학습한다. 따라서 만약 잘못된 자료를 통해 학습하게 된다면 이로부터 도출되는 인공지능의 귀납적 판단능력에는 오류가 존재하게 된다. 그렇기에 인공지능 알고리즘이 가지고 있는 태초의 학습 데이터에 대한 선택이 굉장히 중요해지게 된다.
즉, 인공지능의 학습에 있어서 사용자의 편향성이 개입될 여지가 있는 것이다. 그 대표적 사례로 미국의 COMPAS 인공지능은 같은 죄를 저질러도 흑인에 대해서 재범 확률이 높다고 판단하며, 절도시도가 있고, 마약을 소지하고 있던 백인보다 저항하지 않았던 흑인이 더 위험하다고 COMPAS는 판단하기도 하였다.
인공지능 알고리즘은 정량적인 것을 측정하지 못한다. 인간은 콘텐츠 추천 시스템 알고리즘에 의해서 매번 의도된 시선을 강요당한다. 하지만, 영상을 볼 지 말 지에 대한 선택권을 인간에게 전가하면서, 그 강요된 시선에 대해서 인식하지 못하게 한다. 미셸 푸코는 “사람들은 감시당하고 있다는 인식을 통해 스스로 행동을 통제하게 된다”고 한다. 알고리즘에 의해서 사회는 어느 한 쪽을 못 보게 된다. 이를 통해 스스로 행동을 통제하는 지경에 이른다.
둘째로, 댓글의 재생산 과정이다. 댓글은 다양한 담론을 띄며 재생산을 거친다. 그 과정에서 다양성을 가지기도 하지만, 동시에 다양성 속에서 획일화 과정을 거치게 된다. 즉, 담론이 형성되면서 그 버블 안에 갇히고 있는 현상을 보인다. 그렇게 되면서 세대 갈등, 성별 갈등 등을 위한 프레임이 만들어지고 일반화의 과정을 거치게 된다.
이러한 일련의 원인들에 인공지능의 딥러닝 기반 추천 알고리즘이 가미되면서 더더욱 버블은 증폭되고 있다. 이런 편향성을 가질 수밖에 없는 알고리즘에 대해서 현재 제재 방안이 없는 셈이다.
3. 개선방안
현재, 가장 문제가 되는 것은 딥러닝 기반 추천 알고리즘이며, 이로 인해서 발생하는 양극화이다. 양극화의 해결에 제일 먼저 나오는 해결이 대화이지만, 현재의 상황에서 양극단 혹은 다른 버블과의 대화의 의지는 없는 상황이다. 즉, 대화로는 해결이 불가능하다. 여기서 우리는 중국의 유천양 학자의 음모 이론을 빠져나오기 위한 수단을 통해서 해결할 수 있을 것이다. 해당 학자의 연구에서 Disenchantment Approach의 경우를 대입한다면, 이를 해소하는 대에 용이할 것이다. 이는 미디어 리터러시 등을 길러서 음모론이 어떻게 전파되는지, 정치적 목적은 무엇인지 등을 시민들에게 학습 시키는 것이다.
현실적인 해결책은 이를 교육으로 시민 전반에 퍼지게 하는 것이다. 단순히 대입을 위한 학습을 하는 것이 아닌, 능동참여형으로 사건에 대해서 다각도로 접근하는 방법 및 음모론이 보여주고 있는 논리적 허점들에 대해서 교육할 필요가 있다.
4. 기대효과
이에 따라서 학생들 교육 커리큘럼에 시사 토론을 의무화할 필요가 있다. 이를 교육할 때에는 경청의 자세와 인정의 자세 그리고 평화적으로 토론하며, 논리성을 갖추는 학습을 할 수 있을 것이다. 강제로 본인과 다른 의견을 변호하면서도 논리성이 증대하며 증거를 찾는 방법 등 다양한 부가적 인센티브를 얻을 수 있을 것이다.
참고: