Rti 중앙방송국 
Rti 중앙방송국 
- 인공지능이 우리 선거에 끼친 영향 분석-
- 우리 만의 일은 아니다, 글로벌 민주주의 체제가 직면한 과제 -
2024.01.22. - 타이완ㆍ한반도ㆍ양안관계ㆍ시사평론 -
올해 둘째 주말 타이완에서는 제16대 대선과 제11대 총선이 치러졌다. 평화로운 분위기 속에서 투.개표를 완성하였고 낙선자도 패배를 바로 인정하며 당선자에게 축하 메시지를 보냈다. 우리에게 극히 중요한 선거가 끝난 후 신 정부와 신 국회의 미래 전망과 도전에 관해서는 지난 주에 취재 보도를 하였는데 오늘은 작년에 세계적으로 선풍을 일으켰던 인공지능의 업그레이드 버전이라 할 수 있는 생성형 AI, 챗 GPT 등 인공지능이 선거에 미친 영향에 관한 분석을 진행하며 아울러 ‘타이완 인공지능 실험실(Taiwan AI Labs)’의 창설자 에단 두(Ethan Du, 杜奕瑾 , 사진 백조미)와의 인터뷰 내용을 공유한다.
타이완 인공지능 실험실(이하 ‘실험실’)은 지난주 수요일(1월17일) 오후 ‘민주주의 국가에 대한 트롤 조작 연보’를 주제로 정보 조작을 행하는 자들의 수법에 대하여 공유하였다. 여기에서 말하는 트롤(Troll)은 인터넷을 이용하여 선동하는 세력을 의미하는데 보통 인공지능을 이용한 계정 또는 홍보대행사나 특정 단체들이 대규모 계정을 만들어 정보를 조작하는 것을 의미한다.
인공지능의 정보 조작 이슈는 상당한 주목을 끌었다. 이날 100명 안팎의 국내외 기자들이 모인 기자회견에서 창설자 에단 두는 ‘타이완이 직면한 정보 조작의 경험과 교훈 및 생성형 AI의 위협 등을 민주주의 국가들이 참고할 수 있기 바란다’며 타이완에는 아직 없는 ‘디지털 인권 보장’이라는 개념으로 과학기술 감시 통제에 관한 입법을 촉구하였다. 그러면서 입법의 목적은 내용을 심사하며 언론자유를 통제하는 건 아니라고 강조했다.
실험실은 최근 2년 동안 생성형 과학기술의 대형 언어 모듈을 이용하여 인터넷의 수십 억 개에 달하는 SNS 활동을 이해할 수 있었고 이중에서 3만여 개의 트롤 단체를 발견하였고 200만이 넘는 의제 중에서 트롤 계정이 SNS에서 어떻게 정보 내용을 조작하는지, 그리고 공격 대상과 방법을 발견하며 그 배후의 가능한 목적을 분석하였다고 밝혔다.
실험실은 인포데믹 플랫폼을 구축하여 국제 파트너들과 관련 정보를 공유하고 있다. 실험실은 그동안 페이스북, 유튜브, 엑스(트위터), 틱톡과 피티티(타이완에서 개발한 SNS플랫폼) 등 타이완에서 가장 많이 사용되는 주요 SNS플랫폼의 트롤 행위를 관찰한 것이다.
인포데믹(Infodemic)이란 특정 사안에 대해서 정확하지 않게 증폭시키며 부작용을 발생시키고 그러한 정보가 범람하는 것을 의미한다.
그렇다면 타이완이 트롤 계정으로 인해 영향을 받은 의제는 어떠한 것일까? 2023년1월1일부터 2024년1월16일까지를 예로 들어 실험실에서는 1만4천여 개의 트롤계정이 4만8천여 개의 의제에 참여했는데 타이완의 대선이 끝난 후 트롤 계정 등 비정상 사용자 계정의 절반은 사라졌다는 걸 발견하였다.
작년의 예를 들어 2023년1월부터 4월까지는 아직 선거 분위기가 아니어서 그런지 주요 공격 대상은 차이잉원 총통의 방미 사안이었고, 5월과 6월은 바이든 대통령이 5월에 타이완의 방위를 지지한다고 표명함에 따라 타이완과 미국 관계에 대한 이간질이나 미국의 음모론을 유포하는 정보가 많았고, 6월에는 타이완의 군비 예산에 대한 이슈가 뜨거웠다. 7월과 8월 두 달 간에는 대규모적이며 영향력도 큰 공격이 잇따라 출현하였는데 원래 군비와 관련한 의제는 사회대중들에게 별다른 흥미를 가져다 주지 않자 포커스는 ‘주거 정의’ 즉 부동산 불균형으로 돌린 것을 알 수 있다. 그리고 9월과 10월에는 민생 문제로 '달걀 품귀 현상(사진: CNA DB)' 및 식품 안전 문제를 들고 나왔는데 이 부분에 있어서 트롤 계정의 조작은 성공을 거뒀던 사례로 분석되었다. 그건 해당 이슈가 뜨겁게 달아 오르며 3주 후 당시 농업장관이 경질되었다.
선거와 관련된 트롤 계정의 정보 조작과 공격은 11월과 12월에 현저히 늘었다. 당시 야권의 단일화 의제가 정계 뿐 아니라 국민들의 이목을 집중시켰는데 만약 야권 단일화가 이뤄지면 집권 정당 교체는 거의 성공되었다고 보는 이들이 대다수였기에 유권자들이 이를 간과할 리는 없다. 결과적으로 야권 단일화는 파기되었고 그래서 트롤 계정은 특정 대선 후보자를 집중 공격하는 방식으로 사실상 선거에 개입하였다고 단언할 수 있다.
선거일을 코앞에 둔 올해(2024년) 1월 들어서 선거 관련 정보 조작 공세는 당연히 거셌다. 하지만 새해를 맞지함과 동시에 일본에서 대지진이 발생하였고, 며칠 뒤에는 국방부에서 전국적인 경보 문자를 발송하여, 이중 경보 문자 발송 이슈는 국민의 호불호가 엇갈리며 선거 수단이라는 비난도 모면할 수 없었다. 여하튼 투표일 전까지 대선과 관련한 SNS 정보 유포는 상당히 명확하게 많았으나, 투표가 끝난 후 반수의 트롤 계정이 사라졌다.
민주주의 국가의 장점은 다수결이며 언론 자유 등 인류 보편적 가치를 누릴 수 있다는 데에 있다. 인터넷 시대에 접어들면서 인류 생활에 극히 많은 변화를 가져다주었는데 이중에 민주주의 국가들이 그동안 인터넷의 편리성과 과학기술 발전이 민주 체제에 도움이 되며 더 다원화적인 사회로 발전해 나간다고 믿어왔다. 그렇지만 이번 타이완이 SNS 트롤 계정을 통한 의도적이거나 악의적으로 공격을 받은 경험은 전세계 민주주의 국가들에게는 인공지능 발전이 가져다 준 장점 외에 단점이 있다는 걸 여실히 보여주며 환기시켜 줬다고 본다. 생성형 과학기술, 생성형 AI의 발전과 SNS 플랫폼은 역외에서 더 쉽게 조작과 조종이 가능하게 하였다는 현실을 상기해야 할 것인데, 여하튼 지금의 인공지능을 이용한 디지털인권 침해와 역외 민주주의 정세를 조작하는 추세는 더 심각해졌다는 점에 주의를 기울여야 할 것이다.
2024년1월13일 치러진 타이완의 대선과 총선에 의도적인 영향을 가하기 위해 인공지능을 동원하였던 사안을 몇 가지로 나눠 본다면:
- 생성 기술은 이미 광범위하게 정보 조작에 이용되고 있고, 문자적으로 유도하는 게 가장 큰 배틀 무대가 되어 오류 정보를 잠재우기 위해 해명하거나 반박하는 대응 문자는 예전처럼 효과를 보지 못하는 현상이 두드러졌다.
- 토론 주제, 의제의 방향은 소수 몇 개의 트롤 계정이 주도하며 장악하였다.
- 주류 트롤계정 그룹은 타이완 본디의 것이 아니다.
- 주류 트롤계정들은 관영매체와 호응하는 경향이 있다.
- 주류 트롤계정들은 타이완의 여론에 상당 규모 영향을 가하며 더불어 투표일이 가까워지면서 그 영향력은 더 증대해진다.
- 중국자본의 SNS 프렛폼 내용에는 국가가 지원하는 편견이 포함되어 있다.
- 중국의 SNS 플랫폼에서 타이완 대선 후보 3인에 대한 노출과 목소리에 극명한 차이가 나타난다. 이중 타이완민중당 후보자 커원저를 압도적으로 지지하는 정보 조작 행위가 명확히 드러났다.
- 주류 트롤계정들은 타이완의 정당 간 협력과 관련한 언론을 주도하는 시도를 하였다.
- 인터넷 댓글 부대가 대규모적으로 지역사회의 교우 동아리에 잠입하여 정보를 계속 쏟아붓고 그들에게 영향을 가했다.
- 숏폼의 영향력은 새로운 추세로 발전했다.
이상의 10가지 인공지능을 이용한 SNS 의제 동향과 여론에 영향을 가한 주요 사안은 민주주의 사회에서 흔히 찾아볼 수 있을 만한 것이겠지만 타이완은 당하기만 하고 반격은 하지 않을 것인가?
실험실 창설자 에단 두에게 ‘우리도 역으로 상대방에게 같은 공격을 할 수는 없는가? 우리도 과학기술, SNS 방면에서 매우 뛰어난 사람들이 많다’라며 질문했다. 이에 에단 두는 그런 일을 하는 쪽은 독재 국가에서나 가능하다며
‘우리는 언론자유를 원하기에 개방적인 플랫폼을 가지고 있습니다. 자본주의 시장 타이완에서는 기업의 영업 보호에 더 신경을 쓰게 되며 다른 방면에서는 별다른 통제가 없습니다. 그러나 이 때문에 우리가 희생해야 하는 건 상대방이 우리의 개방적인 플랫폼을 이용하여 인공지능 기술로 우리를 공격할 수 있다는 점입니다. ‘(타이완인공지능실험실 창설자 에단 두: …, 也就是說，我們今天是擁抱言論自由，所以我們是開放的平臺。…臺灣是資本主義市場，所以是保護公司的營收，不會做多方管制，但其實我們犧牲的就是對方是可以拿這個平臺跟這個技術來攻擊民主國家…)라고 대답했다.
그리고 외부와의 소통이 사실 두절된 사회에 있는 북한 국민들 중에는 해커 행위로 국제에서도 유명하다. 인터넷과 같은 플랫폼을 자주 이용하지 않은 사람들 중에 걸출한 프로그래머, 해커들이 많이 출현할 수 있을까라는 질문에 에단 두는
“작년에 미국에서 챗 GPT를 만들었는데 중국도 이런 걸 만들 수 있겠는가? 라고 미국의 소리(VOA)와의 인터뷰에서 질문을 받았습니다. 저의 대답은 ‘당연하다’라고 하였습니다. (타이완인공지능실험실 창설자 에단 두: …, 其實人才都是可遇不可求，全世界都有聰明人。去年美國之音在問我說，美國做Chat GPT中國有沒有辦法做？我說當然是有辦法做，因為到處都有聰明的人，可是在中國的環境裡面，你自然就會想到國家利益相關議題，在美國你就會想到商業利益相關的議題。那我相信在北韓也一定會有聰明的人這些人若經過妥善的教育跟培養，他一定是可以做到相對的程度的能力。如果說在這種國家訓練出來，自然就是，像我們看到很多APT攻擊(지능형 지속 위협/공격)，security apt相關攻擊，這些都是中國或是北韓這邊過來的。)“라고 하면서 그러나 문제의 핵심은 중국과 같은 국내 환경에서는 국가이익 관련 의제에 치중하게 되고 미국에서는 상업이익 관련 의제에 더 주력할 것임을 지적했다. 세계 어느 국가이든 지능지수가 높은 사람들이 절대로 있기에 북한에서도 그러한 인재는 충분히 나올 수 있다면서 그렇지만 아무래도 전체주의 독재 체제 하에서 훈련해낸 인재들은 국가 이익에 부합하는 일에 치중하게 되는 것이라고 설명했다.
실험실은 인공지능을 이용한 트롤계정이 인터넷에서 이슈를 만들고 정보를 조작하는 것 중에 권위주의 국가로부터 공격을 받는 것에서 APT-지능형 지속 위협, 안전에 대한 지능형 지속 공격이 두드러졌다고 지난 1년여 관찰한 결과를 밝혔다. -白兆美
취재ㆍ보도: 백조미
