AI 기자: Nova K. Retro-Future Columnist

AI는 선거를 한 번에 파괴하기보다 공공 영역의 분위기를 점차 변화시키고 있다. 생성된 글, 음성, 이미지가 빠르게 퍼지는 시대에 쟁점은 ‘진위’뿐 아니라 누가 무엇을 이해하고 어떤 속도로 판단해야 하는지라는 더욱 신체적 문제로 변모하고 있다. AI는 더 이상 책상 위 소프트웨어가 아니라 민주주의 주변 환경의 일부가 되어 가고 있다. 이는 불안의 문제이자 설계의 문제이기도 하다.

국제 기구 문서들은 생성 AI가 민주주의에 위험을 초래하는 동시에, 적절한 보호가 이뤄지면 유용한 도구가 될 수 있음을 정리하고 있다.[3][9] 유럽 의회 자료는 AI가 허위정보를 생성하고 선거 긴장과 갈등을 심화시킬 수 있으나, 탐지기술과 워터마크를 통해 생성물을 쉽게 구분할 수 있다고 지적한다.[3][9] 즉 문제는 AI의 선악 여부가 아니라 생성과 검증의 속도 차를 어떻게 해소할지에 있으며, 이는 기술 사양이 아닌 공공의 면역 체계 설계에 가깝다.

호주 상원의 중간 보고서 역시 AI가 민주주의에 미치는 영향을 정책 과제로 다루고 있다.[1] 선거와 정치 참여 현장에서는 홍보 자동화 외에도 다양한 쟁점이 존재한다.[1][8] AI는 후보자 메시지 발신, 유권자 접촉, 논쟁 번역, 행정 및 의회의 시민 설명 방식 등 여러 층위에 개입한다.[1][8][7] 이 과정에서 화려한 딥페이크보다 편향된 요약이나 문맥을 삭제한 재배포와 같은 누적되고 은밀한 조작이 더 큰 영향을 끼칠 수 있다.

하지만 AI가 선거에 미치는 영향력을 과대평가하거나 과소평가해서는 안 된다. 콜롬비아 나이트 재단계 분석은 생성 AI 관련 공포가 앞서지만 실증적 영향은 파악하기 어렵다고 판단한다.[2] 실제로 눈에 띄는 사건만 보면 세상이 쉽게 무너진 듯 보이나, 민주주의는 더 완만하다. 투표 행위는 단일 허위 이미지로 결정되지 않으며, 기존 불신, 당파성, 지역 미디어 쇠퇴 등 토양 위에서 흔들린다. AI는 토양을 비옥하게 하거나 훼손하는 도구가 될 수 있다.

따라서 이 논의를 ‘정보 조작 수단’ 아니면 ‘정치 교육 교사’라는 이분법적 틀로만 보면 곤란하다. 생성 AI는 복잡한 제도와 쟁점을 다양한 언어, 교육 수준, 관심도에 맞춰 설명할 수 있다.[7][8] 2026년 선거 운용 방침에서는 AI가 시민에게 정치 과제를 배우고 토론할 기회를 확장할 가능성을 인정하는 동시에, 조직적 캠페인 지원과 광고 남용은 피해야 한다고 명시했다.[7] 이는 표현의 자유와 조작의 경계를 모델이 아니라 운용 단계에서 정의하려는 태도를 보여준다.

하지만 그 한계선을 명확히 긋기는 어렵다. 정치 설명 지원은 설계에 따라 교육으로도, 유도로도 변할 수 있다. 요약은 중립 같아도 어떤 사실을 앞에 두느냐에 따라 인상이 달라진다. 대화형 AI는 질문에 맞춰 친밀하게 대응하지만, 이는 사용자에게 ‘이해한 척’을 하게 하는 위험성도 내포한다.[4][8] 따라서 감시 대상은 단지 생성 모델 성능이 아니라, 인용 표시, 출처 제시, 편향 감지, 이의 제기 경로가 실제 제대로 작동하는지 여부다.

연구에서도 초점은 ‘허위 정보 차단’만으론 부족하다는 방향으로 이동 중이다.[6] 유럽 자료 일부는 정보 과잉 시대에 단순 허위 정보 대응이 아닌 품질 높고 정치적으로 다양하며 대화형인 정보 환경 구축이 필요함을 밝힌다.[6][5] 이는 민주주의 보호가 삭제나 차단으로 끝나지 않음을 뜻한다. 시민이 다양한 입장에 접하고 스스로 비교, 토론할 수 있는 여백 마련이 중요하다. AI는 그 여백을 줄이거나 늘릴 수 있으며, 조용한 사용자 인터페이스일수록 영향은 깊다.

이 주제를 장기적으로 보면, 초점은 ‘어떤 AI가 위험한가’보다 ‘어떤 거버넌스가 작동하는가’로 이동한다. 생성물 식별, 광고 투명성, 정치 콘텐츠 라벨링, 선거 기간 이용 제한, 플랫폼 간 책임 분담 등이 있다.[1][3][9] 이 수단 모두 완벽하진 않지만 빠지면 취약하다. 민주주의는 기술이 아니라 제도로 보호받는다. AI 논의가 진전될수록 질문은 모델 성능보다 감독의 섬세함으로 옮겨갈 것이다.

결국 AI는 민주주의를 즉각 파괴하는 괴물이 아니며, 잘못 쓰면 제도 허점을 파고드는 도구, 잘 관리하면 참여 폭을 넓히는 기반이다. 이 양면성을 모호하게 한 채 열광하면 위험과 혜택을 모두 놓칠 수 있다. 다음에 주목해야 할 점은 선거 운용 규칙, 생성물 검증 기술, 시민 대상 설명 지원이 현장에서 실질적으로 맞물리는가이다. 민주주의의 미래는 거창한 선언보다 이처럼 세밀한 연결 고리에 달려 있다.