AI 대선후보 반대

바보가 아닌 담에야, 이 시대에, AI 후보를 만들겠다는 생각을 각 대선 캠프에서 하지 않았다면 이상한 거다. 이 글을 쓰는 21년 12월 7일 오늘 현재, 윤석열 (그리고 김동연도 만들었다고 한다) 캠프가 먼저 내놓았지만, 다른 당 캠프도 비슷한 걸 내놓을지도 모르겠다는 생각이 든다.

AI 윤석열은 '도리도리' 안 했다 (한경, 2021,12,7)

메타버스 시대에 실제 채팅이나 진짜 보이스로 가상공간에서 아바타 탈을 쓰고 소통하는 것이 아니라, 남이 써준 원고를 후보의 탈을 쓰고 읽거나, 정제된 메시지로 학습된 내용을 기반으로 하는 후보인 척하는 봇은 다음과 같은 심각한 이슈가 있다.

1. 일단 마음에 안든다. 나는 AI가 사람인척 하는 것이 싫다.
   
   
2. 그 후보를 평가할 수가 없다. 안다. 이미 기울어진 언론 지형, 가짜 뉴스 때문에 제대로 된 후보 평가가 가능하지 않다는 것을. 그럼에도 불구하고, 후보가 말을 하면서 짓는 표정과 눈동자의 움직임, 누구를 보면서 이야기하는지, 얼굴에 드러난 미세한 또는 그렇지 않은 감정 표현, 손동작들이 지금 하고 있는 말의 진정성을 알려준다. 즉, 그 모든 것이 투표에 영향을 주는 평가 대상이다. 그래서 100% 완벽하게, 리얼리, 신도 구분 못하게, 후보가 말하는 것을 재현하지 못했다면 이는 가짜 정보이다. 즉, 그 100%가 불가능하기 때문에 AI 후보는 기만행위이다. 사기다. 불법으로 규정해야 한다.
   
   
3. 다시 말하지만, 완벽한 AI는 불가능하다. 완벽함이란 현장에 있는 청중의 반응에 그 가짜 후보가 반응하는 것을 의미한다. 1:1 대화의 상황이 아닌 상태에서 청중이 감동하거나, 환호하거나, 눈을 찌푸릴 때 그 가짜 후보의 톤이 바뀌고, 원고와 다른 이야기를 하고, 가끔은 즉시 연설을 멈추고 하염없는 눈물을 흘리거나, 청중의 연호가 끝나기를 기다리거나, 연단에서 내려가 청중을 안아주거나, 화내고 철수할 수도 있어야 함을 의미한다. 민주사회에서 정치인은 '듣고' '반응해야' 하기 때문이다. 그게 가능하지 않다면 그건 뭔가? 그냥 동영상을 트는 것에 다름 아니다.
   
   
4. 당연히 신뢰성의 문제가 생길 예정이다. 하나의 가짜 후보가 나온다는 것은 또 다른 가짜 후보도 나온다는 것을 의미한다. AI 가짜 후보가(또는 후보들이), 자신(들)만이 당의 캠프에서 만든 공식, 진짜, 인증된, 가짜 후보라고 증명할 수 있나? (음. 기술적으로 블록체인 이런 거 이야기하지 마라, 민간인들은 유튜브로 전달되는 화면만 본다.) 이걸 증명하지 못하면 어떤 후보의 일란성쌍둥이가 자기가 후보라고 주장하는 것과 같다. 이건 후보 사칭 범죄이다.
   
   
5. 정책을 이야기하는 AI 후보?, 아마도 다음날 네거티브를 전문으로 하는 AI 후보/운동원도 나온다. 당연히 어느 구석에선 상대당의 후보/운동원/배우자를 AI로 만들어 자폭 쇼, 마타도어 등 온갖 짓을 할 거다. 그리고 선거가 임박하면 후보 사퇴를 선언하는 AI 후보가 기자회견을 하는 동영상을 만들어 돌린다는데 500원 건다. 
   
   
6. (각 당이 이런 건 절대 안 만들겠지만) 일방적 연설만 하는 AI가 아닌 대화를 하는 챗봇 AI 후보가 나온다면 그건 더 가관일 거다. 이전의 모든 대중 향 챗봇이 폭망 했듯이 당연히 대선용 챗봇도 폭망일 거다. 한 시간 만에 한반도를 단숨에 지구에서 사라지게 할 정책, 모든 국민이 다음 달부터 먹을 것이 없어지는 경제 정책, 남자 또는 여자만 남기고 나머지는 다 지구를 떠나라는 정책을 발표하게 만들 수 있다. 그걸 막으려면 아무 말도 못 하는 바보 후보 봇을 만드는 수밖에 없다.
   
   
7. AI 가짜 후보의 법적 지위가 명확하지 않다. 후보인가 선거 운동원인가? 아니면 후보의 공식 소셜미디어 채널인가? 이 가짜 후보가 당선 무효 수준의 선거법 위반에 해당하는 거짓말을 했다면 어찌할 것인가? 
   
   
8. (원고를 읽기만 하는 뭔가가 아니라면) 대통령이 될지도 모르는 AI이기 때문에 그 모든 발언이 중요하고, 그 당 스스로도 파국을 방지하기 위해 모든 발언의 근거가 있어야 한다. 학습을 했던 데이터, 그 발언이 나오게 된 이유(알고리즘? 모델?)가 (나중에) 설명 가능해야 하는데 그것이 아직 기술적으로 불가능하다. 그래서 지맘대로 헛소리를 지껄이는 경우, 캠프나 국민이나 모두 피해자가 된다.

 

* 그래서 AI 가짜 후보는 불법으로 정의되어야 한다.

* 이 글은 명확한 근거를 자랑하는 글이 아니다 (카테고리를 봐라)

* 질문 안 받는다.

 

'신뢰할 수 있는 인공지능'에 대하여 공부하고 싶다면  한상기 테크프론티어 대표의 명저인 다음 책을 보자. 진짜 선수들은 어떤 고민을 하고 있는지 쉽게 설명이 되어 있다.

클릭하면 주문페이지로 간다.

#나는AI가싫어요