자기주장과 반론이 가능한 인공지능의 현주소와 행보

아이언맨 시리즈에서 수많은 활약을 펼친 인공지능 컴퓨터 자비스를 기억하시나요? 주인공인 토니 스타크는 자비스를 너무 맹신한 나머지 모든 결정권을 자비스에게 주고, 결국 자비스가 해킹 당하기까지 하는 장면은 우리에게 인공지능의 무서움을 자각시켜주곤 합니다. 그렇다면 영화가 아닌 현실 세계에서의 인공지능은 어떤 모습일까요? 자신의 의견을 내비치는 인공지능의 현주소와 그 인공지능이 나아갈 방향에 대해 논해 보았습니다.

 

토니 스타크의 기분까지 헤아려주는 자비스, 현실에서는 얼마나 발전 되었을까요?

토의에 참여 가능한 인공지능, 그 수준은?

논쟁은 그리스 시대부터 인간이 특히 애용하는 능력입니다. 식사 자리에서 흔히 볼 수 있는 시시콜콜한 가십거리를 두고 하는 언쟁부터 시작하여 미국의 두 대통령 후보자가 진행하는 TV토론까지, 다양한 곳에서 발견되고 있습니다. 다른 사람이 가지고 있는 생각에 의문을 가지고 반론을 제기하는 이러한 성질은 진화론적 관점에서도 큰 도움이 되었을 것입니다.

사람과 사람 사이 대화로부터 기인해 온 논쟁의 사회적 성질로 인해 인공지능은 우리와 비슷한 논쟁 능력을 갖추기 매우 힘들었습니다. 하지만 이와 달리 사실 관계를 묻는 질문들에 인공지능이 답을 내놓을 수 있도록 하는 데엔 문제가 없습니다. 무려 5년 전에도 IBM사에서 만든 왓슨 슈퍼컴퓨터가 미국 유명 퀴즈 프로그램 Jeopardy에서 1등을 한 것을 보면, 현재 인공지능은 ‘대한민국 국보 1위는?’과 같은 단순한 질문들에는 수많은 데이터 저장소를 이용해 충분히 쉽게 답을 내놓 수 있습니다.

슈퍼컴퓨터 왓슨이 퀴즈 프로그램 Jeopardy에서 사람을 이기는 장면 (유튜브에서 보기)

그러나 현실 세계에서 필요한 수많은 질문들은 이러한 사실 관계를 전혀 필요로 하지 않습니다. 이스라엘의 IBM Haifa Research Lab에 재직중인 Noam Slonim은 논쟁 가능한 컴퓨터를 만드는 선두주자입니다. IBM사에서 만든 슈퍼컴퓨터가 유명 퀴즈 프로그램에 우승한 이래로 ‘자기 주장이 가능한 기계를 만들자’라는 모토 하나로 시작한 그는 컴퓨터가 특정 논조의 말을 할 수 있도록 하기 위해 수많은 난관에 봉착했다고 합니다.

맨 처음 봉착한 문제가 바로 ‘문장의 의미’ 였습니다. 한 질문이 주어졌을 때, 그 질문에 대해 증거로 뒷받침되는 논지를 펼치기 위해서는 가장 먼저 질문을 이해해야 합니다. 그 질문 안의 단어들이 내포하는 의미들에 더하여 각 단어의 정의에 의해 나타나는 의미를 구분해 주어야 컴퓨터에서 적절한 의미를 찾을 수 있기 때문입니다. 예를 들어 ‘폭력적인 게임을 아이들에게 팔아도 되는가’라는 질문에 대해 주장을 펼친다고 할 때, ‘폭력적인 게임을 아이들에게 팔지 말아야 한다’는 문장은 의견을 말하는 문장이지만, 한 쪽의 부분만 말하고 있습니다. 반면에 ‘정부는 국민들의 활동에 제약을 두어서는 안된다’는 문장의 경우, 적절한 의견이 제시된 문장일 수 있지만 질문과의 연관성이 모호하다는 단점이 있습니다.

이러한 문장의 구별점을 찾기 위해 Slonim 연구팀은 위키피디아를 연구하기로 했습니다. 온라인 백과사전이라는 위키피디아의 특징 때문에 한 주제에 대해 찬성과 반대의 주장이 다양하게 제시되어 있기 때문입니다. 그러나 5억개 이상의 문장에서 그 글 안의 의견을 찾기란 쉬운 일이 아닌 듯 합니다. Slonim 박사는 ‘모래사장에서 바늘을 찾는다기보단 모래사장에서 특정한 모래알을 찾는 과정과 같다’며 이 작업의 난이도를 강조했습니다.

문장들 속에 숨어있는 글 속의 주장을 찾기 위해 연구팀은 일반적인 문장과 주장을 구별해 낼 수 있는 주요 특징들을 분석하고 있습니다. 예를 들어 의견을 제시한 문장의 경우 특정 시간과 장소를 포함하는 경우가 많으며, 감정적인 단어를 포함하는 경우가 많습니다. 연구팀은 문장의 특징 분석을 통해 전문가가 말한 의견과 만들어진 의견을 구별해 낼 수 있는 것을 목표로 하고 있습니다. 이에 더해 특정한 주장을 지지해주는 증거를 좀 더 관심을 끌 수 있게 제시하는 방법론까지 연구한다고 합니다.

동시에 영국 던디 대학교의 Chris Reed 교수는 인공지능을 훈련시키기 위해 필요한 토의들을 분석하고 분류해 나가고 있습니다. 라디오에서 진행되는 토론 뿐 아니라 신문 사설, 방송 및 온라인 사이트 포스팅까지, 모든 종류의 토의들을 모아 argument map을 만들어 나가고 있으며, 이는 아직 진행중입니다.(aifdb.org 에서 볼 수 있습니다.)

 

"컴퓨터가 인류보다 똑똑해진다면 어떻게 될까?"에 관한 테드 강연.

자의식이 있는 인공지능의 첫 걸음은 의견 제시가 가능한 인공지능입니다. (유튜브에서 보기)

향후 인공지능의 행보

논쟁을 하는 데 있어서 소위 말하는 ‘팩트’만 가지고는 이기기 힘듭니다. Slonim 박사도 이 사실을 언급하며, 토의에 있어 한 사람의 마음을 움직이는 데엔 생각보다 많은 감정적인 요소가 영향을 준다고 했습니다. 이는 고대부터 이미 많은 철학가들이 파악한 사실입니다. 아리스토텔레스는 설득의 수단에 세 가지 종류가 있다고 주장했습니다. 첫 번째는 화자의 인품에서(에토스-ethos : 변론가가 지녀야 할 성격), 두 번째는 청중에게 올바른 태도를 자아내는 데 있으며(파토스- pathos : 청중의 심리적 경향 및 욕구), 세 번째는 논거 자체가 그럴싸하게 뒷받침되느냐(로고스- logos : 논증 및 논거)에 있다고 했습니다. 예를 들어 트럼프의 ‘Believe me’와 같은 슬로건은 그의 권위를 존경하라는 ethos를 강조한 설득이며, 영국이 EU에서 나가게 된 국민투표의 결과의 경우 청중들의 심리가 논리적 주장을 이긴 경우로, 파토스가 로고스를 이긴 경우라 볼 수 있습니다.

인공지능이 정확한 설득의 주장을 펼치려면 사실에 기인한 로고스 방식의 설득뿐 아니라 나머지 두 방식을 이용하는 데에도 능숙해야 할 것입니다. 그렇기 위해서는 현재 진행되는 수 많은 토의와 같이 청중의 심리 뿐 아니라 변론가의 성격까지 고려하여야 합니다. 사람들은 자신의 말 속에 자신의 저의를 숨기기 위해 간교한 속임수를 쓰곤 하는데, 인공지능 또한 토론을 하는 데 있어서 그러한 능력을 익혀야 할 것입니다. 문제는 사람들이 이런 논쟁을 펼치는 인공지능을 필요로 할 것인가? 입니다.

이 문제에 대해 영국 임페리얼 대학교의 교수 Francesca Toni는 자신의 강의에서 “논증(argumentation)이야말로 현대 사회에 만연한 갈등을 해결해 줄 수 있는 것”이라며, “이러한 논증을 펼칠 수 있는 인공지능이 있다면 여러 갈등들의 논점을 좀 더 쉽게 파악할 수 있도록 도와줄 것이며, 섣부른 판단에 의해 발생되는 실수를 줄여줄 것이다”고 합니다. 영국 던디 대학교의 Chris Reed 교수 또한 “높은 수준의 논의를 도와주기 위한 AI 기술을 개발해야 한다”며 논증이 가능한 인공지능이 사회에서 일어나는 토론의 수준을 높이는 데 기여할 수 있다고 했습니다.

논쟁이 가능한 인공지능을 우리가 소화해 낼 수 있는지는 아직 미지수입니다. 특정 대선주자에 대한 지지, 지구온난화 문제, 북핵 논쟁 등 여러 가지 주제에 대해 애초에 인공지능의 의견을 낼 수 있는 것인지 많은 사람들이 의구심을 품고 있습니다. 하지만 마찬가지로 20년 전 대부분의 사람들은 간단한 질문에 답을 할 수 있는 아이폰의 Siri 나 이세돌을 이긴 Deepmind사의 알파고와 같은 인공지능의 구현이 가능할 것이라고 생각하지 않았습니다.

인공지능 개발에 반대하는 사람들은 인공지능이 그것을 만든 연구자들의 편견을 반영하지 않는 것이 불가능하다고 주장합니다. 진보적 성향에 치우친 신문 기사들을 기반으로 데이터베이스를 구축한 인공지능은 어쩔 수 없이 진보적 성향의 주장을 펼칠 것입니다. 어쩌면 인공지능은 심하게 편향되어 있는 정치적 성향의 글들로 도배된 여러 미디어의 정보를 토대로 주장을 펼치게 되겠지만, 만약 사람과 다른 것이 있다면 인공지능의 무한한 검색 능력에 있을 것입니다. 로고스에 준하여 펼쳐지는 논증, ‘팩트폭력’이라고 하는 이 방법은 인공지능이 합리적인 의견을 만들어내는 데 큰 역할을 할 것으로 기대됩니다.

참고 기사

Computers that can argue will be satnav for the moral maze

AI can join the fight back against the post-truth world

에티 페이스북 페이지를 통해 다른 에티의 소식도 받아보세요