Three Questions for the Future of Humanity and Technology

인간과 기술의 미래에 대한 세 가지 질문

2 0 1 6

연구진

KAIST 문화기술대학원 이동만 교수 | 이원재 교수 | 도영임 교수

참여연구원

KAIST 문화기술대학원 나정환 연구원 | 임지민 연구원

차세대융합기술연구원 이슬 연구원

편집 / 오세범 연구원 KAIST 문화기술대학원

사진 / 나정환 연구원 KAIST 문화기술대학원

요약문 Summary

정보통신기술이 글로벌 세계에 확산된 지 20년이 지난 지금, 인류는 기회와 위험을 동시에 안고 사물인터넷과 인공지능 등 미래 기술 시대를 맞이하고 있다. 새로운 미래에 대한 대비책이 필요하지만 기술 혁신을 둘러싼 사회, 윤리적 문제에 대한 논의나 합의는 아직까지 충분히 이루어지지 못하고 있는 상황이다. 기술 발전 속도는 점점 빨라지는데, 이에 대비하기 위한 사회적 노력은 이를 여전히 더디게 쫓아가고 있다.

미래 기술의 발전과 우리 삶의 변화에 대해 사회학, 심리학, 정보통신기술, 로봇공학, 정책 각 분야 전문가들은 어떻게 인식하고, 어떤 고민을 하고 있을까. 연구진은 약 4개월에 걸쳐 미래 기술이 바꿔놓을 우리 삶의 영역들과 기술의 긍정적, 부정적 영향에 대해 연구하고, 4회의 포럼과 대담을 통해 기술공학자, 인문학자, 정책입안자, 언론인, 소설가 등 다양한 배경을 가진 전문가들과 함께 미래 기술 문제에 관해 토론하였다.

본 보고서에서는 기술과 사회에 대한 다각적인 이해를 바탕으로 미래 기술로 인해 예상되는 삶의 변화와 새로운 기회, 예상되는 문제에 대해 균형 잡힌 시각을 제시함으로서, 인간을 더욱 인간답고 행복하게 만들어줄 수 있는 기술의 발전 방향에 대해 탐구하고자 한다.

미래 기술 변화를 어떻게 바라보아야 할까?

인공지능의 눈부신 발전과 함께 미래 기술에 대해 우려와 두려움이 나타나고 있다. 우리가 미래에 대해 가지는 두려움은 타당한 것일까?

새로운 기술이 도입될 때마다 우리 사회는 커다란 변화와 혼란을 겪어 왔다. 그럼 왜 지금 시점에 미래 기술에 대한 더 깊은 고민과 예측, 대비가 필요할까? 그것은 보다 세계화되고 복잡해지며, 보이지 않는 형태로 빠르게 발전하는 기술의 불확실성 Uncertainty 때문이다. 첫째, 기술 변화의 속도는 점점 빨라지고 있고, 더 많은 변화를 가져올 기술들이 더 빠른 속도로 우리 삶에 들어오게 될 것이다. 둘째, 기술은 세대를 거듭하며 점점 복잡하게 진화하고 있다. 미래 기술은 더 새로운 기능, 더 복잡한 회로와 알고리즘을 갖추고 우리 삶에 들어올 것이다. 셋째, 기술 혁신은 지역과 분야를 초월해 이루어지며, 하나의 기술에도 다양한 이해관계자가 관여하고 있다. 기술이 발달할수록, 기존의 접근만으로는 이를 통제하고 이끌어나가기 어려워질 것이다. 넷째, 미래 기술의 가장 중요한 특징은 우리 일상에 스며들며 융합하는 형태로 진화한다는 것이다. 이 때문에 미래 기술이 어떻게 변화할지 예측이 더욱 힘들고, 사람들은 기술의 편리성에 익숙해져서 그 위험을 인지하기 어렵다. 이러한 예측불가능한 특성 때문에 우리는 지금, 기술의 발전과 미래 변화에 대해 더욱 고민하고 대비할 필요가 있다.

그렇다면 우리는 이렇게 ‘예측불가능한’ 속도로 발전하는 기술과 이로 인한 우리 삶의 변화를 두려운 마음으로 바라보아야 할까? 역사적으로 기술의 발전은 예측하지 못한 다양한 변화들을 수반해 왔다. 과거에도 항상 새로운 기술의 발전은 예측불가능한 결과를 만들어왔고, 인류는 거기에 적응하며 새로운 삶의 방식을 만들어왔다. 신기술 도입의 혼란을 최소화하는 방법은 미래 기술의 영향에 대해 충분히 고찰하고 최대한 많은 경우의 수를 고려하며, 무지와 불안에서 오는 두려움에서 벗어나 변화에 적응해나가는 것이다. 어떤 기술이든 밝은 면과 어두운 면을 가지고 있다. 우리가 항상 안전한 기술만을 선택했다면 문명의 발전은 없었을 것이다. 기술의 어떤 면을 발현시키는가는 이를 다루는 방식에 달려 있다. 언젠가 도입될 수밖에 없는 어떤 기술이 사회에 가져올 부정적인 효과가 예상된다면, 최악의 상황에 대해 불안해하며 배척하기보다는 이를 예방하기 위한 방법을 모색해야 한다.

기술은 점점 복잡해지고 있지만 사람들이 이에 적응하고 사회 담론과 건강한 문화를 형성할 수 있는 기간은 오히려 짧아지고 있다. 불확실한 미래 사회에 대비하기 위해서는 우리의 현재와 미래 주요 이슈에 대한 종합적인 이해가 필요하다. 또한 기술 발전에 대해 서로 다른 관점을 가진 사람들이 공동의 이해에 바탕을 두고 미래를 함께 창조해나가야 한다. 앞으로 점점 더 빠르게, 더 많은복잡한 기술들이 밀려올 것이다. 미래 기술로 인한 변화의 물결을 피해갈 수 없다면, 급한 물살로 인한 피해를 줄이고 오히려 그 흐름을 타 멀리 나아갈 수 있도록 하는 현명한 대처 방법을 찾아야 할 것이다.

미래 기술은 어떤 기회와 위험을 가져올까?

예측할 수 없는 변화, 인공지능

현재 인공지능의 핵심을 이루는 딥러닝(Deep Learning) 알고리즘의 강력한 점이자 무서운 점은 프로그램을 만든 사람조차 무슨 일이 일어나는지 알 수 없는 ‘은닉층(Hidden Layer)’의 존재이다. 이해할 수는 없지만 항상 최선의 결과를 만들어내는 인공지능을 사람들은 전적으로 신뢰하고, 나아가 신격화하게 될 수 있다. 만약 인공지능이 오류로 인해 잘못된 판단을 내렸을 때에도 사람들이 이를 맹신하고 따른다면 큰 문제로 이어질 수도 있다. 인공지능에 대한 또 한 가지 예측할 수 없는 불안은 많은 영화에서 다루어져 온, 인류를 공격하는 인공지능에 대한 것이다. 자율형 살상 로봇이 자아를 가지게 된다면 인류가 통제할 수 없는 살상 무기가 될 수 있다. 아직 인간의 자아에 대한 이해도 이루어지지 않은 상황에서 자아를 가진 인공지능에 대한 논의는 너무 이르다고 말하는 사람들도 있지만, 실현된다면 분명 인류에게 큰 위협이 될 것이다. 한편 인간을 빼닮은 휴머노이드로 인한 관계성 혼란의 문제도 있을 수 있다. 로봇과 인간의 상호작용은 인간 사이의 것과는 다르겠지만, 로봇과 함께 태어나는 세대는 자신에게 도움과 정서적 지지를 제공하는 로봇과의 상호작용을 당연하게 받아들이고, 더 선호하게 될 수도 있지 않을까? 앞으로 어떤 일이 일어날지는 알 수 없지만, 그 때문에 여러 관점에서 이 현상을 논의하고 다양한 가능성을 탐색할 필요가 있다.

새로운 기술로 예상되는 변화와 위험들

우리가 미래를 전부 예측할 수는 없지만, 어떤 변화들은 우리가 예측할 수 있는 범위 내에서 일어날 것이다. 미래 기술은 우리 삶에 거대한 변화를 만들며 기회와 위험을 제공할 것이다. 인공지능이 인간의 노동을 대체하여 더욱 풍족한 사회를 만들 여유를 제공할 수도 있고, 광범위한 실업을 가져와 경제 체계를 무너뜨릴 수도 있다. 개인화 서비스와 수요중심형 경제는 시간과 자원의 효율을 높여줄 수 있지만, 정보의 편향과 소득 불균형을 불러올 수도 있다. 사물인터넷과 빅데이터에 기반을 둔 스마트홈이나 자율주행자동차는 혁신적인 편리함을 제공할 것이지만, 프라이버시 침해나 보안 문제, 그리고 윤리적 문제를 동반한다. 기술이 인간을 행복하게 만드는 미래 사회를 위해서는 이러한 위험들을 우선 대비해야 한다.

미래 기술로 인해 우리의 삶은 어떻게 바뀔까?

기술은 어느 때보다 빠른 혁신을 만들어내고 있다. 지역과 국가의 경계를 넘어 언제 어디서나 연결된 세계 네트워크가 구축되고, 정치 형태가 변화하며, 경제 가치가 실물 자원에서 디지털 자원으로 옮겨가면서 새로운 부와 권력 체계가 나타날 것이다. 인공지능이 처리할 수 있는 업무의 범위가 넓어지면서 보다 값싼 노동력을 제공하는 기계에 의해 노동자들은 일자리를 잃고 새로운 직종을 찾아야 할 것이다. 직업의 의미가 변화하여 소득 체계에 혼란이 나타나고, 사람들의 역할 변화가 지속적으로 일어나면서 극단적으로는 안정된 삶이라는 개념자체가 허구가 될 수 있다. 인공지능이 인간의 노동력을 대신하고, 새로운 소득체계를 만들어 사람들이 노동을 하지 않고도 생활을 영위할 수 있다면 우리는 먹고 사는 문제에서 시간 개념과 삶의 가치의 재구성 문제로 시야를 넓혀야 할 것이다. 미래 기술 발전 양상은 과거의 산업혁명들과 다르게 나타난다. 변화는 더 빠르고 복합적으로 진행되는데 우리 사회의 합의 속도는 이를 따라가지 못하고 있고, 1차 산업혁명 때처럼 시간이 해결해 주기를 기다릴 수는 없을 것이다. 4차 산업혁명의 중심에 있는 인공지능은 인터넷이나 스마트폰, 전기자동차와 같은 새로운 단일 기술이 아닌 인간 사회의 본질을 변화시킬 기술이다. 여기에 대처하기 위해서는 기존의 방식에 안주하지 않고, 더 적극적인 논의를 통해 새로운 돌파구를 찾아야 한다.

새로운 기술이 가져올 문제를 어떻게 대처해야 할까?

미래 기술은 우리 사회에 커다란 변화를 가져올 것이다. 기술 발전이 인류에게 미칠 영향과 그 대처 방안에 대해 많은 논의가 있어 왔지만, 여전히 풀리지 않은 문제들과 예상치 못한 위험들이 존재한다. 미래 기술은 강력한 기회만큼 위험한 문제를 동반하기도 한다. 그 어느 때보다도 불확실한 미래가 예상되는 지금, 예측가능한, 또는 예측 불가능한 문제들에 대처하기 위해 우리 모두가함께 더 나은 미래를 위해 고민하고 노력해야 할 시점이다.

다양한 주체가 함께하는 담론 형성의 필요성

새로운 기술은 보다 연결된 형태로 우리 생활에 침투하고 사회와 경제, 문화에 걸쳐 거대한 변화를 일으키고 있다. 법제도적, 인문학적, 윤리적 문제가 복합적으로 나타날 미래 문제에 대비하기 위해서는 여러 분야의 전문가를 비롯해 공공과 민간 부문의 다양한 이해관계자들이 참여하는 사회 합의 체계와 균형 잡힌 관점이 필요하다. 다각적인 논의는 사회 전반에 걸쳐 미래 기술에 대한 인식과 이해를 높이고, 일시적이고 감정적인 대응을 넘어서 실질적인 대안을 탐색함으로서 미래를 구체적으로 설계할 수 있게 도와줄 수 있다.

미래 문제에 대처하기 위한 노력들

미래 문제를 논의하기 위해 상향식 Bottom-up 접근과 하향식 Top-down 접근 각각에서 다양한 움직임이 일어나고 있다. 상향식 접근으로는 학술 연구 그룹이 많이 형성되었는데, 유럽 연합의 ‘인터넷 과학 네트워크’, 캐나다의 ‘오픈 로봇 윤리 이니셔티브’, 막스 테그마크의 ‘삶의 미래 연구소’, 엘론 머스크와 샘 알트만의 ‘오픈AI’ 등이 대표적 사례이다. 기술이 빨라지는 만큼 사회 합의 체계 또한 빨라져야 한다. 그러기 위해서는 전 사회에 걸쳐 공동의 이해가 형성되어야하며, 가능한 선택지에 대해 연구하고 통찰을 제공하는 연구 그룹이 필요하다. 국내에서도 ‘싱귤래리티99’, ‘한국포스트휴먼학회’ 등 미래 기술을 연구하고 사회적 담론을 만들기 위한 시도가 이루어지고 있으나 아직 소수에 불과하다. 또한 이들이 사회와 소통할 채널이 부족하며, 실질적인 의사결정권자들에게 영향력을 미치기 어렵다는 한계를 가지고 있다. 학계와 시민들이 주축이 되어 시작하는 변화의 물결을 긍정적인 방향으로 유도하기 위해서는 다양한 목소리들이 공명할 수 있는 연결선을 만들어주어야 한다.

상향식 논의가 다양한 이해당사자의 관점을 통합할 수 있다는 점에서 중요하지만, 통찰력 있는 논의와 연구 결과를 실제 현실에서 구현하기 위해서는 제도를 변화시킬 수 있는 힘을 가진 상위 기관이 주도하는 하향식 접근 또한 중요하다. 대표적인 하향식 시도로 UN 국제연합이 주도하는 ’인터넷 거버넌스 워킹 그룹’이 있고, 국내에서도 최근 미래창조과학부의 주도로 민간 기업이 출자한 ‘지능정보기술연구소’ 가 설립되었다. 한편 기술 관련 정책 제정에 자문을제공하는 유럽 연합의 ‘유럽의회기술평가위원회’는 전문적 분석과 예측을 정책에 반영할 수 있는 독립적 자문 체계의 사례이다. 기술이 복잡하고 빨라지는 시대에는 고위 의사결정자들의 기술에 대한 폭넓은 이해가 필요하다. 미래 기술 문제는 시스템 자체의 개편을 필요로 하기에 시민 사회 수준에서의 노력만으로는 부족한 부분이 있으므로 정책과 제도로 이를 뒷받침할 수 있어야 한다.

미래 기술 사회를 대비하기 위해 각 주체들은 무엇을 해야 할까?

미래 기술의 혁신 과정에는 정부와 정책의사결정자, 기술 개발자와 기업, 미디어, 학계 전문가, 개별 소비자와 서로 다른 이해를 가진 공동체 구성원 등의 주체가 관여하게 된다. 빠르고 넓게 변화하는 기술의 문제는 누구 한 사람의 고민과 노력으로 해결할 수 있는 것이 아닌, 수많은 이해당사자들이 협업해서 풀어야 할 문제다. 국가 차원에서는 경계를 뛰어넘는 세계 문제를 다루기 위해 글로벌 거버넌스를 형성할 필요가 있고, 정부는 미래 기술을 장기적이고 포괄적인 관점으로 바라보고 신속하고 정확한 의사결정력을 키워야 할 것이다.STEM(Science, Technology, Engineering, Mathematics; 과학, 기술, 공학, 수학) 교육에 집중된 지금의 교육 체계는 새로운 사회에 대한 적응력과 인간성을 키워주는 방향으로 변화해야 하고, 기술을 개발하는 기업은 신기술의 사회적 영향력을 인지하고 책임의식을 가져야 할 것이다. 이러한 모든 노력을 전파하고 대중의 통찰을 높여주는 밈(Meme, 유전적 방법이 아닌 모방을 통해 습득되는 문화 유전자)을 형성하는 것은 미디어의 역할이며, 소비자는 기술에 대한 이해를 높이고 어떤 기술을 어떻게 사용할지 스스로 결정하는 힘을 키워야 한다.

함께 만드는 건강한 미래 기술 사회

미래 우리 사회는 어떤 모습을 가지게 될까? 지금 당장 미래를 모두 예측할 수는 없다. 중요한 것은 기술 발전을 둘러싸고 우리가 사회와 기술, 정치, 경제 등에 걸쳐 어떤 선택을 하는가이다. 우리는 변화에 두 가지 방향으로 대처할 수 있다. 이제까지 가지고 있던 방식을 지속하는 것 as is 과, 우리가 지향하는 미래를 구현할 새로운 방식을 만들어나가는 것 to be . 현재에 적응하는 것을 넘어, 미래 기술을 보다 주체적으로 선택할 수 있는 개인과 사회로 성장하기 위해 어떤 노력을 해야 할까?

우리는 더 빠르고 복잡하게 발전하는 기술로 인해 예측불가능한 변화의 위기를 마주하고 있다. 빠르게 발전하는 기술은 사람들이 기술의 유익과 위험에 대해 두루 고민하고 안전한 사회 체계를 만들 시간을 주지 않는다. 가까운 미래에 우리는 미래 기술을 둘러싸고 많은 혼란을 겪게 될 것이다. 주체적 판단 능력을 가지는 기술의 진화를 받아들이기 위해 사람들은 정체성과 사회관계에 대한 새로운 인식을 가져야 한다. 또한 인간을 닮은 또는 더 뛰어난 기술이 우리의 자리를 대신하는 것을 목격하게 될 것이다. 이에 따라 섣불리 판단하기 어려운 윤리 문제가 나타날 것이다. 기술의 변화는 매우 빠르고, 다양한 분야가 융합되고 있기에 특정 주제나 특정 이해당사자에 집중된 관점으로는 대비하기 어렵다. 빨라지는 기술 발전 속도에 발맞추기 위해서는 빠른 의사결정을 할 수 있는 사회적 소통 및 다중 이해당사자가 참여하는 합의 체계가 필요하다.

미래는 예측하기 어려운 것이지만, 불가지론에 빠지는 것 또한 위험하다. 처음부터 모든 것을 준비할 수는 없다. 우리의 손이 닿는 범위부터 하나씩 짚으며 문제를 해결해나가야 한다. 맹신도, 극단적 비관도, 두려움도 무관심도 아닌, 적극적인 참여와 올바른 인식을 통해 기술의 변화를 이해하고 받아들이며 긍정적인 방향으로 이끌어가는 움직임이 필요한 시점이다.

Table of Contents

1. 서론 20

2. 미래 기술 변화를 어떻게 바라보아야 할까? 22

2-1. 지금, 왜 미래 기술에 더 많은 관심을 가져야 할까? 22

기술 진화의 가속화 / 더 복잡해지는 기술 / 기술의 세계화와 다주체성 / 일상에 스며드는 보이지 않는 기술

2-2. 미래 기술 변화에 대처하는 우리의 자세 27

기술은 항상 예측 불가능했다, / ‘완전히 선한’ 기술은 없다

3. 미래 기술은 어떤 기회와 위험을 가져올까? 32

3-1. 예측할 수 없는 변화, 인공지능 32

미지에 대한 두려움과 신격화 - ‘속을 알 수 없는’ 기술, / 자아를 가진 인공지능은 인류를 위험에 빠뜨리게 될까? /

휴머노이드는 인간의 관계성에 혼란을 가져올 것인가?

3-2. 새로운 기술로 예상되는 변화와 위험들 38

인공지능과 로봇이 인간의 역할을 대체한다 / 자원 활용도를 높이는 새로운 산업 구조, / 공유 경제. 내로우 캐스팅, /

알고리즘의 렌즈로 세상을 보다./ 다수의 생존권과 개인정보 보호 사이의 문제 / 생활을 바꿀 무인항공기와 사물인터넷, 그리고 프라이버시 / 자율주행자동차와 트롤리 딜레마: 윤리적 가치판단 문제

3-3. 미래 기술로 인해 우리의 삶은 어떻게 바뀔까? 54

정치 - 직접 민주주의 시대의 시작, - 블록체인을 통한 새로운 정부의 가능성

사회 - 새로운 부와 권력: 빅데이터, - 기술을 통한 부의 축적과 소득불균형, 사회 자원 배분의 문제, - 노동 시장과 직업 체계의 혼란

문화 – 일상 구조의 변화로 인한 시간 개념과 가치의 재구성 문제

3-4. 4차 산업혁명을 낙관적으로만 볼 수 없는 이유 62

4. 새로운 기술 변화가 가져올 문제들에 어떻게 대처해야할까? 64

4-1. 다양한 주체가 함께하는 담론 형성의 필요성 64

4-2. 미래 문제에 대처하기 위한 노력들 65

상향식 접근의 미래 문제 논의 - 학술 연구 그룹, / 하향식 접근의 미래 문제 논의 – 정부와 거버넌스의 제도적 장치

4-3. 미래 기술 사회를 대비하기 위해 각 주체들은 무엇을 해야 할까? 70

세계 문제를 다루는 글로벌 거버넌스 형성 / 정부의 장기적 관점 수립 및 의사결정력 향상 / 교육체계 변화 / 기술 개발 기업의 사회적 책임의식 제고 / 미디어의 대중 담론 형성 / 스스로 결정하는 소비자의 자세

5. 결론 78

포럼 대담록 80

기술과 인간의 관계 (1차 포럼) 인간에게 필요한 로봇은 무엇인가? 81

기술과 인간의 관계 (2차 포럼) 소셜 미디어의 열 가지 얼굴 101

: 인간과 기술의 교호성

기술과 인간의 관계 (3차 포럼) 인공지능 시대, 민주주의와 시장경제는 가능한가? 127

기술과 인간의 관계 (4차 포럼) 새로운 방향의 정책 지원 145

: 미래창조과학부 지능정보산업 육성계획

SDF(서울디지털포럼) 2016 메인 세션 인간과 기술의 공존 160

:함께 생각해야 할 인간적, 정치적, 윤리적, 기술적 문제

포럼 참여진 및 연구진

SDF 서울 디지털 포럼 2016 메인 세션 토론자

스티븐 핑커 Steven Pinker 하버드대학교 심리학과 교수 | 심리학자

<마음은 어떻게 작동하는가>(2007), <우리 본성의 선한 천사>(2014) 외 저자

케이트 달링 Kate Darling MIT 미디어랩 전문 연구원 | 로봇윤리학자

이동만 Dongman Lee 카이스트 전산학과 교수 | 전산학자

다자간인터넷거버넌스협의회 KIGA 위원장

이원재 Wonjae Lee 카이스트 문화기술대학원 교수 | 사회학자

‘기술과 인간의 관계’ 포럼 발제자

곽소나 이화여자대학교 산업디자인학과 조교수 | 로봇디자인학자

이재현 서울대학교 언론정보학과 교수 | 커뮤니케이션학자

<SNS의 10가지 얼굴>(2014), <디지털 문화>(2014) 외 저자

김대식 카이스트 전기 및 전자공학과 교수 | 뇌과학자

<김대식의 빅퀘스쳔>(2014), <김대식의 인간 vs 기계>(2016) 외 저자

김광수 미래창조과학부 정보통신정책과장 현 민관합동창조경제추진단 부단장 | 정부정책기획자

‘기술과 인간의 관계’ 포럼 토론자

구본권 한겨레신문 사람과디지털연구소장 | 디지털인문학자

<당신을 공유하시겠습니까?>(2014), <로봇시대, 인간의 일>(2016) 외 저자

원종우 과학과 사람들 대표 | 과학 칼럼니스트

<과학하고 앉아있네> 시리즈, <조금은 삐딱한 세계사>(2014) 외 저자

배명훈 SF 소설가

<안녕 인공존재>(2010), <신의 궤도>(2011) 외 저자

연구진 및 포럼 운영진

이동만 카이스트 전산학과 교수 | 전산학자

이원재 카이스트 문화기술대학원 교수 | 사회학자

도영임 카이스트 문화기술대학원 교수 | 심리학자

이슬 차세대융합기술연구원

나정환 임지민 카이스트 문화기술대학원

이정애 SBS 보도본부 미래부 차장 | SDF팀장

유지희 SBS 보도본부 미래부 차장대우 | SDF팀

정주연 SBS 보도본부 미래부 PD | SDF팀