본 연구는 현재, 그리고 가까운 미래에 한국사회에서 인공지능이 낳는 법적, 윤리적, 사회적 문제를 분석하고, 이에 대한 ‘사회적 거버넌스’의 바람직한 형태의 윤곽을 그려보는 작업을 목표로 했다. 특히 본 연구에서 과학기술학, 법학, 철학, 인공지능공학을 전공한 4명 ...

본 연구는 현재, 그리고 가까운 미래에 한국사회에서 인공지능이 낳는 법적, 윤리적, 사회적 문제를 분석하고, 이에 대한 ‘사회적 거버넌스’의 바람직한 형태의 윤곽을 그려보는 작업을 목표로 했다. 특히 본 연구에서 과학기술학, 법학, 철학, 인공지능공학을 전공한 4명의 연구자들은 서로의 분야에서 인공지능 기술이 가지는 함의를 분석하고, 이를 종합해 인공지능이 낳는 사회적 문제를 최소화하면서 그 혜택을 최대한 평등하게 나누는 거버넌스를 모색해 보고자 했다. 본 연구팀은 인공지능의 문제를 한국적 상황에서 파악하고 분석하기 위해서 연구팀의 멤버들과 외부 연구자들을 초청한 워크숍 형태의 토론회를 계획하였으며, 계획에 따라 연구를 진행했다.
먼저 첫 2달 동안(9~11월) 각 연구자들은 자신의 영역에서 인공지능 기술의 법적, 윤리적, 사회적 문제에 대해서 연구, 분석했다. 이후 5달 동안(12월~4월) 연구자들은 국내에서 인공지능을 연구하고 있는 연구자들을 초청해서 워크숍을 진행하여 토론하면서, 국내 인공지능 연구의 현황과 쟁점에 대해서 파악하고 복합적으로 논의해보는 기회를 가졌다. 본격적인 워크숍 개최에 앞서 앞으로 진행될 워크숍에서 다룰 주제와 진행 방식을 논의하고자 워크숍 기획회의를 진행하였고(2018.12.21.~2018.12.22.) 이를 바탕으로 ‘인공지능과 법, 철학, 윤리’를 주제로 1회 워크숍(2019.01.25.), ‘인공지능 알고리즘은 사람을 차별하는가’를 주제로 2회 워크숍(2019.02.19.), ‘AI의 인격성’을 주제로 3회 워크숍(2019.04.12.)을 개최했다. 마지막으로 3달 동안(5월~7월) 연구자들은 개인 연구와 워크숍에서 다루어진 쟁점들을 종합적으로 검토하고 조정하여 자신의 영역에서 바라본 인공지능의 법적, 윤리적, 사회적 문제에 대하여 발표하고 논의하는 기회를 마련했다.
본 연구팀은 2019년 5월에 개최된 <한국과학기술학회> 전기학술대회에서 “인공지능이 제기하는 윤리적 문제들과 참여적 거버넌스의 모색”이라는 세션을 기획하고 진행하였으며(2019.05.18.), ‘인공지능과 미래’를 주제로 여성과학기술인 단체 걸스로봇과의 조인트 워크숍(2019.06.15.)을 통해 그 동안의 연구 내용을 확장했다. 마지막으로 연구자들은 프랑스 릴(Lille)에서 개최된 제11회 Beyond Humanism Conference에서 ‘Artificial Intelligence, Lies, and Videotape’를 주제로 인공지능 면접을 주제로 인공지능이 불러오는 법적, 윤리적, 사회적 문제에 대하여 발표하고 해외 연구자들과 연구 내용을 공유했다.
이와 같이 총 3회의 워크숍과 조인트워크숍, 한국과학기술학회 세션 조직과 발표, 국제학회 발표를 통하여 본 연구팀은 한국 사회에서 인공지능 연구의 현황과 인공지능의 문제에 대한 분석을 성공적으로 진행하였고, 인공지능에 대한 사회적 거버넌스를 위한 기초적인 토대를 만들었다.

This study aims to analyze the legal, ethical and social issues of AI in Korean society in the present and near future, and to outline the desirable forms of 'social governance'. In particular, four researchers who majored in science and technology st ...

This study aims to analyze the legal, ethical and social issues of AI in Korean society in the present and near future, and to outline the desirable forms of 'social governance'. In particular, four researchers who majored in science and technology studies(STS), law, philosophy, and artificial intelligence in this study analyzed the implications of artificial intelligence technology in their fields, combined them to minimize the social problems of artificial intelligence, and tried to find a form of governance that distributes the benefits of AIas equally as possible. The research team organized a workshop-type discussion forum inviting members of other research to identify and analyze AI problems in the Korean context.

In the first two months (September-November), each investigator studied and analyzed the legal, ethical and social issues of artificial intelligence in their domain. Over the next five months (December-April), researchers invited researchers who are studying artificial intelligence in Korea to conduct a workshop to discuss the current situation and issues of domestic artificial intelligence research and to discuss the complex issues. Prior to the full-scale workshop, a workshop planning meeting was held to discuss the topics and ways to be handled in the upcoming workshops (2018.12.21. ~ 2018.12.22.) Based on this, the 1st workshop on the subject of 'artificial intelligence, law, philosophy and ethics' (January 25, 2019), the 2nd workshop on the subject of 'Artificial Intelligence Algorithm discriminates people', and the 3rd workshop on the theme of 'personality of AI' (2019.04.12.) were held. Finally, during the three months (May-July), researchers have the opportunity to review and coordinate the issues addressed in individual research and workshops to present and discuss the legal, ethical and social issues of AI seen in their domain.

The research team organized and conducted a session, “The Search for Ethical Problems and Participatory Governance of Artificial Intelligence,” at the Association of Korea Science and Technology Studies Conference, held in May 2019 (2019.05.18.). Under the theme of “Artificial intelligence and the future” our research contents were expanded through a joint workshop (20.06.15.20) with the “Girl’s Robot” group working on the role of science and technology for women. Finally, the researchers presented at the 11th Beyond Humanism Conference in Lille, France, on the legal, ethical and social issues brought about by AI on the subject of 'Artificial Intelligence, Lies, and Videotape', and shared our research outputs with overseas researchers. Through these three workshops, joint workshops, organizing and presentation sessions of the Association of Korea Science and Technology Studies, and the presentation at an international conference, the research team successfully analyzed the current state of artificial intelligence research and problems of artificial intelligence in Korean society. It created the basic foundation for social governance of artificial intelligence.

연구자들은 이 연구에서 1년 동안 한국 사회에서 인공지능 연구의 현황과 이것이 낳을 수도 있는 윤리적, 법적, 사회적 문제에 대해서 분석하고, 이후 혜택을 최대화하고 부작용을 최소화하는 인공지능에 대한 거버넌스를 실험하는 구체적 프로젝트의 기반을 다지는 작업 ...

연구자들은 이 연구에서 1년 동안 한국 사회에서 인공지능 연구의 현황과 이것이 낳을 수도 있는 윤리적, 법적, 사회적 문제에 대해서 분석하고, 이후 혜택을 최대화하고 부작용을 최소화하는 인공지능에 대한 거버넌스를 실험하는 구체적 프로젝트의 기반을 다지는 작업을 목표로 했다. 이를 위해 본 연구는 크게 개별 연구자들의 개별 연구와 공동 연구의 두 레벨로 구성되었다. 실질적인 연구수행기간을 10개월로 잡고, 첫 2개월은 각 연구자들이 자신의 영역에서 인공지능 기술의 윤리적, 법적, 사회적 문제에 대해서 연구, 분석하는 기간으로 계획했다. 이후 5개월은 국내에서 인공지능을 연구하고 있는 연구자들을 초청해서 강연을 들으면서 국내 인공지능 연구의 현황과 쟁점에 대해서 각자 파악하고, 이를 종합적으로 조정해보는 기회를 가지는 것으로 계획했다. 특히 본 연구에서는 설명가능한 인공지능을 연구하는 연구자, 자율주행 자동차를 연구하는 연구자, 인공지능로봇의 경제적 영향을 연구하는 경제학자 등의 인공지능 연구자들을 초청하여 워크숍을 진행하고자 했다. 워크숍에서는 이런 연구자들과 함께 a) 현재 한국의 인공지능 연구 현황, b) 한국 사회에서 이런 연구가 낳고 있는 구체적 쟁점들, c) 이를 조정하고 통제하기 위한 거버넌스의 원칙을 논의하는 것을 목적으로, 이를 통해 우리 사회가 집중해야 할 문제가 무엇인지 판별해 내고자 했다.
본 연구팀은 이러한 연구계획을 충실히 반영하여 연구를 추진했다. 먼저 첫 2달 동안(2018년 9월-11월) 각 연구자들은 각자의 영역에서 인공지능 기술의 법적, 윤리적, 사회적 문제에 대해서 연구, 분석했다. 다음으로 5달 동안(2018년 12월-2019년 4월) 연구자들은 개인연구를 공유하여 결정한 연구주제를 바탕으로 국내에서 인공지능을 연구하고 있는 연구자들을 초청해서 3차례 워크숍을 진행하여 강연을 들으면서, 국내 인공지능 연구의 현황과 쟁점에 대해서 파악하고 복합적으로 논의해보는 기회를 가졌다. 마지막으로 3달 동안(2019년 5월-7월) 연구자들은 개인연구와 워크숍에서 다루어진 쟁점들을 종합적으로 검토하고 조정하여 자신의 영역에서 바라본 인공지능의 법적, 윤리적, 사회적 문제에 대하여 발표하고 논의하는 기회를 마련했다. 3회에 걸친 워크숍에서 다룬 내용들을 종합하여 한국과학기술학회 전기학술대회 ‘인류세와 과학기술’에서 <인공지능이 제기하는 윤리적 문제들과 참여적 거버넌스의 모색> 세션을 기획하고 진행했다(2019.05.18.). 또한 ‘인공지능과 미래’를 주제로 여성과학기술인 단체 걸스로봇과의 조인트 워크숍을 통해 그 동안의 연구 내용을 정리하는 기회를 가졌다(2019.06.15.). 그 동안 워크숍에서 논의되었던 주제를 최종적으로 정리하여 발표하고 세미나 토론을 진행함으로써 종합적 검토의 시간을 가졌다. 마지막으로 연구자들은 프랑스 릴에서 개최된 제11회 Beyond Humanism Conference에서 ‘Artificial Intelligence, Lies, and Videotape’를 주제로 인공지능 기술이 불러오는 법적, 윤리적, 사회적 문제에 대하여 발표하고 해외 연구자들과 연구한 바를 공유했다(2019.07.09.-2019.07.12.). 특히 본 연구팀이 발표한 면접 인공지능과 공정성이라는 주제에 대해서 제 3세계의 연구자들이 큰 관심을 표명했다.
이와 같이 연구자들은 한국 사회에서 인공지능 연구의 현황과 인공지능의 문제에 대한 분석을 진행하고 이를 조인트워크숍을 비롯한 총 4회의 워크숍을 개최하고, 한국과학기술학회 전기학술대회에서 하나의 세션을 기획하여 발표와 토론을 진행하고, Beyond Humanism Conference에서 ‘Artificial Intelligence, Lies, and Videotape’을 주제로 발표를 진행하며 연구를 진행한 바를 연구팀 외 다른 연구자들과 성공적으로 공유했다. 특히 연구자들은 연구를 진행하며 인공지능과 사회의 접점이 만들어내는 윤리적, 법적, 사회적 주제에 대해서 각자의 전문성에 근거한 연구를 하면서 동시에 이런 전문성을 융합하고자 노력했다.

본 연구는 현재, 그리고 가까운 미래에 한국사회에서 인공지능이 낳는 윤리적, 법적, 사회적 문제를 분석하고, 이에 대한 ‘사회적 거버넌스’의 바람직한 형태의 윤곽을 그려보는 작업을 목표로 했다. 특히 1년 간 기획된 본 프로젝트는 실시간 기술영향평가(real-time te ...

본 연구는 현재, 그리고 가까운 미래에 한국사회에서 인공지능이 낳는 윤리적, 법적, 사회적 문제를 분석하고, 이에 대한 ‘사회적 거버넌스’의 바람직한 형태의 윤곽을 그려보는 작업을 목표로 했다. 특히 1년 간 기획된 본 프로젝트는 실시간 기술영향평가(real-time technology assessment), 합의회의(Consensus Conference), 시나리오워크숍(Scenario Workshop)과 같은 본격적인 사회적 거버넌스 프로젝트의 수행을 위한 선행연구로(Rowe and Frewer 2000), 인공지능이나 자동화된 로봇이 낳는 윤리적, 법적, 사회적 쟁점(ELSI)에는 어떤 것들이 있는가를 ‘한국적 상황’에서 파악하고 분석하는데 그 일차적 목적을 두었다. 이에 따라 연구를 진행한 바, 연구결과는 다음과 같은 기대효과를 가진다.
첫 번째로, 본 연구는 인공지능에 대한 참여적 거버넌스를 수립하기 위한 예비조사로서 추후 사회적 거버넌스 연구에 기여할 수 있다(Falco 2019). 기술영향평가, 합의회의, 시나리오워크숍 등을 준비하기 위해서는 현재 인공지능이나 인공지능로봇과 관련해서 쟁점이 되는 주제들이 무엇이며, 특히 서로 다른 사회구성원들의 이해가 충돌하는 지점이 어디에 있는지에 대한 분석이 선행되어야 한다. 본 연구는 이러한 윤리적, 법적, 사회적 주제들을 정확하게 포착해 내고, 이에 대한 상이한 입장들의 지형도를 그려봄으로써 후속 연구에 기여할 수 있다.
두 번째로, 본 연구는 해외의 연구에만 의존하던 국내 인공지능에 대한 인문학적, 사회과학적 논의의 한계를 뛰어 넘어서 한국 사회에서 인공지능 연구가 낳는 문제가 무엇인지를 규명했다는 점에서 의의가 있다. 특히 본 연구는 한국적 상황에서 인공지 기술이 낳는 윤리적, 법적, 사회적 문제들을 중심으로 연구를 진행하여 우리의 기술개발 수준이나 기술개발 현황 등을 고려하여 인공지능의 위험과 혜택을 평가하고자 했다.
세 번째로, 본 연구는 사회과학, 공학, 인문학 등 다양한 학제에서 인공지능 기술을 연구하고 있는 연구자들과 함께 다회의 워크숍과 세미나를 진행하여, 인공지능의 사회적 영향에 대한 인문학계와 과학기술학계의 논의를 매개하는 역할을 수행했다. 인문학의 영역에서 과학기술과 인간의 문제를 연구하는 이상욱 연구자, 인공지능 개발을 담당하는 김종욱 연구자, 인문학과 과학기술을 매개하는 홍성욱 연구자와 이상원 연구자들은 연구 프로젝트를 통해 적극적으로 의견을 교환하고 토론을 진행하였고, 인공지능과 로봇에 관한 균형잡힌 거버넌스의 초석을 제공했다.