○ 본 연구의 목적은 최근 인공지능 기술 활용과정에서 가장 민감한 사안으로 부각된 요인 중 하나인 편향성(bias)을 최적화할 수 있는 다양한 방안을 모색하는 것임.

○ 이를 위해 인공지능 기술 활용과정에서 편향성이 쟁점이 된 주요 사례에 대해 인문학을 바탕으로 융 ...

○ 본 연구의 목적은 최근 인공지능 기술 활용과정에서 가장 민감한 사안으로 부각된 요인 중 하나인 편향성(bias)을 최적화할 수 있는 다양한 방안을 모색하는 것임.

○ 이를 위해 인공지능 기술 활용과정에서 편향성이 쟁점이 된 주요 사례에 대해 인문학을 바탕으로 융복합적 관점에서 고찰한 후 인공지능 관련하여 제시되고 있는 다양한 윤리 원칙, 가이드라인, 프로토콜을 비판적으로 고찰하고자 함.

○ 2016년 구글 딥마인드의 알파고에서 보듯 인공지능의 성취의 엄청난 위력은 향후 인공지능 거버넌스에 대한 근본적인 성찰의 필요성을 보여 줌. 특히 인공지능 가술 활용 과정에서 인공지능이 기존의 다양한 사회적 이슈들, 특히 편향성의 문제 자체를 인식조차 하지 못하도록 할 수 있다는 점에 주목하고자 함.

○ 인공지능 기술의 편향성은 크게 데이터 편향성 및 알고리즘 편향성이라는 두 가지 연원으로부터 연원함. 이를 분석하기 위해 본 연구팀은 크게 아래와 같은 세 가지 연구를 진행하고자 함

1. 데이터의 편향성 및 편향성에 대한 인문학적 연구
2. 알고리즘 편향성에 대한 연구
3. 알고리즘 편향성 진단 및 프로토콜 개발 관련 원천 기술 확보

Ⅱ. 연구수행 내용 및 결과
1. 1년차 결과
○ 1년차 연구: 인공지능 기술 활용과정에서 등장한 편향성에 대한 조사 분석
(1) 인간 편향성에 대한 문헌 연구
(2) 인공지능 기술 편향성에 대한 조사 분석 및 데이터 구축
(3) 편향성 최적화 등 주요 핵심 개념 정의 등의 세 가지 세부주제로 분류.

2. 2년차 결과
(1) AI 편향성에 대한 문헌 검토
(2) 인공지능 기술 편향성에 대한 조사 분석 및 데이터 구축
(3) 편향성 최적화 등 주요 핵심 개념 정의 및 분과별 편향성 사례 조사

3. 3년차 결과
(1) 한국 인공지능 기술개발 생태계 문제점 분석
(2) AI 기술 편향성 최적화 프로토콜 개발 및 검토

○ The purpose of this research is to explore several approaches to bias optimization, one of the elements that have recently come to light as the most problematic issue in the application of artificial intelligence technology.

○ To do this, the most ...

○ The purpose of this research is to explore several approaches to bias optimization, one of the elements that have recently come to light as the most problematic issue in the application of artificial intelligence technology.

○ To do this, the most notable incidents of bias in the application of artificial intelligence technology will be examined from a humanities-based convergence point of view, and various ethical principles, guidelines, and protocols related to artificial intelligence will then be critically examined.

○ The massive potential of AI developments, as demonstrated by Google Deep Mind's AlphaGo in 2016, shows the necessity of critical thought towards AI governance in the future. We would like to draw attention to the fact that using artificial intelligence can make it more difficult to identify a number of current social problems, most notably the issue of bias itself.

○ The bias in artificial intelligence technology stems from two sources: data bias and algorithm bias. The study team plans to carry out the following three significant projects to investigate this:

1. Humanistic research on data bias
2. Algorithm Bias Research
3. Acquiring original technology for protocol development and algorithm bias detection


II. Research Details and Results

1. Year 1 Results
○ First-year research: Examining and analyzing biases that emerged during the use of artificial intelligence.
(1) A literature review on human prejudice
(2) An analysis and data collection on bias in artificial intelligence
(3) Definitions of key terms such bias optimization

2. Year 2 Results
(1) A literature review on AI bias
(2) An analysis and data generation on AI bias
(3) Definitions of key terms such as bias optimization and Investigation of bias cases by discipline

3. Year 3 Results
(1) Examining issues with Korea's ecosystem for developing artificial intelligence technology
(2) Developing and assessing an AI technology bias optimization process

○ 본 연구의 목적은 최근 인공지능 기술 활용과정에서 가장 민감한 사안으로 부각된 요인 중 하나인 편향성(bias)을 최적화할 수 있는 다양한 방안을 모색하는 것임.

○ 이를 위해 인공지능 기술 활용과정에서 편향성이 쟁점이 된 주요 사례에 대해 인문학을 바탕으로 융 ...

○ 본 연구의 목적은 최근 인공지능 기술 활용과정에서 가장 민감한 사안으로 부각된 요인 중 하나인 편향성(bias)을 최적화할 수 있는 다양한 방안을 모색하는 것임.

○ 이를 위해 인공지능 기술 활용과정에서 편향성이 쟁점이 된 주요 사례에 대해 인문학을 바탕으로 융복합적 관점에서 고찰한 후 인공지능 관련하여 제시되고 있는 다양한 윤리 원칙, 가이드라인, 프로토콜을 비판적으로 고찰하고자 함.

○ 2016년 구글 딥마인드의 알파고에서 보듯 인공지능의 성취의 엄청난 위력은 향후 인공지능 거버넌스에 대한 근본적인 성찰의 필요성을 보여 줌. 특히 인공지능 가술 활용 과정에서 인공지능이 기존의 다양한 사회적 이슈들, 특히 편향성의 문제 자체를 인식조차 하지 못하도록 할 수 있다는 점에 주목하고자 함.

○ 인공지능 기술의 편향성은 크게 데이터 편향성 및 알고리즘 편향성이라는 두 가지 연원으로부터 연원함. 이를 분석하기 위해 본 연구팀은 크게 아래와 같은 세 가지 연구를 진행하고자 함

1. 데이터의 편향성 및 편향성에 대한 인문학적 연구
2. 알고리즘 편향성에 대한 연구
3. 알고리즘 편향성 진단 및 프로토콜 개발 관련 원천 기술 확보

Ⅱ. 연구수행 내용 및 결과
1. 1년차 결과
○ 1년차 연구: 인공지능 기술 활용과정에서 등장한 편향성에 대한 조사 분석
(1) 인간 편향성에 대한 문헌 연구
(2) 인공지능 기술 편향성에 대한 조사 분석 및 데이터 구축
(3) 편향성 최적화 등 주요 핵심 개념 정의 등의 세 가지 세부주제로 분류.

2. 2년차 결과
(1) AI 편향성에 대한 문헌 검토
(2) 인공지능 기술 편향성에 대한 조사 분석 및 데이터 구축
(3) 편향성 최적화 등 주요 핵심 개념 정의 및 분과별 편향성 사례 조사

3. 3년차 결과
(1) 한국 인공지능 기술개발 생태계 문제점 분석
(2) AI 기술 편향성 최적화 프로토콜 개발 및 검토

Ⅲ. 연구결과 활용계획

1. 연구결과 활용계획

1) 인공지능의 편향성을 최적화하기 위한 연구를 통해 본 연구는 우리 삶에 직접 영향을 미치는 인공지능 기술에서 등장할 수 있는 다양한 바이어스를 확인함. 이를 통해 일차적으로 인간에 대한 이해를 증진하면서 인문 ...

Ⅲ. 연구결과 활용계획

1. 연구결과 활용계획

1) 인공지능의 편향성을 최적화하기 위한 연구를 통해 본 연구는 우리 삶에 직접 영향을 미치는 인공지능 기술에서 등장할 수 있는 다양한 바이어스를 확인함. 이를 통해 일차적으로 인간에 대한 이해를 증진하면서 인문학 연구에 새로운 활력을 제공하고, 인공지능 기술에 대한 사회적 신뢰를 증진할 수 있는 길을 제시, 인공지능 기술이 건강한 방향으로 발전할 수 있는 길을 제공하고자 함

2) 인공지능 기술이 지닌 의의와 한계를 근본적으로 성찰할 수 있는 기회를 제공함으로써 우리 사회의 공공성 증진에 기여하고자 함.
첫째, 인공지능 기술을 활용하는 다양한 상품의 사회적 수용성을 비판적으로 검증함으로써 이 분야 기술 발전의 의의와 한계를 성찰
둘째, 사회적 알고리즘의 공공성 강화를 통해 기술 발전이 새로운 사회적 불평등으로 구조화되는 것을 규율하기 위한 표준의 탐색에 기여
셋째, 의료 영역의 경우 고도로 전문화된 의료인과 환자 간의 정보의 비대칭 문제를 완화, 사회적 약자를 보호할 수 있는 하나의 사회적 안전망을 제공하는데 기여
넷째, 알고리즘 구현 과정에서 인공지능 전문가들을 위한 윤리 방향 및 내부 고발 가능성을 열어둠. 한편으로 해당 분야 전문가를 보호하고, 다른 한편으로 관련 기업들의 사회적 책임을 강조하여 건강한 기술 생태계를 형성하는데 기여하고자 함.
다섯째, 인공지능 시대 직업윤리, 공학 윤리, 기업 윤리의 방향을 모색하는 구체적인 가이드라인의 구축에 기여

3) 사회적 공공성 증진을 위한 인공지능 기술 활용방안을 의료, 입법 및 사법 과정에서 구체적으로 참조할 수 있도록 함

4) 본 연구진의 성과 『인공지능의 편향과 챗봇의 일탈』은 해당 주제에 관한 주요 참조자료이자 독서공중을 위한 교양도서로 사용될 것임