연구성과물검색
유형별/분류별 연구성과물 검색
HOME ICON HOME > Research Project Search > Research View

Research Projects Detailed Information

인공지능 기술 활용에서 편향(성) 최적화 방법론 융합연구
A Convergence Research on Optimization of Biases in AI Application
  • Researchers have entered the information directly to the NRF of Korea research support system
Program 일반공동연구지원사업 [지원년도 신청 요강 보기 지원년도 신청요강 한글파일 지원년도 신청요강 PDF파일 ]
Project Number 2019-S1A5A2A03-2019S1A5A2A03046571
Year(selected) 2019 Year
Research period 3 Year (2019년 07월 01일 ~ 2022년 06월 30일)
chief of research 정원섭
Executing Organization 경남대학교
the present condition of Project 진행중
Cooperation researcher 양일모(서울대학교)
강승식(국민대학교)
김정룡(한양대학교)
구자현(영산대학교)
윤미선(순천향대학교)
정성훈(서울대학교)
황경호(경남대학교)
김건우(광주과학기술원)
장윤정(국립암센터)
Research Summary
  • Goal
  • 본 연구는 최근 인공지능 기술 분야 가장 중요한 사안으로 부각되고 있는 편향성(bias)을 문화적 다양성의 견지에서 최적화하기 위한 기본 원칙과 가이드라인 그리고 프로토콜을 개발하는 것을 목표로 한다. 이를 위한 연차별 목표는 다음과 같다.
    1년차: 인공지능 기술 관련 편향성에 대한 요인별 조사 분석
    a. 데이터에 의한 편향성 (음향, 영상, 언어형태소)
    b. 알고리즘에 의한 편향성
    c. 문화적 요인에 의한 편형성
    2년차: 인공지능 편향성 최적화를 기존 프로토콜 검증
    a. IBM AI Fairness 360 (AIF360) 등 검증
    b. 기존 기본 원칙과 가이드라인 검증
    c. 독자적 최적화 원칙 설립의 필요성 검토
    3년차: 편향성을 최적화하기 위한 프로토콜을 개발 및 검증
    a. 자체 프로토콜 개발 및 공개 검증
    b. 편향성과 문화적 다양성 간 최적화
    c. 최적화 프로토콜에 대한 다양한 활용 방안 제시
    이를 통해 인공지능 기술이 기존의 사회적 차별과 불평등을 강화 혹은 정당화하는 것을 예방하면서 공정하게 활용될 수 있는 미래 지향적인 규범적 준거를 제시하고 이를 실질적으로 검증 및 활용하는 것을 목표로 한다.
  • Expectation Effectiveness
  • 1. 인공지능 기술 활용과정에서 등장할 수 있는 악성 편향을 사전에 차단함으로써 인공지능 기술에 대한 악용 가능성을 차단함으로써 인공지능의 효율성 및 사회적 공공성 증진에 기여함.
    2. 사회적 알고리즘(범죄 예방 혹은 보험이나 대출 등 금융 분야에 활용되는 인공지능 프로그램)에 대한 공공 거버넌스를 강화함으로써 사회적 소외 계층을 보호하고 인공지능 기술을 통해 사회적 불평등을 정당화할 수 있는 가능성 차단.
    3. 알고리즘의 투명성 및 설명가능성을 증진하여 치안, 범죄, 의료 영역 등 전문 분야 정보의 비대칭 문제를 완화함으로써 사회적 약자를 기술적으로 보호할 수 있는 사회적 안전망 제공.
    4. 인공지능 유관 기업들의 사회적 책임 및 공공성 증진
    도덕적 자질을 갖춘 인공지능 전문가 양성
    인공지능 개발자의 자긍식 및 윤리 의식 고취
    5. 인공지능 활용과정에서 편향성을 최적화하기 위한 입법 및 사법의 방향 제시 (인공지능 기술 활용과정에서 등장할 수 있는 각종 사고와 관련된 민·형사 책임 규명 방향 제시)
    6. (지적)재산권적 책임, 프라이버시 및 개인정보보호 정책, 고용노동 정책, 노인 및 여성 관련 정책, 소비자보호 정책, 형사사법 정책 방향 제시
    7. 인간 및 인공지능 편향성에 대한 이해 심화 및 고급 인문 교양 도서 제공
  • Summary
  • 본 연구의 내용은 다음과 같다.
    1. 인공지능 활용과정에서 등장한 편향성 조사 및 유형화
    2. 편향성이 발생할 수 있는 다양한 기원(데이터의 역사성, 알고리즘, 시대적 및 문화적 한계)에 대한 융복합적 이해 증진
    3. 성차별, 인종차별 등 허용 불가능한 악성 편향의 데이터 인덱스 구축 및 지수화
    4. 편향성 최적화를 위한 기존 프로토콜에 대한 공개 검증을 통해 문화적 다양성에 대한 인문학적 이해 중진.
    5. 편향성 최적화를 위한 독자적인 기본 원칙, 가이드라인 및 프로토콜 제시
    6. 문화 다양성의 견지에서 프로토콜을 통한 편향성 최적화 검증 및 적용
    이러한 프로토콜 개발을 인문학적으로 뒷받침하기 위하여 인간의 편향성과 관련한 주요 문헌에 대한 융합연구를 진행하고자 한다. 이 과정에서 Latent Semantic Analysis와 Latent Dirichlet Allocation 등과 같은 topic modeling 및 deep learning 기법을 활용하여 바이어스 관련 기존 연구 조사 및 관련 개념 및 용어를 재정의한 후 Neural Network model을 이용하여 편향 예측 모델을 구현할 것이다.
  • Research Achievements List
데이터를 로딩중 입니다.
데이터 이용 만족도
자료이용후 의견
입력