본 연구의 1차 연도 목표는 인간과 인공지능의 상호작용 분야에서 윤리적 이슈들은 어떠한 것들이 있으며, 이러한 이슈들에 대해 어떠한 이론적, 논리적 틀을 통해 관련 이슈들을 이해하고 향후 발생할 수 있는 문제들을 해결할 수 있을지 모색하는 것이었다. 이러한 연구 ...

본 연구의 1차 연도 목표는 인간과 인공지능의 상호작용 분야에서 윤리적 이슈들은 어떠한 것들이 있으며, 이러한 이슈들에 대해 어떠한 이론적, 논리적 틀을 통해 관련 이슈들을 이해하고 향후 발생할 수 있는 문제들을 해결할 수 있을지 모색하는 것이었다. 이러한 연구 목표에 따라 우선 인공지능과 윤리의 문제에 대한 학문적, 이론적 토대를 전반적으로 살펴보고 커뮤니케이션 분야 또는 미디어 분야에서 인공지능과 관련된 윤리적 이슈는 어떤 것들이 있으며, 이를 해결하기 위해 어떤 방향으로 연구가 진행되고 있는지 살펴보았다. 또한, 연구의 논의를 바탕으로 인간과 인공지능 간의 상호작용에서 일어날 수 있는 비윤리적 상황에 관한 탐색적 연구를 경험적 데이터(N = 1,001)를 바탕으로 제시하였다. 연구 결과 인공지능 에이전트 사용자들은 자신은 비윤리적인 행위나 언어사용을 하더라도 인공지능 에이전트가 좀 더 사회적으로 바람직한 방향으로 제언을 해줄 것을 기대하는 것으로 나타났다. 이를 통해 사람들이 인공지능 에이전트를 단순히 파트너로 인식하기보다는 도덕적 기준을 가지고 판단과 실행을 할 수 있는 주체로 파악하고 있다는 것을 확인하였다. 또한, 사용자가 사용자 본인과 제3자에 대해서 서로 다른 도덕적 기준을 가지고 있다는 것이 밝혀졌으며, 사용자 본인보다는 제3자에게 좀 더 엄격한 윤리적 기준을 적용하고자 한다는 것을 확인했다.
본 연구의 2차 연도 목표는 1차 연도에 진행했던 연구 결과를 바탕으로 사람들이 챗봇이라는 커뮤니케이션 기술을 ‘왜’ 사용하는지에 대한 통찰력을 도출하는 것이었다. 인간과 챗봇의 상호작용에 초점을 맞추어 챗봇에 대한 지각된 인간 유사성이 인간-챗봇 상호작용과 지속적인 챗봇 이용 의도에 어떠한 영향을 미치는지, 챗봇이 지각된 인간화를 통해 지속적 사용 의도에 간접적으로 미치는 영향이 어떠한 매개 과정을 통해 이루어지는지, 그리고 매개 과정에서 소속감이 어떠한 조절 효과를 갖는지를 평가하고자 하였다. 서베이(N = 645)를 통한 연구 결과, 챗봇의 이용 빈도와 의인화 인식 간의 양(+)의 상관관계가 발견되었으며, 챗봇에 대한 의인화 인식과 챗봇을 지속해서 이용하고자 하는 동기간에 양(+)의 상관관계가 발견되었다. 이 결과는 개인이 챗봇을 사회적 행위자(social actor)로 지각할수록, 챗봇과 지속해서 상호작용하고자 하는 의지가 커지는 것을 의미한다. 또한 챗봇에 대한 의인화 인식이 챗봇 이용 빈도와 지속적 사용 의도 사이를 매개하는 것으로 나타났다. 마지막으로 조절된 매개효과가 발견되었다. 챗봇에 대한 의인화 인식이 매개하는 지속적인 사용 의도에 대한 챗봇 이용 빈도의 간접적인 효과는 소속감이 중간 단계 혹은 낮은 단계로 나타난 개인에게서만 나타났다.
3년 차 연구는 챗봇 이용자들의 윤리적 이데올로기, 사회적 유능감, 지각된 챗봇의 인간화 정도, 이용자의 성별, 그리고 챗봇 이용 빈도에 초점을 맞추어 챗봇 이용자들의 비윤리적 언어 사용에 영향을 미치는 요인들에 대해서 평가했다. 또한 이용자들의 비속어와 공격적 단어 사용에의 챗봇의 반응에 대한 이용자의 호감 또한 살펴보았다. 이는 궁극적으로 비윤리적 언어사용의 유의미한 예측변수들을 살펴봄으로써 인간의 비윤리적 행동을 설득하기 위한 인공지능의 대응 방식을 연구하기 위함이다. 온라인 실험(N = 1,012)을 통한 연구 결과 이용자들의 윤리적 절대주의 지향성이 공격적인 언어 사용의 중요한 예측 변수인 것으로 나타났으며, 높은 이상주의 경향성을 가진 개인들은 챗봇의 적극적 제지에 호감을 나타내는 한편 높은 상대주의 지향성을 가진 개인들은 챗봇의 대응적 반응에 호감을 나타냈다. 더 나아가 지각된 챗봇의 인간 유사성은 비호감인 지인들, 인종/민족 그룹, 정치적 정당을 겨냥한 공격적인 단어 사용의 경향성을 높이는 것으로 나타났다. 이러한 연구 결과들은 최근의 AI 챗봇 사용과 챗봇을 사용하는 동안의 언어 사용을 평가하는 실증적 연구 부족의 간극을 좁히는 데에 기여할 것으로 기대된다.

The purpose of the first-year study was to examine what unethical issues occur in human-artificial intelligence interaction and how we can understand and solve the problems concerning the issues based on the theoretical, and logical frames. The study ...

The purpose of the first-year study was to examine what unethical issues occur in human-artificial intelligence interaction and how we can understand and solve the problems concerning the issues based on the theoretical, and logical frames. The study first outlined academic and theoretical backgrounds concerning the issues and took a look at what unethical issues happened in communication and media fields and how studies have been developed to solve the issues. Also, based on the discussion in the study, the first-year study conducted an exploratory study about unethical situations which might occur during the interaction between human-artificial intelligence interaction. The study found that, although AI users conducted unethical behaviors or words, they expected AI agents to suggest rather in socially desirable ways. From the research findings, the study found that people indicateed AI agents as a social actor who could judge and behave regarding moral standards, rather than just a partner. Also, it was found that users had different moral standards between others and themselves, and had more strict moral standards towards other people.
The purpose of the second-year research, based on the results of the first-year study, was to seek “why” people use communication technologies such as chatbots. Focusing on the interaction between human and chatbot, the second-year research examined how perceived humanness perception affected human-chatbot interaction, how a mediation process occured when humanness perception indirectly affected continued intention to use chatbot, and how sense of belonging moderated the mediation process. Using a survey (N = 645), the study found the positive association between chatbot use frequency and humanness perception toward chatbot. Also, a positive association between humanness perception toward chatbot and continued intention to use the chatbot. This result means that as individuals perceive chatbot as a human-like social actor, they are more likely to use chatbot continuously. For the mediation, humnanness perception toward chatbot mediated the association between chatbot use frequency and continued use intention. Lastly, the indirect effect of chatbot use frequency on continued intention, mediated by humanness perception toward chatbot, was significant only among individuals with the medium and low level of sense of belonging.
The third-year research examined the factors that affected chatbot users’ use of profanity and offensive words, employing the concepts of ethical ideology, social competence, and perceived humanlikeness of chatbot. The study also looked into users’ liking of chatbots’ responses to the users’ utterance of profanity and offensive words. Using a national survey (N = 645), the study found that users’ idealism orientation was a significant factor in explaining use of such offensive language. In addition, users with high idealism revealed liking of chatbots’ active intervention, whereas those with high relativism displayed liking of chatbots’ reactive responses. Moreover, users’ perceived humanlikeness of chatbot increased their likelihood of using offensive words targeting dislikable acquaintances, racial/ethnic groups, and political parties. These findings are expected to fill the gap between the current use of AI chatbots and the lack of empirical studies examining language use.

본 연구는 최근 인공지능 기술의 발달과 함께 우리 사회의 커뮤니케이션 양식이 어떻게 변화할 것인지 구체적인 양상을 이해하고, 인공지능 이용에 따라 발생할 수 있는 윤리적 이슈에 대해 알아보는 것을 목표로 하였다. 인공지능이 활용되는 분야가 점차 넓어짐에 따라 ...

본 연구는 최근 인공지능 기술의 발달과 함께 우리 사회의 커뮤니케이션 양식이 어떻게 변화할 것인지 구체적인 양상을 이해하고, 인공지능 이용에 따라 발생할 수 있는 윤리적 이슈에 대해 알아보는 것을 목표로 하였다. 인공지능이 활용되는 분야가 점차 넓어짐에 따라 인공지능이 우리 사회에서 미칠 긍정적인 영향에 대한 기대와 함께 인공지능에 대한 두려움이 커짐에 따라 인공지능 챗봇의 이용 양상을 살펴보는 것과 함께, 근본적으로 인공지능을 어떠한 존재로 인식해야 하는지와 인공지능을 사용하면서 발생할 수 있는 윤리적인 이슈와 대처 방안에 대한 논의도 이루어져야 한다고 보았기 때문이다.
이러한 연구 목표에 따라 2년 차 연구에서는 인간과 챗봇의 상호작용에 초점을 맞추어 챗봇에 대한 지각된 인간 유사성이 인간-챗봇 상호작용과 지속적인 챗봇 이용 의도에 어떠한 영향을 미치는지, 챗봇의 지각된 인간화가 지속적 사용 의도에 미치는 영향이 어떠한 매개 과정을 통해 이루어지는지, 그리고 매개 과정에서 소속감이 어떠한 조절효과를 갖는지를 살펴보았다. 연구 결과 챗봇의 이용 빈도와 의인화 인식 간의 양(+)의 상관관계, 챗봇에 대한 의인화 인식과 챗봇을 지속적으로 이용하고자 하는 동기간에 양(+)의 상관관계가 발견되었다. 즉, 챗봇에 대한 의인화 인식이 챗봇 이용 빈도와 지속적 사용 의도 사이를 매개하는 것으로 나타났으며, 또한 이러한 챗봇에 대한 의인화 인식의 매개효과는 소속감이 중간 단계 혹은 낮은 단계로 나타난 개인에게서만 나타난다는 점을 확인하였다. 이러한 결과는 챗봇과 같은 인공지능이 사람과 같이 지각되고 다루어질 수 있으며, 인공지능들이 전통적인 대인 상호작용을 보완할 수 있는 가능성을 시사한다.
다음으로 커뮤니케이션 분야에서 윤리적 이슈가 제기되는 세부 영역과 쟁점들을 고찰하였다. 1년 차 연구에서는 로봇 저널리즘과 인간-인공지능 상호작용 영역을 살펴봄으로써 주요 이슈와 관련 연구의 현황을 소개하였다. 한편, 전국 대표표본을 이용한 온라인 서베이를 통해 인공지능 사용자들은 본인이 비윤리적 행동이나 비윤리적 언어를 사용하더라도 인공지능 로봇은 윤리적인 측면에서 올바른 방향으로 반응해 줄 것을 기대함을 발견했다. 또한 비윤리적 행위나 언어사용의 행위자가 본인일 때보다 제3자일 때 인공지능 로봇이 더 높은 수준의 도덕적 기준을 적용할 것을 기대하는 것으로 나타났다. 이러한 결과는 사용자의 비윤리적 행위나 언어사용에 대해 인공지능 로봇이 인간의 행동을 바람직한 방향으로 이끌어주기를 기대하는 사회적 인식을 보여준다. 이는 또한 사용자들이 부분적으로나마 도덕적 주체로서의 인공지능의 역할을 인식하고 있다는 것을 의미한다.
이러한 연구 결과를 바탕으로 3년 차 연구에서는 챗봇 이용자들의 윤리적 성향, 사회적 유능감, 지각된 챗봇의 인간화 정도, 이용자의 성별, 그리고 챗봇 이용량에 초점을 맞추어 챗봇 이용자들의 비윤리적 언어 사용에 영향을 미치는 요인들에 대해서 평가했다. 연구 결과 윤리적으로 이상주의를 지향하는 사람은 비윤리적 언어를 덜 사용하며, 챗봇을 사람과 같이 인식하는 사람은 챗봇에 다른 사람들을 험담하는 경향이 더 높은 것으로 나타났다. 남성, 그리고 젊은 사람들은 비속어를 사용하는 경향이 높았으며, 개인의 챗봇의 빈번한 사용은 비윤리적 언어 사용의 경향성을 증가시켰다. 본 연구는 이러한 비윤리적 언어사용의 유의미한 예측변수들을 파악한 후 인간의 비윤리적 행동을 설득하기 위한 인공지능의 대응 방식을 함께 살펴보았다.
결론적으로 본 연구팀의 지난 3년간의 연구는 인공지능 챗봇이 우리 사회에 가져올 커뮤니케이션 양식의 변화와 그 양상에 관해서 설명하고 예측하고자 했다는 것과 커뮤니케이션 연구에서 인공지능과 관련된 윤리문제에 대해 살펴보고 이를 바탕으로 학문적 측면에서 현실에 적용될 수 있는 기준과 고려해야 할 사항들을 제시했다는데 그 의의가 있다.

본 연구의 1차 연도에는 인공지능과 관련한 윤리적 이슈를 이해하는 데에 있어서 인공지능과 로봇을 어떤 존재로 인식해야 하는지, 인공지능 윤리 문제가 가장 두드러지는 로봇 저널리즘과 사람-인공지능 상호작용 분야에서 어떠한 윤리적 이슈들이 중요한 문제들인지 밝 ...

본 연구의 1차 연도에는 인공지능과 관련한 윤리적 이슈를 이해하는 데에 있어서 인공지능과 로봇을 어떤 존재로 인식해야 하는지, 인공지능 윤리 문제가 가장 두드러지는 로봇 저널리즘과 사람-인공지능 상호작용 분야에서 어떠한 윤리적 이슈들이 중요한 문제들인지 밝혔다. 또한 인간 간 커뮤니케이션과 인공지능 매개 커뮤니케이션의 차이를 살펴보았으며, 마지막으로 탐색적 온라인 서베이 연구를 실시하였다. 본 연구의 연구결과로 CASA 접근 방법이 인공지능 에이전트와의 상호작용에서도 적용된다는 점, 사용자들이 인공지능 에이전트를 부분적으로나마 도덕적 주체로 인식한다는 점, 그리고 사용자가 사용자 본인보다 제3자에게 더 엄격한 윤리적 기준을 적용하고자 한다는 발견들은 사용자들이 인공지능의 도덕적 주체로서의 역할을 기대하고 있다는 것을 보여준다.
2차 연도에는 챗봇 사용 빈도에 따른 챗봇 의인화 인식을 조사했으며, 반복적인 컴퓨터 에이전트와의 상호작용이 향후 관계에 어떻게 영향을 미치는지 알아보았다. 연구 결과 챗봇의 이용 빈도와 의인화 인식 간의 양(+)의 상관관계, 챗봇에 대한 의인화 인식과 챗봇을 지속적으로 이용하고자 하는 동기간에 양(+)의 상관관계가 발견되었다. 챗봇에 대한 의인화 인식이 챗봇 이용 빈도와 지속적 사용 의도 사이를 매개하는 것으로 나타났으며, 또한 이러한 매개효과는 소속감이 중간 단계 혹은 낮은 단계로 나타난 개인에게서만 나타난다는 점을 확인하였다. 이러한 결과는 챗봇과 같은 인공지능이 사람과 같이 지각되고 다루어질 수 있으며 인공지능이 전통적인 대인 상호작용을 보완할 수 있는 가능성을 시사한다.
3차 연도에는 인공지능 챗봇 사용자의 비윤리적인 언어 사용에 영향을 미치는 요인을 조사하였다. 연구 결과 윤리적으로 절대주의를 지향하는 사람은 비윤리적 언어를 덜 사용하며, 챗봇을 사람과 같이 인식하는 사람은 챗봇에 다른 사람들을 험담하는 경향이 더 높은 것으로 나타났다. 남성, 그리고 젊은 사람들은 비속어를 사용하는 경향이 높았고, 개인의 챗봇의 빈번한 사용은 비윤리적 언어 사용의 경향성을 증가시켰다. 한편, 이용자의 공격적 언어 표현에의 챗봇의 반응에 대한 선호를 조사한 결과, 이상주의 지향성이 높은 이용자들은 챗봇의 적극적 제지와 경고 메시지를 선호했으나, 상대주의 지향성이 높은 이용자들은 챗봇의 대응적 반응에 대해서도 호감을 느끼는 것을 확인하였다. 또한 챗봇을 인간과 유사한 에이전트로 인식한 사람들은 챗봇의 강한 단어 사용을 포함한 대응적 반응, 그리고 주제 전환과 같은 간접적 제지에서도 더 선호를 보이는 것으로 나타났다.
정리하자면, 본 연구팀의 3년간의 연구는 인공지능 챗봇이 우리 사회에 가져올 커뮤니케이션 양식의 변화와 그 양상에 관해서 설명하고 예측하고자 했다는 점에서, 그리고 HCI나 CMC 분야에서 새로운 연구 문제와 답을 제시함으로써 신선한 통찰력을 제공했다고 할 수 있다. 개인이 인공지능을 동료 혹은 친구처럼 느끼며 사회적 관계에서 느끼는 부족함을 채울 수 있음을 나타내는 2차 연도의 연구결과는 앞으로 인공지능이 사람과 사람 간의 커뮤니케이션을 어떻게 대체할 수 있을지에 대한 연구의 폭을 넓히는 데에 활용될 수 있다. 또한 1, 3년 차에 진행되었던 비윤리적 상황 관련 연구는 인공지능 챗봇이 실생활에서 점차 많이 이용되고 있지만, 인간-인공지능 상호작용을 윤리적 차원에서 분석한 연구는 거의 없었다는 점에서 그동안 실증적인 연구의 대상으로 다루어지지 않았던 인간-인공지능 상호작용에서의 비윤리적 언어사용에 대한 이해를 높이고 새로운 연구 분야의 확장과 발전에 기여할 수 있을 것이다.