Korean Ethics Education Association
한국윤리교육학회 홈페이지에 오신걸 환영합니다.
윤리교육연구
pISSN: 1738-0545 / eISSN: 2733-8983
윤리교육연구, Vol.44 (2017)
pp.1~24
도덕적 인공 지능에 관한 비판적 고찰
최근 도덕적 향상의 새로운 방법으로 도덕적 인공 지능에 관한 관심이 학계의 주목을 끈다. 사부레스쿠(Savulescu)와 매즈린(Maslen)은 인간의 도덕적 의사결정을 돕고, 타인의 잠재적인 비도덕성으로부터 행위자를 보호할 수 있는 약한 도덕적 인공지능의 필요성을 강력하게 역설한다. 그들은 인간의 타고난 도덕 심리의 한계를 극복하고, 세계화된 인류가 직면한 기후 변화와 자원 고갈과 같은 긴박한 문제를 해결하기 위해 생명의학적인 수단과 더불어 도덕적 인공 지능을 개발할 필요가 있음을 강조하면서, 도덕적 인공 지능이 수행해야 할 구체적인 기능 목록을 제시하였다. 이 논문에서는 도덕적 향상 수단으로서 도덕적 인공 지능 논의가 지닌 이론적ㆍ실제적 문제점을 분석하였다. 도덕적 인공 지능은 실현상의 난점과 더불어 상당한 윤리적 문제를 내포하고 있으므로 이에 대한 신중한 접근을 필요로 한다.
A Critical Consideration on Moral Artificial Intelligence
This article did delve into the problems of moral artificial intelligence as a new method of moral enhancement. Savulescu & Maslen in Oxford University have argued that moral artificial intelligence should be an aid for us to live a morally better life. According to them, given our innate limited moral psychology, we should welcome the development of moral artificial intelligence which has the capacity to obtain and analyze more information for moral decision-making than we can do alone. However, contrary to their naive forecasts, a realistic possibility of weak moral artificial intelligence in a pure technological sense is very low. Another problem can be found in an ethical perspective. Weak moral intelligence may violate our moral autonomy and privacy. In addition, it may go against the principle of social equality. Therefore, we should not welcome weak moral artificial intelligence as a method of new moral enhancement.
