2019 Ethics Newsletter 3월

< 윤리경영 개념사전 >

INNOCREW

서울시 마포구 매봉산로 37 DMC 산학협력센터 1301호 | T. 02-324-5661 | F. 02-324-5606

공식 홈페이지: www.innocrew.com | E&C연구소 블로그: http://innocrew01.blog.me/

마케팅실 마보람 대리 T. 070-8709-6303 | E. mb0601@innocrew.co.kr

RIGHT | CHANGE | INNOCREW

윤리경영의 시간이 흐르는 동안 수많은 개념이 추가되어 왔다. 기업윤리, 윤리경영,

인권경영, 기업의 사회적 책임, 지속가능경영, 공유가치 창출, 사회적 가치 실현...이

정도면 개념의 홍수라 할 만하다.

기업윤리와 도덕이 어떻게 다른지도 아직 정리되지 않았는데, 자꾸만 새롭게 보태지는

이 수많은 개념들을 어쩐다는 말인가? 백성들의 언어 생활을 걱정하는 세종의 마음을

본받아 윤리경영의 수많은 개념들을 한 번 정리해 본다.

trend

인공지능 기술이 4 차 산업혁명을 주도할 기술로 각광받으며 무서운 속도로 성장하고 있다.

인공지능(Artificial Intelligence, AI)이란 인간의 학습능력, 추론능력, 이해능력 등을 컴퓨터

프로그램으로 실현한 기술이다. 사용자의 말을 알아듣고 그에 맞는 답을 제시하는 AI

스피커에서부터 자율주행 자동차, 그리고 최근에는 신입사원의 채용 면접에도 인공지능 기술이

쓰이고 있다.

인공지능은 방대한 데이터를 스스로 학습하여 적절한 작업을 수행하는데, 이 데이터의 차이가

생각지 못한 사회적·윤리적 이슈를 불러일으킨다. 대표적인 사례가 구글의 사진 자동 인식 서비스다.

2015 년 구글이 야심차게 출시했던 이 서비스는 사용자의 사진 형상을 자동으로 인식해 관련된

태그를 붙여주는 기능이었는데, 흑인 여성의 사진을 고릴라로 인식해 논란이 됐다. 이에 구글은

긴급회의를 소집해 기능의 불완전성을 인정하고 해당 사용자에게 사과했다. 아마존에서는 채용

면접에 사용하기 위해 개발 중이던 인공지능 시스템이 ‘여성’이라는 단어가 포함된 지원서에 감점을

주고, 남성 지원자들이 많이 쓰는 표현이 들어간 이력서에 높은 점수를 부과하는 등 성차별적 문제가

발생하자 이를 자체적으로 폐기하기도 했다. 감정, 이해관계 등 객관적이지 못한 외부요인에

휩쓸리는 인간보다 공정하게 대상을 분석하고 평가할 것이라고 예상했던 인공지능이 정반대의

결과를 보여 준 것이다. 두 사례는 인공지능이 학습하는 데이터양의 부족, 가치 편향적인 정보 학습

등으로 인해 나타난 문제점이었다.

인공지능 기술의 발전은 인간에게 편리함과 이로움을 제공하고 있는 것은 확실하다. 그러나

한편으로는 과연 이것이 이롭게만 작용할 것이냐는 의문도 들게 한다. 이세돌 9 단과 알파고의

바둑대결에서 4 승 1 패라는 기록으로 알파고가 승리했을 때, 사람들은 인공지능 기술에 대한

호기심과 두려움을 동시에 느꼈다. 고도로 발전한 기술이 인간의 통제 범위를 벗어났을 때 일어날

수 있는 위험성이나, 인공지능 기술이 인간의 노동력을 대체하면서 발생할 수 있는 사회적 불평등에

대한 우려 등이 그것이다. 현재 제조·서비스·운송업계는 로봇 자동화와 인공지능 기술의 도입이

활발히 이루어지고 있다. 이는 인건비 등의 비용 절감과 새로운 시장 창출이라는 장점도 있지만 이에

따르는 일자리의 감소가 빈부격차의 심화를 야기할 것이라고 걱정하는 시각도 존재한다.

인공지능 기술은 또한 인권침해 논란도 야기한다. 중국의 한 기업에서는 작업모에 뇌파 측정

센서를 부착해 근로자의 감정변화를 측정했다. 그리고 그것을 분석하여 작업의 흐름과 업무량을

조절했다. 기업에서는 이 장치 도입 이후 업무 생산성이 향상되어 4 년간 3 억 달러의 이익향상이

있었다고 했지만, 전문가들은 이 주장에 대해 회의적인 반응을 보였다. 뇌파 변화와 실제 사람 감정

사이 관계가 명확하게 밝혀지지 않았으며 기업의 이익을 위해 근로자의 생체 데이터를 수집하는

행위는 업무 효율성의 관점보다는 사생활 침해, 인권 침해의 관점에서 봐야 한다는 지적이다.

고도의 인공지능 기술을 누가 먼저 선점하느냐가 중요해진 시대에, 이로 인해 발생한 윤리적

이슈와 앞으로 발생할 수 있는 문제들을 예방하기 위해서는 인공지능 기술에 대한 윤리규범이

마련되어야 한다는 말은 부인할 수 없다. 이에 2017 년 1 월 미국 캘리포니아 아실로마에서는 세계

유수의 인공지능 전문가들이 모여 인공지능 윤리에 대한 가이드라인을 만들었다. ‘아실로마 AI

원칙’이라고도 불리는 ‘미래 인공지능 연구의 23 가지 원칙’에 대하여 우주 물리학자 스티븐 호킹,

테슬라 최고 경영자 엘론 머스크 등이 이 원칙을 지지한다는 의사를 표명했다. 원칙은 ‘연구이슈’,

‘윤리와 가치’, ‘장기이슈’ 총 3 개의 범주 23 개 항목으로 구성되어 있는데 이중 ‘윤리와 가치’ 범주가

13 개 항목으로 가장 많다. 인공지능 기술의 연구와 개발에 있어 윤리 이슈가 그만큼 중요하게

고려되어야 함을 의미한다. 아실로마 AI 원칙은 ‘인공지능 시스템은 인간의 존엄, 권리, 자유 및

문화적 다양성의 이상에 적합하도록 설계되고 운용되어야 하며, 인공지능이 만들어내는 경제적

번영은 널리 공유돼 모든 인류에게 혜택이 돌아가도록 해야 한다.’고 명시하고 있다.

인공지능 윤리 가이드라인과 관련하여 국내에서도 지난해 6 월 ‘지능정보사회 윤리헌장’이

선포됐다. 이 윤리헌장은 과학기술정보통신부와 한국정보화진흥원, 그리고 민간 전문가가 2016 년

개발에 착수하여 2017 년 발표한 ‘지능정보사회 윤리 가이드라인’의 대중적인 요약본이다.

기술관점에서의 윤리 이슈뿐만 아니라 기술 이용자의 오남용 방지 등 사회적 관점의 윤리규범도

포함하고 있다는 것이 특징이다. 기업에서는 카카오가 앞장섰다. 지난해 1 월 발표한 ‘카카오

알고리즘 윤리 헌장’에는 사회 계층에 관한 의도적 차별 방지, 윤리에 근거한 데이터 수집 및 관리

원칙 등이 담겨있다. 카카오는 윤리 헌장을 발표하며 “사회가 요구하는 윤리의식을 갖춘 AI 기업이

되기 위해 노력하겠다”고 밝혔다.

<지능정보사회 윤리 가이드라인 공통원칙>

기술의 발달과 효율성의 추구는 이제 인간의 개입 없이도 사물을 조작하고, 분석하는 단계에

이르렀다. 그리고 이런 기술은 아실로마 AI 원칙이 밝히고 있듯 인류에게 이로운 방향으로 작용해야

한다. 인공지능도 결국은 인간에 의해 창조되는 기술이다. 그렇기에 잘못된 윤리관이 투영되지 않도록,

개인은 물론 기업적 차원에서도 그 기술의 개발과 이용에 대한 책임을 인식하고 관리해야 한다.

<참고>

흑인을 고릴라로 인식한 구글, 초스피드 사과

▶http://news.chosun.com/site/data/html_dir/2015/07/03/2015070300217.html

아마존 ‘인공지능 채용’ 개발하다 여성차별 불거지자 폐기

▶https://www.yna.co.kr/view/AKR20181011001100075

中기업, 근로자 뇌파 측정해 감정 파악… “인권 침해”

▶http://www.zdnet.co.kr/view/?no=20180502084101

인공지능 재앙 막는 23 가지 원칙”

▶http://www.hani.co.kr/arti/economy/biznews/786763.html

‘지능정보사회 윤리헌장’ 공표

▶http://news1.kr/photos/view/?3183400

‘지능정보사회 윤리헌장’ 발표가 갖는 의미

▶https://www.boannews.com/media/view.asp?idx=70075

“인류 행복 추구”… 카카오 국내 첫 AI 윤리규범 발표

▶https://www.yna.co.kr/view/AKR20180131097300033?input=1195mhttps://

지능정보사회 윤리 가이드라인과 지능정보사회 윤리헌장, 한국정보화진흥원 연구보고서

INNOCREW E&C연구소 손하연 연구원

© 2019, INNOCREW. ALL RIGHTS RESERVED.