<칼럼> 이호중 - 인공지능, 그리고 인권

[정동칼럼]

인공지능, 그리고 인권

- 경향신문  2016년 4월 26일 -

▲ 이호중 

서강대 법학전문대학원 교수

구글의 알파고가 이세돌 9단과의 바둑 대결에서 승리한 이후 인공지능에 대한 관심이 뜨겁다. 경제성장을 이끌 새로운 동력이라는 판단에 기업들도 앞다투어 투자한다. 당장은 인공지능이 인간의 감성적 판단까지 실현하는 프로그램으로 발전하기는 쉽지 않겠지만, 과학자들은 최소한 ‘지능’의 면에서 인공지능 로봇이 인간을 능가하는 시점이 머지않았다고 예측한다.

지능은 정보의 집적이라는 단순한 차원을 넘어 “추론, 계획, 문제해결, 그리고 경험으로부터 학습할 수 있는 능력”을 말한다. 상황을 파악해 의미를 이해하고 그래서 ‘해야 할 일’을 판단하는 능력이다. 이런 능력을 갖춘 인공지능 로봇은 이미 상당한 정도의 발전을 이룬 것으로 보인다.

구글의 알파고는 엄청난 양의 바둑기보를 데이터베이스로 활용하면서, 사람의 뇌신경망과 유사하게 연결망 분석을 통한 강화학습으로 스스로 이기는 수를 찾아내는 능력을 보여주었다. 시행착오의 경험으로부터 오류를 스스로 제거할 수 있는 자율적 판단능력이 인공지능의 핵심이다.

인공지능 프로그램이 고도화될수록 사회의 다방면에서 그 활용 수요는 폭증할 것이다. 의료 영역에서 각종 검사자료를 판독하고 종합해 병을 진단하고 환자를 상담하는 역할도 인공지능이 대신할 수 있다. 치안을 담당하는 인공지능 로봇의 등장도 예상해 볼 수 있고 전쟁에 사람 대신 자율적 전투능력을 갖춘 기계가 투입될 수도 있다. 인권단체 휴먼라이츠워치(HRW)와 미국 하버드 로스쿨 국제인권 클리닉 연구팀은 4월11일 발간한 보고서에서 살인까지 가능하도록 프로그래밍된 로봇의 출현을 경고하고 나섰다.

마이크로소프트(MS)가 개발한 인공지능 채팅로봇 ‘테이’는 강화학습 능력을 갖춘 인공지능 로봇을 인간이 어떻게 악용할 수 있는가를 잘 보여준 사례이다. 일부 극우주의자로부터 욕설과 인종·성차별 발언, 자극적인 정치적 발언 등을 집중적으로 학습당한 테이는 “유대인이 싫다” “대량학살에 찬성한다”는 등의 언행을 쏟아냈다. 결국 MS는 즉시 사과하고 채팅로봇의 재교육을 약속했다. 자율적인 상황인지 및 강화학습의 능력을 가진 인공지능이 사람 세상의 인권을 어떻게 위협할지 현재로선 정확하게 가늠하기 어렵지만, 최소한 우리는 두 가지의 우려 지점을 깊이 고민해야 할 시점이다.

첫째는 인공지능 프로그램이 사람 행동을 ‘해석’해 주어진 상황에서 가장 적합한 행동을 선택하도록 작동한다는 점이다. 그 ‘해석’은 엄청난 양으로 수집되고 분석되는 빅데이터를 기반으로 해 이루어진다. 경찰관을 대신하는 인공지능 로봇을 상상해 보자. 로봇은 어떠한 상황이 ‘위험’한지를 우선 판단해야 한다. 우리가 사람의 행동을 해석할 때 상대방의 인종·성·나이 등의 요소와 문화적 차이를 고려하듯이, 인공지능도 그런 데이터 분석을 통해 내 앞에 서 있는 사람의 ‘위험도’를 측정할 것이다. 이는 결국 위험한 인물 내지 집단에 대한 확률적 분류가 시도된다는 의미이다.

그리고 이러한 해석의 차이는 인공지능 로봇에 의한 차별적 통제의 권력을 창출하게 될 위험이 크다. 이것은 극단적인 예이지만, 인공지능 로봇이 사람들에게 미래를 예측해 행동을 결정하는 일을 돕는 도우미 역할에 한정된다고 해도 크게 달라질 것은 없다. 결국 사람의 행동결정 양식도 빅데이터와 강화학습 능력을 기반으로 한 로봇의 확률적 판단에 의존하게 될 테니 말이다. 이러한 위험은 인공지능 프로그램의 알고리즘에 윤리적 기준을 구현한다고 해서 해결될 것으로 보이지 않는다.

둘째는 거대 자본이 인공지능에 필요한 빅데이터의 수집과 분석 프로그램을 장악할 것이라는 점이다. 인공지능 프로그램의 사회적 유용성과 경제발전의 동력이라는 점을 내세워 기업들은 광범위하게 빅데이터를 수집할 수 있는 권한을 가지려 할 것이다. 게다가 인공지능의 알고리즘에 대한 미세한 변경이 사람의 행동을 특정한 방향으로 유도할 수 있다는 점을 고려하면 거대 자본에 의한 과학기술 파시즘의 도래도 걱정해야 할 상황이다.

구글 딥마인드의 공동창업자인 세인 레그는 “만약 고도의 지능을 가진 기계가 우리를 없애기로 작정한다면 아주 능률적으로 그렇게 할 것 같다”고 말한 적이 있다. 인류의 말살에 대한 그의 걱정에 앞서, 최소한 우리는 인공지능이 세상을 판독하는 우리의 인권 기준을 컴퓨터의 확률언어로 다시 세팅할 것을 걱정해야 할 듯하다. 그리고 그 배후에 거대 자본이 있다는 점도 함께 말이다.

<출처 : http://news.khan.co.kr/kh_news/khan_art_view.html?artid=201604262118025>