지난 22일 월요일, 영국의 저명한 경제지인 파이낸셜 타임즈의 과학기술혁신부 편집장 존 손힐(John Thornhill )은 인공지능의 가치형성에 있어, 인공지능기술 분야에서 최고가 되기 위해 애쓰고 있는 공산주의 중국과 서구세계 중 어느 쪽이 더 큰 영향력을 행사하게 되는지 질문해 봄으로써, 인간의 가치와 컴퓨터 알고리즘 관계를 다루었다.
손힐국장은 “인간의 가치로 암호화되어 있는 컴퓨터 알고리즘은 점차 우리의 일자리와 연애상대, 은행대출,심지어 살해할 사람들을, 군용 드론을 이용해서 고의로 죽여버릴지 혹은 자율주행 자동차로 사고사 시킬 지 결정하게 될 것이다.”라고 언급했다.
가장 냉소적인 AI 이론가들이라도 우리가 자율주행자동차를 이용해서 고의로 죽이게 될 사람에 관해 생각해 볼 필요가 있다는 문제를 놓치지는 않을 것이다. 어떤 AI 시스템이든 누군가의 안녕이 다른 사람의 것보다 우선할지 정해야 하는 "위기상황에서의 판단력"을 어쩔 수 없이 갖추게 될 것이다. 과연 자율주행자동차가 길 한복판에 있는 어린아이 하나를 피하기 위해 급하게 방향을 틀까? 그러면 그 옆 노천카페 테이블에 한 가득 모여 앉아 식사중인 사람들을 들이받게 될 게 뻔한데도?
손힐은 “그러한 인간의 가치들을 어떻게 암호화해서 (AI에) 장착시킬 것인가 하는 것이 바로 우리 세기를 결정짓는 가장 중요한 힘 가운데 하나가 될 것이다. 그러나 아직 아무도 무엇이 그런 가치들이어야 하는지에 동의하지 못하고 있다. 미·중간 지정학적 기술패권을 두고 벌이는 치열한 경쟁에 말려들게 될 위험은 이러한 논의를 훨씬 더 불안하게 만들고 있다.”고 역설했다.
파이낸셜 타임즈 편집장은 지금까지 인공지능을 위한 최소 50가지의 윤리강령이 발표되었다고 지적했다. 중국 기업과 대학에서 나오는 기부금은 서구 단체들이 내놓는 것과는 현저하게 다르다.
서구사회에서 원리원칙은 공정성, 투명성, 개인의 권리, 사생활 및 책임감 등에 초점을 두는 경향이 있다. 그러나 베르그루엔 연구소 중국 센터장인 송빙은 한 세미나에서 이것이 중국인의 정서와 차이가 난다고 주장했다.”이러한 가치들은 대개 서구에서 비롯되었다. 그렇다고 해서 그러한 가치들이 중국과 다른 나라들에서 울림이 없었다는 뜻은 아니다. 그러나 그러한 가치들이 만국공통의 규범을 만들어낼 프레임워크에 알맞은 규칙일까?
송은 중국의 AI 윤리학자들은 개방적, 포괄적이며 적응가능하고, 인류전체와 소통하며, 제로섬 경쟁을 거부하는 가치들을 우선순위에 둔다고 지적한다. 이러한 철학을 압축설명하며 그녀는 중국 학자들은 거기에 “폭넓은 동정심과 뿌리깊은 조화” 라는 가치를 덧붙이고 있다고 말했다. 공공의 이익은 개인의 권리만큼이나 중요하다는 것이다.
그러나 북경대 출신의 철학자 류 저(Liu Zhe)에 따르면, 중국사회에는 유교, 도교, 불교적 요소들이 뒤섞여 있는 만큼, 중국인의 단일 가치체계가 존재한다고 믿는 것은 잘못이라고 한다.
베이징 중국과학아카데미의 쩡 이교수 또한 하나의 글로벌 원칙이란 것이 과연 필요한지 의문을 제기하면서도, “원칙들이 서로 대립되어서는 안되겠지만 서로를 보완함으로써 AI에 글로벌 환경을 제공해야 한다.”고 덧붙였다.
아무래도 류저는 중국이 권위주의적 전체주의 사회이며, 날이 갈수록 시진핑 주석 아래 일인 독재 체제가 진행되고 있다는 사실을 까먹은 모양이다. 중국공산당은 상충되는 일련의 규칙들이 유교, 도교 및 불교라는 철학적 들꽃들 사이에서 활개치도록 놔둘 것 같지 않다. 심지어 그러한 철학들이 공산당의 신조(dogma)와 충돌할 때, 중국공산당은 준자치기구는 고사하고, 인민들이 이를 감싸는 것조차 좌시하지 않고 있다.
완성된 AI 행동강령이 나타나기 전까지만 해도, 쩡 이(Zeng Yi)가 말하는 서로 부딪치는 대립된 윤리체계란 이론상으로야 흥미로운 개념이지만, 상호 고도로 밀접하게 연결되어 있는 지금 세상에서는 비현실적인 얘기다.그 결과 중국의 AI와 미국인들 사이에는 엄청나게 많은 교류가 일어나며, 미국의 AI는 중국인들의 삶에 영향을 미치게 될 것이다.
Grindr라는 동성애자 데이트 어플이 중국인 소유라는 사실에 대해 미국인들이 보이는 깊은 우려를 사례로 들면서, 손힐은 중국이 AI 시스템에 자국민과 외국인 모두에 관한 막대한 양의 정보를 입력할 때 딱히 신중하지 않다는 점을 꼬집었다.
쩡박사는 또한 중국 연구자들이 인간을 “세상에서 가장 나쁜 동물”이라고 여기기 때문에, 열등한 인간의 윤리기준을 인공지능에 적용해서는 안 된다고 했다. 세미나에 참석한 서양 연구자들은 그의 얘기를 “거짓되고도 위험한 전제”라 생각했다고 손힐은 전했다. 지능을 갖춘 기계에게 인간을 모든 창조물 가운데 가장 열등한 존재로 간주하도록 가르친다? 이보다 뭐가 더 잘못될 수 있겠는가?
머지않아 우리는 인류를 치료해야 할 바이러스로 다루는 자의식 가득한 컴퓨터를 걱정해야 하며, 서양의 사생활 침해 우려와 “최대다수의 최대행복”이 “개인의 권리를 보호하는 도덕적 의무”보다 반드시 우선하는 중국의“테크노-공리주의’ 모델간 대립상태에 놓인 우리 스스로를 염려해야 되게 생겼다.
손힐 국장은 마트의 쇼핑 카트에 붙어있는 안면인식스캐너(고객입장에서야 얼마나 편리한지!) 정도의 기술수준에서, 악몽 같은 감시국가 중국으로 넘어간 후, 테크노-공리주의가 그 뒤숭숭한 신장지역에 적용되기까지 걸린 시간이 걱정스러울 정도로 매우 짧았다는 사실을 밝혀냈다.
중국인들은 테크노 공리주의가 마치 자율주행자동차와 같은 기술로 엄청난 이득을 가져다 줄 것으로 믿고 있다. 왜냐하면 그들은 인공지능개발을 부채질하는 막대한 양의 데이터베이스를 구축하는데 필요한 사생활 침해라는 문제에 아무 거리낌이 없으며, 신기술을 순식간에 배치하고 그로 인해 생기는 문제들을 나중에서야 다루는 경향이 있고, 미국이나 유럽에서 강력하게 반대하는 프로그램들을 정부차원에서 지원하는 것에 대한 정치적 저항을 전혀 걱정하지 않아도 되기 때문이다.
사생활과 개인의 권리에 대한 서구세계의 우려가 중국인들이 생각하는 것만큼 AI 개발에 큰 걸림돌이 될지,그리고 테크노-공리주의가 결국 우세한 이데올로기가 되어 과잉 연결된 세상 속에서 이러한 우려는 결국 무시당하고 말게 될지는 시간이 곧 말해줄 것이다.
리버티코리아포스트 기사협약에 따라 게재된 기사입니다.
