자율주행차가 가능하면 자율살인총도 가능하다
자율주행차가 가능하면 자율살인총도 가능하다
[좋은나라 이슈페이퍼] 과학기술 윤리에 관하여
자율주행차가 가능하면 자율살인총도 가능하다
과학기술 윤리에 관한 대중적 관심을 가장 높인 사건은 황우석 사건일 것이다. 이 사건에서 인간복제, 난자 기증 매매 등과 연관된 생명 윤리와 연구 윤리는 물론 취재 윤리까지 다루어졌다. 과학기술 윤리는 일상생활 윤리와는 다르게, 과학기술의 급속한 발전에 따라 답하기 어려운 문제를 갑자기 제기하곤 한다. 유전자 조작 기술과 관련된 생명의학 윤리, 인간을 대체하고 있는 인공지능 윤리, 인터넷 공간에서 일어나는 일들에 관한 사이버 윤리는 지난 세기에는 상상 속 문제였지만 지금은 당면한 문제이다. 

새로운 과학기술 분야들이 매우 다양하게 나타남에 따라 과학기술 윤리 문제는 지속적으로 발생할 것이다. 이 글에서는 다양한 과학기술 윤리 문제들을 간략히 살펴보고, 최근 한국에서 일어난 일들을 통해 과학기술 윤리를 어떻게 만들어 나갈지 생각해보고자 한다. (필자)

과학기술 발전과 함께 나타나는 윤리 문제들

미토콘드리아 유전자의 결함으로 인한 질병을 치료하는 방법으로 난자의 미토콘드리아를 다른 사람의 미토콘드리아로 바꾸는 기술이 개발되고 있으며, 이 방법을 적용하여 정자, 난자, 미토콘드리아의 유전자를 각기 다른 사람으로부터 받은 아기가 이미 태어났다. 이 기술의 허용할지, (미국은 허용하고 있지 않다) 허용한다면 미토콘드리아를 제공한 사람을 부모로 인정할지, 부모로 인정한다면 부모로서 권리와 의무를 어떻게 규정할지는 사회적 합의에 이르기 쉽지 않은 문제이다. 

근년에 들어 크리스퍼(CRISPR)라고 부르는 획기적인 유전자 편집 기술이 – 비용, 속도, 용이함 면에서 기존 기술에 비해 엄청나게 뛰어난 기술이 눈부시게 발전하고 있다. 유전자 관련 기술을 인간에 적용하는 데 아무런 제약이 없다시피 한 중국을 중심으로 이 기술을 이용한 인간 유전자 연구가 활발하게 진행되고 있다. 이 기술을 적용하면 유전자가 변형되어 GMO가 만들어지지만 세련된 편집으로 인해 편집 여부를 알기도 쉽지 않다. 보도에 의하면, 2018년 1월까지 중국에서 86명이 크리스퍼를 이용하여 유전자 편집을 하였다고 한다. 

지금과 같이 규제가 없다면 머지않아 중국에서는 오늘날 성형수술이 일상화되어 있는 것처럼 유전자 편집이 보편화될 것이다. 지금은 중국인들이 한국에 의료관광을 오고 있지만 한국인들이 유전자 편집을 위해 중국으로 의료관광을 갈 날이 오지 않으리라 장담하기 어렵다. 한국에서는 생명윤리법을 통해 국내에서 행하는 인간 유전자 관련 연구와 치료를 엄격하게 규제하고 있지만 국외에서 유전자 편집이 일상화된다면 생명윤리법을 어떻게 개정해야 할지 가늠하기 어렵다. 

현대 인공지능 분야의 창시자 중 한 사람으로 평가받는 바이젠바움(Joseph Weizembaum, 1923-2008)은 이미 1976년 고객 서비스 상담원, 임상의, 노인 돌보미, 군인, 판사, 경찰관 같이 존중과 돌봄이 요구되는 일에 종사하는 사람을 대신하는 데 인공지능이 사용되어서는 안 된다고 주장하였다. 이 중 몇몇 직종에는 인공지능이 도입되고 있으며, 아마도 모든 직종을 인공지능으로 대체하려 할 것이다. 지금은 인공지능의 신기함에 들떠있지만 조만간 인간의 존엄성과 관련된 문제들을 실감하게 될 것이다. 

페북 데이터가 미국 대선에서 악용된 것은 댓글을 통한 여론 조작과는 또 다른 차원의 빅데이터가 가지고 있는 윤리 문제를 보여준다. 수 년 전만 하더라도 개와 고양이를 구별하는 방법에 대해 고민하던 인공지능 연구자들은 알파고끼리의 대국을 통해 고도화된 인공지능이 인간을 넘어설 수 있다는 것을 보여주고 알파고를 바둑계에서 은퇴시키기에 이르렀다. 이런 빅데이터를 활용한 인공지능이 야기할 문제들을 예측하고 그에 관한 윤리 규정을 미리 만드는 것은 불가능하다고 해도 과언이 아니다. 이외에도 과학기술 윤리와 관련된 문제들은 많다.

최근 한국의 과학기술 윤리와 관련된 몇 가지 소식을 언론에서 접할 수 있었는데, 그 중 두 사건을 중심으로 과학기술 윤리를 살펴보고자 한다.

KAIST 인공지능 연구

지난 4월 뉴욕 타임즈 등 유수의 언론은 30개국 50명이 넘는 인공지능 연구자들이 KAIST와의 인공지능 관련 협력을 거부하는 서한에 서명하였다고 보도하였다. 그 직후 가디언은 서명을 주도한 호주의 인공지능 연구자 월쉬(Toby Walsh) 교수의 기고문을 실었는데, 그 내용을 요약하면 다음과 같다.

자율자동차는 보행자를 확인, 추적하고 피할 수 있는 알고리즘을 사용하고 있는데, 이는 전투원을 확인 추적 겨냥하는 알고리즘으로 쉽게 변형될 수 있다. 이는 자율무기가 조만간 실현될 수 있음을 의미한다. 다시 말하면 인간의 생사를 결정하는 일에서 인간을 완전히 배제하는 인공지능을 탑재한 무기가 나타날 수 있다. 이는 도덕적으로 받아들일 수 없는 일이지만 자율무기의 조짐은 이미 볼 수 있다. 드론을 이용한 무기는 이라크 아프가니스탄 등에서 널리 사용되고 있는데, 현재는 그것을 조종하는 군인이 사람의 생사를 결정하지만, 즉 반(半)자율무기이지만 군인을 인공지능으로 대체하면 자율무기가 된다. 

이는 화약, 핵무기에 이은 무기 진화의 3차 혁명이다. 우리는 자율무기에 장착된 인공지능이 국제인도법(國際人道法)를 준수하도록 할 방법을 알지 못한다. 자율무기는 화학무기처럼 아주 적은 비용으로 대량살상 무기가 될 가능성이 열려있는 무기이다. 게다가 자율무기는 컴퓨터 바이러스처럼 누가 만들었는지도 알기 어렵다. 이런 특성으로 인해 자율무기는 현재의 불안한 국제질서를 더욱 불안하게 만들 것이다. 

KAIST가 한화시스템(Hanwha Systems)과 협력하여 자율무기, 예컨대 무인잠수함 개발 경쟁에 뛰어들 것이라고 코리아 타임즈가 보도하였다. 한화는 유엔 협약에 반하는 집속탄을 만들고 있기 때문에 10년 전 노르웨이의 미래 펀드는 한화를 윤리적 블랙리스트에 넣었다. (이런 상황에서 인공지능 전문가들이 KAIST와의 협력을 거부하는 요구에 서명하였다.) KAIST 총장은 이 거부 움직임에 빠르게 반응하여, KAIST는 자율무기를 개발하지 않을 것이며 더 나아가 유의미한 인간의 제어가 항상 유지되도록 하겠다고 확인하였다. 이는 하룻밤 사이에 이룬 성과이다.

이와 관련된 보도에 따르면, 한국은 비무장지대에서 보초로봇을 사용하고 있다. 현재 이 로봇은 카메라로 연결되어 군인이 조작하고 있지만 자율모드로 전환할 수 있는 기관총을 장착하고 있다. 이렇게 한국도 자율무기 제작 능력을 가지고 있으며, 관련 기술들의 발전 속도와 세계 각국 국방 관계자들의 관심으로 보아 자율무기에 대한 실질적인 통제는 사실상 불가능해 보인다. 무기 사용에 의미 있는 인간 통제가 있어야 한다는, 스스로 판단하고 작동하는 인공지능이 탑재된 터미네이터 같은 살생 무기가 허용되어서는 안 된다는 인공지능 연구자들의 윤리는 21세기에 보편적으로 지켜지기에는 너무 오래된 것이라는 느낌까지 갖게 된다.

미성년 자녀 논문 공저자 

지난 4월 교육부 보도 자료에 따르면, 교육부는 미성년 자녀의 논문 공저자 등록 실태를 조사하였는데, 2007년 이후 10년 동안 미성년 자녀가 공저자로 등록된 논문이 138건이었다. 미성년자가 논문 저자가 되는 것은 허용되지만 연구에 기여하지 않은 사람이 저자가 되는 것은 연구부정행위(부당저자)에 해당한다. 교육부는 이들 논문에 대해 부당저자 여부를 검증토록 하고, 부당저자 사안에 대해서는 징계, 사업비 환수와 더불어 대입 활용여부를 조사하여 입학취소 등 필요한 조치를 할 것이라고 한다. 

2007년 당시 과학기술부는 황우석 사건을 계기로 ‘연구윤리 확보를 위한 지침’을 만들었다. 이 지침은 연구 진실성을 담보하고 연구부정행위를 방지하는 데 목적을 두고 있으며, 위조, 변조, 부당저자 표시 등을 연구부정행위로 규정하고 있다. 2015년 교육부는 이 지침을 보다 구체화하는 방향으로 개정하였는데, 미성년 저자와 관련되어 또다시 개정할 모양이다. 교육부 보도 자료의 검증 대상 논문들에 대한 자세한 정보가 공개되지 않아 단언할 수는 없지만 요즘 시행되고 있는 여러 가지 R&E(Research & Education) 프로그램들의 성과가 – 주로 영재고, 과학고 학생들이 참여하는 이공계 연구-교육 프로그램들의 성과가 논문으로 발표되고 있는 상황에 비추어보면 검증 대상 논문의 상당수가 과학기술 논문일 것으로 추측된다.(보도에 따르면 일부 검증대상 논문의 주저자는 과학기술 분야 교수들이다.)

검증대상 논문 중 일부라도 부당저자 경우에 해당하고 미성년 자녀의 대학입시에 활용되었다면 그 파문은 상당할 것이다. 대학입시는 한국 사회에서 가장 민감한 사회 문제 중 하나이며, 사교육으로 인한 대학입시에서의 불공정, 학벌로 인한 사회적 양극화 등에 비춰볼 때 미성년 자녀 부당저자는 채용비리보다 더 심각한 문제로 부각될 것이다. 

사실 자식에 대한 부모의 마음은 동서양이 다르지 않다. 미국에서 부모들의 학력 수준이 가장 높은 지역 중 하나인 실리콘벨리에서도 고학력 부모들이 자녀의 학습활동에 관여하는 일은 흔하다. 한국과 마찬가지로 미국의 대학입시에서도 다양한 학생활동 기록을 반영하지만 논문은 공정하지 않게 처리될 수 있기 때문에 별로 고려하지 않는다고 한다. 한국의 대학입시에서 논문을 성과로 반영하는 것은 이미 기울어진 운동장을 기정사실화하는 것이다. 사교육 과열을 방지하기 위해 각종 경시대회 성적을 생활기록부는 물론 자기소개서에도 쓰지 못하게 하는 상황에서 다양한 활동의 범주를 넘어 선행학습의 ‘최고 단계’라도 해도 과언이 아닌 논문을 대입 평가에 포함시키는 것은 과해 보인다. 대학에서는 R&E 경험을 입시에 반영하기보다 그런 경험을 가진 학생들을 위한 프로그램을 입학 후에 실시하는 것이 바람직하다.

과학기술 윤리 – 어떻게 만들 것인가? 

그 기원을 기억하기 어려울 정도로 오랜 시간에 걸쳐 정립되는 생활 윤리와 달리 과학기술 윤리 문제는 과학기술의 심한 경쟁과 발전 속도에 대응하기 위해 그 대책이 긴급하게 요구되는 경향을 보인다. 또한 윤리위원회 같은 기구를 통하든 묵시적이든 대책이 세워진 후에는 과학기술의 전문성으로 인해 그것이 잘 지켜지는지 검증하기 쉽지 않다. 

일반적으로 과학기술은 그 내용 면에서 다른 분야보다 엄밀하기 때문에 과학기술자들은 과학기술 윤리 문제를 내부적으로 잘 정리하고 준수하여 다른 분야 사람들에게 모범의 예가 될 것으로 예상할 수도 있다. 그러나 앞에서 언급한 여러 예에서 볼 수 있듯이 과학기술 윤리 문제는 엄밀하게 재단하기 쉽지 않다. 오히려 과학기술자들은 인문 사회과학 분야 종사자들보다 분야 외적 사회활동이 적기 때문에, 또 자신이 관련되어 있는 과학기술의 사회적 의미에 큰 관심을 두지 않기 때문에 복잡 미묘한 윤리 문제를 다루는 데 더 서투르다. 

과학기술자들이 정규과정에서 심도 있는 윤리 교육을 받는 일은 드물며, 보통은 과학기술 활동, 즉 과학기술자들 사이의 교류를 통해 윤리를 체득한다. 다시 말하면 과학기술자의 윤리 개념은 체계적인 교육보다 개인적인 경험에 좌우된다고 해도 과언이 아니다. 부적절한 연구비 관리 등 비윤리적인 행태는 그 연구자의 교육 연구 과정에서 경험을 통해 형성된 윤리 의식에 따른 결과라고 보는 것이 타당하다. 근래에 들어 과학기술자들을 대상으로 연구부정 연구비관리 규정 등에 관한 교육을 하기도 하지만 사회적으로 미묘한 문제를 다룰 수 있는 능력을 갖추기 위한 체계적인 노력은 크게 미흡하다. 

간단히 말하면 한국 과학기술계가 최근 나타나고 있는 복잡한 과학기술 윤리 문제에 대한 답을 제시할 수 있는 능력을 갖추고 있다고 말하기 힘들다. 그러나 이는 한국 과학기술계만의 문제는 아니며, 과학기술 선진국들도 사정이 크게 다르지 않다. 과학기술 못지않게 사회적 변화 역시 예전에 비해 매우 빠르게 일어나고 있기 때문에 과학기술계 내부에서 사회적 변화에 부응하는 과학기술 윤리를 정립하기는 어렵다. 

과학기술 윤리 공론화위원회

과학기술 윤리 문제에 대한 답을 사회적 합의를 통해 제시하는 방식을 생각해볼 수 있다. 2017년 원자력 발전소 문제에 대한 합의를 이끌어낸 신고리 5·6호기 공론화위원회는 참고할만한 방식이다. 과학기술 내용은 투표와 같은 합의에 의해 결정할 수 없지만 - 과학지식 자체가 과학자사회의 합의에 의한 결정이며, 그 과정이 매우 합리적이라고 인식하기도 하지만, 과학기술의 사회적 이용에 관한 내용은 신고리 공론화위원회처럼 사회적 합의로 정해야 한다. 

과학기술 관련 문제에 대한 사회적 합의는 선진국에서도 어려운 문제이지만 그 예는 비교적 쉽게 찾아볼 수 있다. 사회적 합의에 장애가 되는 것은 과학기술 지식에 대한 일반인들의 접근이 쉽지 않으며, 따라서 일반인들이 합의 과정에 참여하는 데 많은 시간과 노력이 필요하다는 점이다. 사실 새로운 과학기술은 해당 분야에 종사하지 않는 과학기술자에게도 낯설다. 직접적인 이해관계가 없는 과학기술 윤리 문제를 해결하는 데 자발적으로 참여할 일반인은 거의 없기 때문에 과학기술과 관련된 시민운동이 비교적 활발한 서구에서도 전문성을 극복하고 과학기술의 민주주의를 이루는 일은 쉽지 않다. 과학기술 윤리 공론화위원회 같은 사회적 합의 방식이 제대로 작동하기 위해서는 민주사회는 아이디어 원칙 도덕에 대한 경쟁에서 독점이 생기지 않도록 계속 경계해야 한다는 기본적인 원칙을 항상 염두에 두어야 한다. 

이를 위해서는 과학기술자가 아닌 사람들이 과학기술의 사용에 미치는 영향력을 높일 수 있는 방안을 생각하고 실천해야 한다. 과학기술 분야는 내부적으로 비교적 자율적이며, 외부압력으로부터 보호받아야 한다는 통념을 넘어설 수 있는 사회적 분위기가 만들어져야 한다. 과학기술자계는 일반인들이 이해할 수 있는 언어로 된 과학기술지식을 준비하여 그에 대한 인식론적 실천을 할 수 있는 일반대중 활동가를 기르는 데 노력해야 할 것이다. 과학기술 윤리 문제는 과학기술이 사회에 기여하고 있음을 보일 수 있는 또 다른 기회이기도 하다. 과학기술정책은 전통적으로 ‘민주적’으로 결정되지 않는 경향이 있는데 - 정치 경제적 요인이 강하게 작용하여 과학기술자나 일반시민보다 관료, 기업, 군의 요구에 따라 결정되는데, 과학기술 윤리와 관련된 사회적 합의 방식과 관련된 제도와 인적 자원은 보다 민주적인 과학기술 정책을 수립하는 데 도움을 줄 것이다. 어떤 분야든 아마추어의 수준이 높아지면 프로의 수준은 덩달아 높아지듯이 이런 제도적 인적 인프라는 과학기술의 발전에 크게 기여할 것이다.

윤리와 법 

윤리 문제가 그저 윤리 차원에 머무른다면, 또 그를 어겨 이득을 취할 수 있다면 윤리는 제대로 지켜지기 어렵다. 윤리가 실천되기 위해서는 법적 뒷받침이 필요하다. ‘갑질’이 반복되는 것에서 알 수 있듯이 윤리 문제를 그저 ‘국민정서’에만 맡겨놓는다면 일시적인 여론의 질타를 받는 것 외에 별다른 진척이 없을 것이다. 일반적으로 윤리적 판단과 법적 판단에는 차이가 있다. 미성년 자녀 공저자가 부당저자로 판단되고 – 이를 판단하는 일은 꽤나 미묘한 문제이지만 – 그 결과 자녀의 대학입학 취소 같은 제재를 받는다면, 이는 분명 법적 다툼으로 옮겨갈 것이다. 이 경우 국민폄하 발언으로 파면되었던 교육부 기획관에 대한 처벌이 과하였다는 법원의 판단에서 볼 수 있듯이 정서에 따른 제재가 법원의 판단과 다를 수 있다. 

한편으로 지난 4월 일어난 삼성증권 전산 사고에서 볼 수 있듯이 한국 사회의 윤리 수준이 예전보다 못하다는 생각도 든다. 자본의 입장에 반하거나 기득권의 후퇴를 요구하는 제도화에는 강한 저항이 있기 때문에 실효성 있는 법적 제도화는 꽤나 어려울 것이다. 과학기술 윤리에 대한 수긍할만한 제도화를 위해서는 그를 강력하게 뒷받침할 수 있는 많은 과학기술 외부인들이 참여할 수 있는 여건과 그를 위한 과학기술계의 노력이 절실하다. 
이 기사의 구독료를 내고 싶습니다
일부 인터넷 환경에서는 결제가 원활히 진행되지 않을 수 있습니다.
국민은행 343601-04-082252 [예금주 프레시안협동조합(후원금)]으로 계좌이체도 가능합니다.
다른 글 보기
지식협동조합 좋은나라 홈페이지 구독하기 최근 글 보기
지식과 문화의 생산과 공유 및 확산에 참여하는 시민들의 협동조합입니다. 공동체를 위한 종합적인 Think Tank 기능과 다양한 지식관련 경제사업을 수행합니다.
배너