“인공지능에 책임감을 허하라!”… 고개 드는 ‘리스폰서블 AI’론(論)

73억5000만 달러(약 8조3000억 원). 지난해 온라인 통계 포털 스타티스타(Statista)가 추산한 올 한 해 글로벌 인공지능(Artificial Intelligence, AI) 시장 규모다. 영국 런던에 본사를 둔 다국적 컨설팅 기업 프라이스워터하우스쿠퍼스(Pricewaterhouse Coopers, PwC)에 따르면 이 금액은 2030년 1570억 달러(약 177조 원)으로 약 21배 급증할 전망이다. 트럼프 정부가 국회에 제출한 올해 미국 정부 예산의 42배를 상회한다. 인공지능에 대한 전(全) 지구적 관심이 어느 정돈지 가늠할 수 있는 지표들이다.

지금 전 세계는 ‘AI와의 전쟁’ 중

일찌감치 인공지능의 잠재 가치를 간파한 오바마 당시 미국 정부는 2016년 한 해에만 △‘인공지능의 미래를 준비하다(Preparing for the Future of AI)’ △‘국가 인공지능 연구·개발 전략 계획(The National AI research and development strategy plan)’ △‘인공지능과 자동화, 그리고 경제(AI, automation, and the economy)’ 등 인공지능을 주제로 한 국가 보고서 세 편을 잇따라 발간했다. 제목만 봐도 “미국을 인공지능 강국으로 만들어 경제와 안보를 동시에 공고히 하겠다”는 국가적 의지가 충분히 느껴진다. 트럼프 행정부 출범 이후 AI 관련 정책 추진 동력이 다소 주춤해졌다곤 하지만 여전히 무인항공기를 비롯, 다양한 분야에서 연구·개발 작업이 서서히 진전되고 있다.

영국 정부는 지난해 ‘영국에서의 AI 산업 육성(Growing the AI industry in the UK)’이란 연구 보고서를 발표하는 한편, 그에 입각한 인공지능 활용 개선 계획을 선포했다. “국가 예산 9억5000만 파운드(1조4000억 원)를 할당, 영국 내 인공지능 사업이 미래 경쟁에서 유리한 고지를 차지할 수 있도록 지원하겠다”는 게 골자. 다양한 연구 센터 간 협업(collaboration)을 통해 의료·유통·생산관리·법률·보험 등 광범위한 분야에 걸쳐 인공지능 활용법을 개발하는 과제도 포함됐다. 국내 기반 기술 체계를 다지는 동시에 해외에서의 제품(기술) 판매에도 주력하려는 포석이다.

독일도 얼마 전 “4차 산업혁명의 틀 안에서 정부(와 기타 경제 부문)의 활동 생산성 제고에 인공지능을 활용하겠다”는 전략을 발표했다. 특히 자율주행 자동차 운행에 적용되는 인공지능과 관련해선 안전성을 충분히 연구, ‘윤리 위임’이란 지침서를 발표하기도 했다. 이와 별도로 유럽연합(EU) 역시 ‘인공지능의 책임’이나 ‘국가별 인공지능 전략’을 화두로 활발한 논의를 진행 중이다. 여기엔 △인공지능이 제공할 수 있는 기회 △인공지능이 안고 있는 위험 요소 △국가별 인공지능 전략과 법규 △인공지능 관련 비영리 재단 설립 등의 내용이 포함된다.

아시아 국가 중에선 일본과 중국의 움직임이 활발한 편이다. 일본 정부는 최근 ‘인공지능 기술 전략’이란 정책 보고서를 통해 인공지능 생태계 구축을 목표로 한 3단계 계획을 발표했다. “사물인터넷(Internet of Things, IoT)이나 자율주행 자동차, 사이버·물리적 공간 통합 등의 첨단 기술과 인공지능을 접목시키겠다”는 게 주요 내용이다.

중국도 지난해 일명 ‘차세대 AI 계획’을 발표하며 인공지능을 중국이 전략적으로 개발해야 할 기술의 우선순위에 두는 한편, “인공지능이 이끌 신규 경제 모델의 주역이 되겠다”는 포부를 밝혔다. 가공할 실행력은 중국의 또 다른 강점이다. 실제로 중국은 바이두·알리바바·텐센트 등 이미 세계적 명성을 갖춘 인공지능 선도 기업 보유국이다. 전자상거래(e-commerce) 기술을 기반으로 구동되는 이들 기업은 물류 창고 운영을 포함한 기업 활동 전반에 걸쳐 상당한 수준의 선진 인공지능 기술을 활용 중이다. 그런 중국이 이제 ‘국가 차원에서 작심하고’ 인공지능을 자국 경제의 핵심 기술로 삼으려 하는 것이다.

한국의 경우, 아직 정부 차원에서 인공지능 개발을 본격적으로 지원하려는 움직임은 보이지 않는다. 그와 대조적으로 지금껏 정보통신기술(ICT)과 제품 개발 측면에서 개별적으로 탁월한 성취를 보여온 기업을 중심으로 인공지능의 잠재력에 주목, 자사 주력 분야로 개발하려는 노력은 꾸준히 시도되고 있다. 하드웨어와의 통합선상에서 연구를 지속해온 대기업과 달리, 최근 카카오 등 소프트웨어 전문 기업도 이 시장에 본격적으로 뛰어드는 모양새다.

21세기 군비 경쟁, 그 대상은 AI?

오늘날 세계 각국의 인공지능 개발 경쟁 현황을 지켜보고 있으면 말 그대로 “세계대전이라도 치를 듯한” 기세다. 실제로 적지 않은 미디어가 이 같은 상황을 군사 행동에 빗대어 ‘AI 군비 경쟁(AI Arms Race)’이라고 묘사한다.

그런데 한편에선 이와 전혀 다른 양상이 감지된다. 인공지능 기술 개발 경쟁을 전쟁에 비유한 사실이 무색하게 ‘책임’이니 ‘윤리’니 하는 단어가 들려오기 시작한 것. 특이한 건 이전까지 ‘~전쟁’이란 수식어가 붙었던 용어들과 달리 인공지능 개발 분야에선 유독 이 같은 도덕성이 강조된단 사실이다. 그 이유는 뭘까?

불과 몇 년 전만 해도 사람들의 머릿속에 인공지능, 즉 AI는 휴머노이드 로봇과 같이 약간은 비현실적 상상과 맞닿아있었다. 하지만 요즘은 다르다. 어느새 현대인의 일상 깊숙이, 알고 보면 어느 곳에나 들어와있기 때문이다. 의학 분야가 대표적이다. 질병 치료의 첫 단추는 뭐니 뭐니 해도 정확한 진단. 한때 고도로 훈련된 의료진이 육안과 촉진으로 판단했을 일, 이를테면 환자 상태 파악 같은 작업의 상당수는 인공지능 영역으로 넘어간 지 꽤 오래다. 한 예로 환부(患部)를 촬영, 인공지능에 미리 입력돼있던 유사 증상 사진 기록과 비교해 일치하는 병명을 찾는 작업은 지난해 12월 27일자 스페셜 리포트 ‘확 달라진 헬스케어, IT 만나 날개 달다’에서도 다룬 적이 있다(중국 대형 병원에선 이미 일반화된 진료 방식이기도 하다).

쇼핑 상황에서도 인공지능은 ‘열 일’ 한다. 오랜 경험에서 나온 연륜으로 고객 표정만 살피고도 그가 어떤 상품을 원하는지 귀신같이 알아맞히는 점포 주인처럼 인공지능은 상품 판매 과정에서 지원과 개선이 필요한 지점을 정확히 짚어낸다. 게다가 이 ‘AI 주인’은 수백 개 체인을 보유한 대형 쇼핑 서비스에서도 지치는 법 없이 똑같은 집중도로 일을 해낼 수 있다, 그것도 세계 전 지역에서 동시에!

석유나 전력처럼 생산지와 소비지 간 거리가 멀어 유통 과정이 길고 복잡한 재화를 다룰 때에도 인공지능은 여러모로 요긴하다. 인간이 할 일은 단계별 주요 부분에 센서나 카메라를 설치하고 본부(센터)에 인공지능 기술을 도입하는 것뿐. 그러면 모든 생산∙유통 과정이 24시간 365일 센터로 전송돼 모든 상황에 대한 실시간 판단과 대처가 가능해진다.

오늘날 인공지능 의존도는 사용자 연령과 정확히 비례한다. 실제로 일상에서 ICT를 능숙히 다루는 젊은이들은 자신도 모르는 새 점점 더 인공지능에 크게 의지하며 살고 있다. 올가을엔 무슨 옷을 장만하는 게 좋을지, 점심 식사는 어디서 해결할지, 다가오는 연인의 생일엔 무슨 선물이 적절할지 등과 같이 사소한 결정에서부터 진로와 건강 관리 요령, 배우자 선택처럼 굵직한 결정에 이르기까지 스마트폰 검색 창에 의존하는 것만 봐도 알 수 있다(그게 바로 인공지능을 활용하는 일이란 사실을 대부분 의식하지 못한단 사실은 자못 흥미롭다).

유사 이래 전 세계 인구가 이만큼 믿고 따르는 존재가 또 있었을까? 그 절대성과 속도가 보이는 사람이라면 누구라도 지금쯤 불안감을 느껴야 한다. 인공지능이 실은 완전하지 못해 부정확한, 더 나아가 부도덕한 정보를 제공하고 있는 거라면? 책임 있는 인공지능(responsible AI, 이하 ‘리스폰서블 AI’)에 관한 담론은 바로 이 지점에서 출발한다.

‘공정하고 믿음직한 AI’ 향한 주문

리스폰서블 AI는 최근 소위 ‘ICT 선진국’으로 불리는 나라의 매체를 중심으로 급부상 중인 키워드다. 리스폰서블 AI의 필요성을 주장하는 쪽에선 “점점 더 많은 지구인이 인공지능에 심각하게 의존하는 상황인 만큼 앞으로의 인공지능은 그야말로 책임감을 갖고 미더운 정보를 제공하도록 설계돼야 한다”며 목소리를 높인다.

하지만 각론으로 들어가면 문제는 그리 간단찮다. 대체 무슨 수로 인공지능에 책임감을 갖게 한단 말인가? 이러쿵저러쿵 의견은 많지만 대부분 추상적 요구나 선언 수준에 머물러 있다. 대동소이한 메시지 중 그나마 관련 내용이 잘 정리된 저작이 최근 마이크로소프트(MS)가 발행한 보고서 ‘컴퓨터화된 미래: 인공지능과 그 사회적 역할(The Future Computed: AI and Its Role in Society)’이다.

이 보고서에 따르면 앞으로의 인공지능이 중시해야 할 가치는 △공정성(fairness) △신뢰성(reliability) △프라이버시와 보안성(privacy & security) △포괄성(inclusiveness) △투명성(transparency) △점검 가능성(accountability) 등 크게 여섯 가지로 구분된다. 우선 공정성 얘기부터. ‘인공지능이 공정해야 한다’는 명제엔 ‘모든 이를 공평하고 균형 잡힌 방식으로 대하는 인공지능 체계’란 전제가 깔려있다. 어떤 정보도 특정 집단에게 보다 유리한 방향으로 제공돼선 안 된단 얘기다.

혹자는 이 대목에서 의문을 품을 것이다. ‘주관적일 수밖에 없는 인간과 달리 인공지능은 본래 어떤 편견도 없이 판단하고 결정 내리는 것 아니었어?’ 하지만 이는 반만 맞고 반은 틀린 얘기다. 인공지능 설계자 역시 인간이기 때문이다. 따라서 인공지능 역시 의도적으로, 혹은 의도치 않게 특정 부분에 유리한 데이터가 많이 포함된 상태에서 판단 근거를 찾을 가능성이 농후하다. 그리고 그 결과는 반드시 불공정한 작업 이행으로 이어진다. 보고서는 “인공지능이 인류의 행동 일체에 관여할 미래 사회에서 인공지능의 공정성 확보야말로 가장 먼저 이뤄져야 할 기초 작업”이라고 강조한다.

나머지 다섯 가치 역시 중요성 순(順)으로 따지면 어느 것 하나 뒤지지 않는다. 서로 얽히고설켜 영향을 주고받는 관계란 점도 특징 중 하나다. 요컨대 인공지능은 누구나 믿고 활용할 수 있을 만큼 안전하되(신뢰성), 사용자의 신상 정보는 철저히 보호되도록 설계돼야 한다(프라이버시와 보안성). 실제로 구동될 땐 모든 경우의 수를 따져, 모든 관련 인물을 고려하는 게 기본(포괄성). 또한 누구든 그 ‘속’을 들여다보고자 하면 시간과 장소에 관계 없이 해당 기술이 어떤 알고리즘으로, 어떤 데이터를 분석해 도출됐는지 알 수 있도록 설계돼야 한다(투명성). 마지막으로 이 모든 작업의 진행 상황은 첨단 모니터링 시스템을 통해 언제고 파악될 수 있어야 한다(점검 가능성).

아쉽게도 리스폰서블 AI의 논의 수준은 딱 여기까지다. 구체적 실천 지침이 나올 정도로 충분히 여물지 않은 탓이다. MS 보고서를 비롯, 지난해 하반기부터 온라인 공간을 채우고 있는 관련 담론 중 상당수가 문제 제기에 그칠 뿐 구체적 대안 제시에까지 이르진 못하고 있다. 기껏해야 지금까지의 기술 개발 경험에 비춰 문제 접근 방식을 조언하는 정도다. 이를 정리, 요약하면 대략 다음과 같다.

기술, 제어하는 주체도 결국 ‘인간’

인류 역사를 돌이켜 보면 변화는 언제나 적은 수의 선구자에 의해 시작됐다. 지적·사회적·경제적으로 보다 나은 입장에 있는 이들이 바람직한 변화의 방법을 찾고, 실제로 그리 바뀌어갈 수 있도록 이끌어가는 것. 소위 ‘앞서가는 이들의 의무’는 그 어디쯤에 존재해왔다.

‘노블레스 오블리주(noblesse oblige)’란 말이 있다. ‘숭고한 책임감’이란 뜻의 이 단어는 근대 유럽에서 오랫동안 개념어로 명맥을 유지했다. 동양에서도 오래전부터 ‘군자(君子)의 길’이란 틀 아래 지배 계층을 대상으로 다양한 윤리적 의무 사항이 요구됐다. 간혹 부정적 맥락에서 조망되는 경우가 없지 않지만 이 같은 개념의 역할은 비교적 분명하다. 사회·경제적 계급과 연령 따위의 구분을 초월, 인류 사회를 하나의 전체로 보는 접근법의 산물이란 점에서 특히 그렇다.

기술 발달이 극한까지 치달으며 현대인은 인간과 기계 간 경계를 초월, ‘모두가 하나 되는’ 세상을 만들어야 하는 과제에 직면해있다. 하지만 설사 그렇다 해도 결국 문제 해결의 열쇠를 쥔 건, 아직까진 인간 쪽이다. 리스폰서블 AI의 구현 방향과 요령에 대한 고민의 타래 역시 그 지점에서부터 풀어야 하지 않을까?