‘AI 헌법’이 필요한 시대

AI주도 사회에서 알고리즘 윤리가 없다면 무슨일이 일어날까

0

빅테크 시대, 이제 기술은 우리가 상상하는 모든 생각을 구현할 수 있는 시대가 됐다. 구현하는 방식은 알고리즘(algorithm)이다. 알고리즘은 ‘어떤 문제를 해결하기 위한 절차, 방법, 명령어들의 집합체’를 말한다. 건축할 때 설계도면과 같은 것이다.

이제 상상해 보자. 만일 알고리즘이 잘못 설계됐다면 어떤 문제가 발생할까? 아무리 빅데이터를 쏟아 부어도 그 결과에 따라 이어지는 모든 정책이 잘못된 방향으로 갈수 있다. 아주 간단한 사례로 통계의 오류를 보자.

[강민석/청와대 대변인 : “천 명대로 떨어져 있는 중국인 입국을 막기 위해 전면입국 금지를 하는 것은 자칫 우리 국민의 피해를 유발할 수 있어…”]

지금 상황에서 중국인 전면 입국 금지는 실익이 없다는 설명입니다. 근거를 여럿 들었는데 그중 하나가 출입국 통계였습니다. 입국하는 중국인보다 중국으로 출국하는 우리 국민 수가 두 배 가까이 많다는 겁니다.

그런데 잘못된 통계였습니다.

청와대는 2월 25일과 26일 한국에 온 중국인과 중국으로 들어간 한국인 숫자를 비교했다고 했는데, 확인해보니 모두 중국인 국적자 통계였습니다.

-kbs뉴스 2020년 2월 28일자-

통계오류가 거론될 때마다 인용되는 사례 하나 더 보자. ‘해병대 사망률은 뉴욕 시민의 사망률보다 낮다’는 통계다. 이는 과거 미 국방부가 해병대 모집 광고에 인용한 통계다. 해병대의 군사작전 참여가 뉴욕에서 사는 것보다 안전하니 마음 놓고 지원하라는 주장이다.

그런데 건강한 젊은이가 대부분인 해병대 지원자와 노약자 노숙자가 모두 포함된 뉴욕 시민 사망률을 같은 비교 대상으로 올려놓은 것 자체가 적절하지 않다.

자, 여기서 한 가지 문제점이 떠오를 것이다. 만일 정부나 솔루션 개발자가 의도적으로 알고리즘을 왜곡한다면 어떻게 될까? 이를 바탕으로 디자인해야 하는 모든 일들이 전혀 다른 방향으로 갈수도 있다.

이제 앞으로는 알고리즘에 의해 AI가 ‘지침서’를 내 놓을 것이다. AI는 알고리즘 개발자가 설계한대로 그냥 배설할 것이고, 인간은 그게 정답인양 인용해서 의사결정을 하게 될 것이다. 따라서 이 시점에서 바른 알고리즘에 대한 규정이 필요하다.

얼마 전, 뉴질랜드가 세계 최초로 ‘알고리즘 헌장(Algorithm charter)’을 제정했다. 이 헌장은 알고리즘이 대량의 데이터 처리 및 해석에 이용될 때 데이터의 투명성과 책임의 범위를 규정한 것이다. 알고리즘에 보이지 않게 숨겨둔 편견이 있는지, 데이터가 목적에 부합하는지, 개인정보보호나 인권에 반하는 일은 없는지를 명시한 일종의 AI법이다.

뉴질랜드는 2016년부터 비자신청 절차에도 알고리즘을 사용하고 있다. 하지만 이 비자신청 절차에 대한 알고리즘은 “나이, 성별, 인종을 필터링하고 있다”는 비난이 제기되기도 했다. 이번 알고리즘 헌장의 제정은 알고리즘의 결정에 대한 투명성과 공정성을 확보하기 위한 조차로 해석된다.

가끔 터지고 있는 각종 통계오류로 인한 논쟁과 뉴질랜드의 비자신청 알고리즘 사례를 보면서 그동안 어렴풋이 생각했던 두려움이 현실로 다가온 느낌이다. 이제 인간에게 도덕과 규범이 있듯이 AI가 주도하게될 미래시대에는 ‘알고르짐 헌장’을 넘어 AI가 지켜야할 ‘AI헌법’이 필요할지도 모를 일이다.

이방인