[Q&A] 인공지능 재판관은 인간 재판관보다 공정한가?

오늘은 공정한 재판관으로서의 인공지능에 관해 다시 이야기해 볼까 합니다.

 

 

 

사람들은 인공지능이 아무런 편견없이 공정한 재판을 할 거라 생각해요.

 

여기서, 여러분께 질문을 하나 드려볼께요.

재판관으로서 인공지능은 재판하는 법을 어떻게 학습할까요?

 

바로 사람들이 과거에 판결해 놓은 판례들을 수없이 학습하는 방식으로 학습을 합니다. A라는 사건 유형에 B라는 판결, C라는 판결, D라는 판결이 있을 때. 이 중 가장 많이 내려진 판결을 선택하는 거죠. 

사람들이 사법제도에 관해 말할 때 흔히 '무전 유죄, 유전 무죄 '라는 말을 많이 하는데요, 만약 이게 진실에 가깝다면 여태껏 법은 가난한 사람에게는 무거운 형량을, 부유한 사람들에겐 상대적으로 가벼운 형량을 내렸을 거예요. 그런데, 인공지능 역시 이렇게 불공정한 판결들을 가지고 학습을 할 겁니다.

 

그렇다보니, 인공지능이 사람을 대신해 재판을 한다고 하더라도 결과는 비슷하게 나오지 않을까요? 

 

 

인공지능이 재판을 대신할 때 예상되는 문제는 이뿐만이 아니에요. 법을 다루는 사람들은 시대가 변함에 따라 같은 사안에 대해 다른 판결을 내림으로써 시대적 전환을 만들기도 합니다. 미국의 사례를 예로 들자면, 1954년 연방 대법원이 내린 '브라운 대 토피카Brown V. Board of Education of Topeka 판결 같은 게 있습니다. 올리브 브라운은 여덟 살 난 딸 린다 브라운이 집에서 가까운 초등학교에 가지 못하고 멀리 1마일 넘게 떨어진 흑인 학교에 가야 하는 것에 부당함을 느끼고 자신이 살던 캔자스주 토피카의 교육위원회를 상대로 소송을 냈어요. 

 

'Separate but equal'라는 개념은 1896년 미국의 Plessy v. Ferguson 판결에서 확립된 법적 원칙으로, 인종별로 분리된 시설을 유지하면서도 "평등"한 자원을 제공한다면 헌법에 위배되지 않는다고 규정했습니다. 이 원칙은 특히 미국 남부에서 인종 차별을 법적으로 정당화하는 수단으로 사용되었으며, 학교, 대중교통, 화장실, 식당 등 여러 공공시설에서 백인과 흑인을 분리하는 데 적용되었습니다. 그러나 실질적으로는 흑인들에게 제공되는 시설이 백인 시설에 비해 열악한 경우가 많아 사실상 평등이 보장되지 않았습니다.

예를 들어, 흑인 학생들이 다니는 학교는 종종 백인 학교에 비해 훨씬 열악한 시설과 자원을 제공받았으며, 기본적인 교육 자원과 물리적 환경에서도 큰 차이가 있었습니다. 이와 같은 차별적 시스템은 이후 1954년 Brown v. Board of Education 판결을 통해 폐지되었으며, "분리된 교육시설은 본질적으로 평등하지 않다"라는 판결로 이어졌습니다. 이는 미국 전역의 공교육 시스템에서 인종 통합을 촉진하는 중요한 계기가 되었습니다.

Jim Crow 법 하에서 흑백 구분이 강제되었던 당시의 이미지들은 당시의 사회적 현실을 잘 보여주고 있습니다. 예를 들어, 남부의 한 지역에서는 흑인과 백인이 각각 다른 수도꼭지를 사용하도록 되어 있거나, 학교 버스의 상태가 백인 학생들에 비해 열악한 모습으로 남아있습니다. 이런 이미지를 통해, 당시 '평등'이라는 표현이 얼마나 형식적이었는지를 알 수 있습니다.​

 

 

이 판결 이전 미국의 교육 시스템은 '분리하되 평등하다separate but equal'는 법적 원칙에 따라 실행되고 있었어요.

음수대, 베들레헴-페어필드 조선소, 메릴랜드주 볼티모어.  아서 시걸 촬영, 1943년 5월. 오클라호마 시티, 오클라호마주 노면전차 터미널의 "유색인" 워터쿨러에서 물을 마시는 흑인.  러셀 리 촬영, 1939년 7월.

 

인종을 나누어 교육하는 일을 정당화 했던 인종차별적인 원칙이었죠. 이 원칙은 1896년 '플레시 대 퍼거슨Plessy v. Ferguson 판결에서 만들어졌는데, 이 원칙 때문에 여덟 살 먹은 아이가 분리 교육을 받기 위해 멀리 떨어진 학교에 가야 했던 거예요. 이런 이유 플레시 대 퍼거슨 사건은 미국 역사상 최악의 판결로 여겨지고 있습니다. 

 

'분리하되 평등하다 '란 원칙이 만들어진 과정도 알고 보면 황당하기 짝이 없어요. 1892년 6월 루이지애나주에 사는 시민운동가 호머 플레시가 기차의 일등석에 탄 다음 스스로 자신이 흑인이라고 밝혀요. 당시 루이지애나주의 법률에 따르면 흑인은 일등석 탈 수 없었거든요. 이미 인종차별을 금지하는 수정 헌법 13조와 14조가 존재하고 있었지만, 남부에선 헌법조차 무용지물이었어요. 플레시는 '개와 흑인은 출입 금지'라는 짐 크로Jim Crow법이 여전히 작동하고 있는 부조리한 현실에 저항하기 위해 이런 일을 벌인 거였죠. 

 

"옥토룬(octoroon)"이라는 용어는 역사적으로 미국에서 주로 사용되었으며, 주로 19세기와 20세기 초 인종 분류를 목적으로 사용되었습니다. 옥토룬은 백인의 혈통이 7/8, 흑인의 혈통이 1/8인 사람을 가리키는 단어입니다. 이는 복잡한 인종 분류 시스템 중 하나로, 혼혈의 정도에 따라 구체적인 용어가 다양하게 나뉘었습니다. 예를 들어, 1/4 흑인 혈통이 있으면 쿼드룬(quadr oon), 1/2일 경우 물라토(mulatto)라는 용어가 사용되었습니다.

이 용어는 미국 남부에서 노예 제도가 존재하던 시기와 이후 Jim Crow 법이 시행된 시대에 흑백 구분을 강화하기 위한 목적으로 사용되었습니다. 이러한 분류는 인종적 불평등을 더욱 공고히 하여 사회적, 법적 차별을 유지하기 위한 도구로 쓰였습니다. 백인 혈통이 많을수록 더 나은 대우를 받는 경우가 많았으며, 특히 루이지애나주와 같은 일부 주에서는 혼혈이 된 흑인들을 "유색 인종"으로 구분하여 독특한 사회적 지위를 부여하기도 했습니다​.

그러나 오늘날에는 이 용어가 거의 사용되지 않으며, 특히 현대 사회에서 인종적 분류의 부정적인 역사적 의미를 가진 용어로 간주됩니다.

 

그런데 플레시의 외모는 백인과 쉽게 구별이 되지 않았어요. 일명 옥토룬octoroon 이라 불리는, 흑인의 피가 8분의 1 섞인 혼혈이었기 때문이죠. 하지만 당시 루이지애나주를 비롯한 남부에서는 여전히 '한 방울 원칙one-drop rule'. 즉 흑인의 피가 한 방울이라도 섞여 있다면 흑인이라는 원칙이 널리 퍼져 있었어요. 이 때문에 흑인 전용 칸으로 이동하라는 명령에 따르지 않은 플레시는 체포되고 말았죠. 

 

플레시의 재판을 맡은 퍼거슨 판사는 1심에서 25달러 벌금형을 내려요. 벌금형이긴 하지만 당시 25달러는 상당히 큰돈이라 꽤 무거운 처벌이었죠. 그는 다시 루이지애나주 대법원에 항소했지만 판결 내용은 바뀌지 않았어요. 그러자 플레시는 두 판결 모두 수정 헌법 13조와 14조를 위반했다며 사건을 연방 대법원까지 끌고 가요. 그런데 연방 대법관들조차 7 대 1로 퍼거슨 판사의 손을 들어 주고 말죠. 

그로부터 60여 년이 흐른 1954년, 연방 대법원은 브라운 대 토피카 사건에서 '백인과 유색인종이 같은 공립학교에 다닐 수 없게 하는 캔자스주의 법은 위헌'이라는 매우 급진적인 판결을 내려요. 교육 영역에서조차 오랜 기간 이어져 오던 흑인에 대한 부당한 차별이 마침내 폐기된 것이었죠.

 

이 결정 이후 남부에서는 백인들의 엄청난 저항이 일기도 했어요. 대대적인 저항이 예측되던 상황이라 당시 연방 대법원장이었던 얼 워렌은 연방 대 법관들의 의견이 갈리는 모습을 연출해서는 안 된다고 생각했어요. 결국 그는 대법관 아홉 명이 모두 동의할 때까지 회의를 열고 반대하는 판사들을 끝까지 설득했죠. 그의 노력 덕분인지 마침내 연방 대법관 아홉 명이 모두 '분리하되 평등하다 '라는 원칙을 폐기하는 데 찬성해요. 

 

얼 워렌(Earl Warren)은 미국의 유명한 법조인이자 정치인으로, 제14대 미국 연방대법원장을 역임하며 미국 법률 역사에 큰 영향을 미친 인물입니다. 1891년에 태어나 캘리포니아주에서 자란 워렌은 캘리포니아 대학교 버클리 캠퍼스에서 법학을 공부했으며, 그 후 지방 검사와 캘리포니아 주지사 등 여러 공직을 거쳐 1953년에 아이젠하워 대통령에 의해 대법원장으로 임명되었습니다.

그가 대법원장으로 재직한 "워렌 법원(Warren Court)" 시기는 미국의 시민권과 인권에 중대한 영향을 미친 결정들이 내려진 시기로 유명합니다. 대표적인 사례는 1954년 브라운 대 교육위원회(Brown v. Board of Education) 판결로, 이 판결에서 워렌 대법원장은 공립학교에서의 인종 차별을 폐지하도록 지시하며 “별도의 교육 시설은 본질적으로 평등하지 않다”는 의견을 밝혔습니다. 이는 미국 전역의 학교 인종 통합의 시발점이 되었고, 이후 민권운동에 중요한 기틀을 마련했습니다​.

워렌은 또한 1960년대에 수많은 형사사건 절차에 관한 판결에서도 중대한 영향을 미쳤습니다. 예를 들어, 미란다 원칙(Miranda v. Arizona) 사건에서 워렌 법원은 경찰이 피의자에게 권리를 알려야 한다는 결정을 내렸습니다. 이러한 판결들은 피의자와 피고인의 권리를 보호하는 데 있어 큰 전환점이 되었습니다.

이와 같이 워렌 대법원장은 법의 공정성을 중시하고 시민권을 보호하는 데 중점을 둔 판결을 통해, 미국 사회와 법률 체계에 지대한 영향을 남긴 인물로 평가됩니다.

 

그런데 여기에 데이터와 관련된 흥미로운 이야기가 있습니다. 당시 일부 헌법학자들은 연방 대법원의 판결에 분노했는데 그 이유는 대법관들이 역사적으로 쌓아 온 판례 대신 사회과학자들이 제공한 비법률적 데이터에 크게 의존해서 결정을 내렸다는 이유 때문이었죠. 사회과학자들이 세상이 어떻게 바뀌고 있는지에 관한 데이터를 대법관들에게 적극적으로 제시하는 바람에 대법관들이 판례보다 이런 데이터를 더 중요한 근거로 삼아 판결을 내렸다는 거예요. 그러니까 이 당시 대법관들은 판결의 중요한 근거로 삼는 데이터 묶음 자체를 바꾸어 버리는 결정을 내린 거였습니다. 

 

만약 이때 사람 대신 인공지능이 판결을 내렸다면 어땠을까요?
인공지능이 오랫동안 인종차별에 근거해 내린 수많은 판결을 학습한 다음 이 사건을 맡았다면 과연 어떤 판결을 내렸을까요? 

 

스스로 데이터 묶음을 바꾸어야겠다는 결정을 내릴 수 있었을까요? 이런 점에서 보면, 인공지능 판사는 그 어떤 인간 판사보다 보수적일 수 있어요. 인공지능 판사가 사회의 변화를 허용할 확률은 사실상 0에 수렴한다고 봐도 좋을 거예요. 그렇다면 인공지능 판사가 공정하고 객관적인 판결을 내릴 거라 믿는 우리의 믿음은 과연 올바른 것일까요? 

 

- 외로움의 습격 중에서 -


AI 마케팅의 모든 것! 다양한 전문가들과 함께하는 지식 공유 커뮤니티입니다. 실전 노하우/최신 트렌드/AI툴 활용법까지 함께 성장하는 공간입니다. https://open.kakao.com/o/gLCnP4Vg

한국 AI 마케팅 협회