<형사사법절차 인공지능 알고리즘의 딜레마> 역사적 부정의와 시정적 정의의 관점에서

소개

서울대학교 법학전문대학원 <법철학> 수업에서 A+를 맞은 레포트입니다. AI, 형사사법절차, 인공지능, COMPAS 관련하여 레포트를 작성하고자 하는 분들께 도움이 될 것이라 생각됩니다.

목차

1. 서론: 연구의 필요성

2. 이론적 배경 및 연구대상: 재범위험성 예측 인공지능 COMPAS

3. 본론: 공정성 논란에 대한 법철학적 검토
가. 프로 퍼블리카와 노스포인트사 사이의 논쟁
나. 논쟁 속 다양한 공정성 개념 대립
다. 노스포인트사의 주장에 대한 법철학적 검토
1) 사회적 딜레마 : 편향성 제거 v. 효율성 추구
2) 딜레마의 해결: 역사적 부정의와 시정적 정의의 관점에서

4. 결론

5. 참고문헌

본문내용

최근 형사사건에 대한 언론보도가 늘어남에 따라 피고인의 구체적인 양형이 세간에 알려지면서, 형벌의 양과 종류에 큰 관심이 집중되고 있다. 그 과정에서 일견 유사한 사건 간에도 양형 편차가 심각하다는 여론이 형성되었고, 양형 기준의 일관성을 요구하는 시위, 청원 등이 이루어졌다. 양형 기준에 대한 불신이 팽배한 사회적 분위기 속 인간 판사 대신 ‘인공지능 판사’에게 재판을 받고 싶다는 의견은 더 이상 낯선 의견이 아니다. 디케의 눈을 가린 천은 이제 못 믿겠고 주관적인 판단을 배제한 공정한 AI에게 판결을 받는 것이 훨씬 낫다는 것이다. 국민의 염원에 반응하기라도 하듯 대법원은 빅데이터 분석을 통한 '인공지능 소송 도우미' 개발을 추진할 예정이라고 발표하였다.
이러한 추세를 고려하면 공정한 인공지능 판사 역시 미래의 허황된 이야기만은 아니다. 그러나 과연 인공지능 판사가 ‘국민의 기대와 부합하는 공정'한 판사일까? 최근 인공지능 알고리즘이 그 영역을 불문하고 편파적인 판단으로 공정성(fairness) 시비에 휩싸였던 것을 고려한다면 질문에 쉽게 대답하기 어렵다. 특정 인종이 주로 쓰는 이름을 검색했을 때 전과 기록 관련 광고가 더 많이 노출된 사례와 같이 알고리즘이 차별적인 시선을 학습한 사례가 우후죽순 발견되고 있기 때문이다.
다양한 분야의 인공지능이 그 공정성을 의심받는 중 몇몇 사람들은 사법절차의 인공지능에 난색을 표한다. 법적 의사결정과 같은 공적 영역에서는 공정성은 무엇보다 중요한 가치로 평가받는다. 특히 체포, 수사 및 구금 등 공권력의 개입을 통해 개인의 신체의 자유를 제약하는 형사사법절차에서 공정성은 필수적인 가치라고 할 수 있다. 따라서 사법절차에 인공지능 알고리즘 도입하기 위해서는 윤리적인 문제에 대한 검토가 충분히 이루어져야 하는데, 과연 이러한 검토가 원할히 이루어지고 있는 것인지 의구심이 든다는 것이다.

참고자료

· 강송희, “기계학습 공정성 관련 연구 동향”, 월간SW중심사회, 제2권 (2020).
· 공두현, “강제동원 손해배상 판결: 역사적 부정의와 시정적 정의”, 법철학연구, 제22권 제1호 (2019. 1).
· 고학수, 정해빈, 박도현, “인공지능과 차별”, 저스티스, 제171권(2019. 4).
· 김민준, “대량 투옥 시대 열어젖힌, '범죄와의 전쟁'의 추악한 이면”, 오마이뉴스 (2019. 04. 16), <http://star.ohmynews.com/NWS_Web/OhmyStar/at_pg.aspx?CNTN_CD=A0002527940>.
· 멜리사 노블스, 박언주, “비교의 시각에서 본 역사적 부정의와 화해”, 아세아연구, 제53권 제1호 (2010. 3).
· 양종모, “인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안”, 법조, 제66권 제3호 (2017. 6).
· 오요한, 홍성욱, “인공지능 알고리즘은 사람을 차별하는가?”, 과학기술연구, 제18권 제3호(2018.12).
· 이해영, “수감자 '대국' 미국… 복역자 9명 중 1명은 종신형”, 연합뉴스 (2016. 08. 16), <https://www.yna.co.kr/view/AKR20160826068500009>.
· 임경숙, “인공지능에 관한 법적 규율방안”, 박사논문, 한양대학교 법학전문대학원 (2019).
· 주현경, 정채연, “범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계”, 법학논총, 제27권 제1호(2020. 4).
· 한애라, “사법시스템과 사법환경에서의 인공지능 이용에 관한 유럽 윤리헌장의 검토 - 민사사법절차에서의 인공지능 도입 논의와 관련하여 - ”, 저스티스, 제172권 (2019. 6).
· Angwin Julia, Larson Jeff, “Machine BiasThere’s software used across the country to predict future criminals. And it’s biased against blacks.”, Pro Publica (2016. 3), <https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing>.
· Angwin Julia, Larson Jeff, “Bias in Criminal Risk Scores Is Mathematically Inevitable, Researchers Say”, Pro Publica(2016. 12), <https://www.propublica.org/article/bias-in-criminal-risk-scores-is-mathematically-inevitable-researchers-say>.
· Barak Gregg, “Newsmaking criminology: Reflections of the media, intellectuals, and crime”, Justice Quarterly, Vol. 5 (2006. 8).
· Davis Angela Y., ARE PRISONS OBSOLETE?, (SEVEN STORIES PRESS, 2003).
· Dieterich William, Mendoza Christina, Brennan Tim, “COMPAS Risk Scales:DemonstratingAccuracy Equity and Predictive Parity”, Northpointe Inc.(2016. 7), <https://www.equivant.com/response-to-propublica-demonstrating-accuracy-equity-and-predictive-parity/>.
· Inwood, FJ Joshua, “Neoliberal racism: the ‘Southern Strategy’ and the expanding geographies of white supremacy”, Social & Cultural Geography, Vol. 16, No. 4 (2015. 6).
· Kleinberg Jon, Mullainathan Sendhil, Raghavan Manish, “Inherent Trade-Offs in the Fair Determination of Risk Scores”, Proc. 8th Conf. on Innovations in Theoretical Computer Science (ITCS), (2016), <https://arxiv.org/abs/1609.05807>.
· Perlstein Rick, “Exclusive: Lee Atwater’s Infamous 1981 Interview on the Southern Strategy”, The Nation (2012. 11), <https://www.thenation.com/article/archive/exclusive-lee-atwaters-infamous-1981-interview-southern-strategy/>.
· Rios Victor M., The Hypercriminalization of Black and Latino Male Youth in the Era of Mass Incarceration, (Palgrave Macmillan, New York, 2007).
· Rubin Julia, Verma Sahil, “Fairness Definitions Explained”, 2018 ACM/IEEE International Workshop on Software Fairness (2018), <https://fairware.cs.umass.edu/papers/Verma.pdf>.
· Smiley CalvinJohn, Fakunle David, “From “brute” to “thug:” The demonization and criminalization of unarmed Black male victims in America, Journal of Human Behavior in the Social Environment”, J Hum Behav Soc Environ, Vol. 26 (2016).
· State v. Loomis, 881 N.W.2d 749 (Wis. 2016), <https://caselaw.findlaw.com/wi-supreme-court/1742124.html>.