[그린포스트코리아 박은경 기자] 신종 코로나바이러스 감염증(코로나19)으로 금융권과 전 산업에 인공지능(AI) 도입이 확산되고 있는 가운데 신뢰성에 대한 검토가 필요하다는 분석이 제기됐다.

권순우 SK증권 연구원은 지난 3일 발표한 ‘인공지능은 완벽할까?, 설명가능 인공지능(XAI, explainable AI)의 등장’ 보고서에서 이같이 밝혔다.

권 연구원은 “AI가 완벽하다고 여겨지지만 미국 컴파스 사례처럼 편향성을 띠며 인종 혹은 성별을 차별하는 등 잘못된 판단을 하기도 한다”며 신뢰성에 대한 연구가 필요하다고 주장했다.

AI의 편향성을 보여주는 사례로 민간 업체가 개발해 미국 20여 개 주 법원에서 사용하던 컴파를 뽑을 수 있다. 컴파스는 체포 직후 피의자에게 실시한 설문조사를 바탕으로 재범 위험성을 점수화하여 제시하는 인공지능으로 실제 판결에 참고되고 있다.

실례로 지난 2016년 탐사보도 언론에서 분석한 결과 컴파스는 피의자가 흑인일 때 재범 확률을 더 높게 산정했다. 컴파스는 절도와 마약 소지 등의 이력이 있던 백인보다 저항하지 않았던 흑인이 더 위험하다고 판단했던 것으로 나타났다. 

권 연구원은 인공지능 알고리즘의 편향성이 여전히 존재한다고 언급했다. 지난해 미국 뉴욕대의 AI 나우 연구소에서 발간한 ‘Dirty Data, Bad Predictions’라는 보고서에서 인공지능을 활용한 범죄예측 시스템에 문제가 있던 것으로 나타났기 때문이다. 

당시 연구에선 미국 13개 도시의 경찰을 대상으로 분석한 결과 9곳에서 인종 편향과 오류가 발견됐다. 편향된 결과를 바탕으로 흑인 거주 지역 검문 빈도를 높임에 따라 범죄율이 재차 상승하는 악순환이 반복된 것으로 보고됐다.

이외에도 인공지능의 결과물이 인종과 성별에 대한 편향성을 보여주는 사례들이 많은 것으로 나타났다. 특히 권 연구원은 인공지능의 편향성이 특정 분야에만 국한된 것이 아니라 인물 인식, 채용, 신용/대출, 의료 서비스 등 다양한 업종에서 이루어지고 있다고 지적했다. 

최근까지 발생한 AI의 편향성 사례로 MIT 미디어랩의 백인 사진의 인식 오류 확률은 1% 내외인 반면 흑인 사진은 35%로 분명한 차이가 나타났다. 미인대회에서 객관적 외모 평가를 위해 투입된 인공지능은 수상자 대부분을 백인으로 선정했다.

마이크로소프트가 선보인 딥러닝 기반 챗봇은 일부 이용자들에 의해 인종차별, 욕설 등이 학습됐고 16시간 만에 운영을 중단하기도 했다.

아마존이 개발한 AI 채용 프로그램은 여성적 어휘를 사용한 지원자를 차등적으로 판단한 것으로 나타났다. 과거 IT 산업에서 남성 비중이 높았던 과거 데이터를 그대로 학습한 결과다.

영국 병원의 의사 모집 과정에서는 여성과 비 유럽식 이름을 가진 지원자를 차별한 결과가 나왔다.

30년 고정 모기지 대출을 받은 약 700만 명의 대출자를 대상으로 실시한 조사에서도 인종 차별적 편향성이 존재했다. 동일한 조건에서 흑인보다 백인의 이자율이 낮은 경향을 보인 것이다.

또 AI의 신뢰도 제고를 위해 “AI의 투명성을 강화하고, AI가 어떤 데이터로 학습했는지 보고하고 파단의 근거와 타당성을 설명하도록 지원해야한다”고 제시했다.

인공지능의 결과물에 대한 신뢰도를 낮추는 또 다른 사례로 미국 국방성 산하 방위 고등 연구계획국의 이미지 인식 시스템 과정에서 발생한 인식 오류도 있다. AI가 늑대(Wolf)와 개(Husky)를 분류하는 과정에서 늑대 판단 여부를 눈(Snow)의 존재로 판단한 것이다. 일반적으로 눈밭에 위치한 늑대 사진이 많다는 상관관계를 인과관계로 잘못 적용한 결과다.

이에 권 연구원은 “인공지능은 아직 완벽하지 않다"며 “AI가 의도적으로 편향적 결과를 도출할 가능성은 낮지만, 현실에서 수집한 데이터를 학습한 결과 수집대상과 데이터 학습 과정 등에 따른 변수가 개입될 수 있기 때문”이라고 설명했다.
 

mylife1440@greenpost.kr