금융 AI 도입의 '난제'…"인공지능도 차별할 수 있다"

[아이뉴스24 서상혁 기자] 인공지능이 금융 영역에 적용됨에 따라 사회가 직면하게 될 난제는 '차별'과 '투명성'이라는 주장이 나왔다.

금융 분야에서 인공지능이 쓰일 영역은 무궁무진하게 많지만, 과거 데이터의 편향성에 따른 차별, 그러한 결과에 대한 금융소비자들의 설명 요구를 해소하기가 쉽지는 않을 것이라는 진단이다.

고학수 서울대 법학전문대학원 교수는 7일 오전 서울 여의도 콘래드호텔 그랜드볼룸에서 열린 '금융정보보호 컨퍼런스 FISCON 2019'에서 이같이 말했다. 컨퍼런스의 대 주제는 '디지털 대전환 시대, 금융보안의 미래'였다.

◆"'왜'라는 질문 던지는 소비자 많아져"…금융사에겐 큰 난제

이날 고 교수는 '금융영역에서의 인공지능 기술의 활용 : 새로운 도전'을 주제로 기조강연을 진행했다

고 교수는 인공지능 도입의 향후 과제를 거시적인 개념과 미시적 개념으로 나눠서 설명했다. 거시적 과제로는 시장 교란과 해킹 등 시스템 리스크의 증대 가능성을 들었다.

그는 "알고리즘 거래가 늘어나면서 수요와 공급이 순식간에 죽었다가 갑자기 돌아오는 상황이 발생할 수 있는데, 이를 어떻게 방지할지에 대한 고민이 필요하다"라며 "또 피싱이나 해킹이 과거에 비해 더 고도화, 맞춤형 방식으로 발생할 우려도 있다"라고 설명했다.

이밖에도 다수 금융기관이 유사한 알고리즘을 이용하게 될 경우, 경쟁이 제한되는 효과가 나타날 수 있음을 지적했다.

미시적 과제로는 '차별'을 들었다. 고 교수는 "예를 들어 강남 모 지역에 있는 아파트 단지 거주민들의 신용도가 현저히 좋아, 그 사람들에겐 좋은 조건의 카드를 제안하고 반대로 강북 지역의 거주민들에겐 그보단 떨어지는 카드를 제안하면 그건 차별인가 하는 것이 쟁점"이라고 말했다.

만약 이 문제가 차별이라고 규정한다면, 이를 보정하기 위해 사전 데이터(인풋)를 수정하든, 결과값을 바꾸든 어떤 식으로든 보정을 하게 될 텐데 쉽지 않은 작업이라는 설명이다.

그는 "가령 신용도를 평가할 때 거주지를 항목에서 제외하면 이건 인풋 규제고, 결과값을 바꾸면 아웃풋 규제"라며 "우리나라는 학력으로 인한 차별이 있으면 인풋에서 학력을 빼는 등 인풋 규제가 많은데, 이렇게 되면 좋지 못한 결과가 나온다"라고 설명했다,

이어 "보통 과거의 데이터를 바탕으로 미래 상황을 예측하게 되는데, 이전 데이터에 편향된 요소가 들어있으면, 결과값이 편향될 수밖에 없는 것"이라며 "향후 계속해서 고민해야할 사항"이라고 전했다.

갈수록 늘어나는 소비자들의 설명 요구도 미시적 과제로 들었다. 예컨대 신용평가 결과에 대해 소비자들이 '왜'라는 질문을 던졌을 경우, 금융기관 입장에서 설명을 하기가 난감하다는 것이다.

고 교수는 "넓게 보면 신용평가 모형을 구축한 공식을 보여주는 게 하나의 방법이고, 다른 하나는 수많은 인풋 데이터를 일일이 알려주는 것"이라며 "전자는 소비자가 만족하지 못할 것이고 후자는 비현실적이다"라고 설명했다.

결국 향후 인공지능에 의한 의사결정에 대해 투명성과 설명가능성 확보를 위한 사회적 요구가 늘어날 텐데, 이에 대한 준비가 필요하다는 것이다.

특히 금융기관의 이같은 노력은 '신뢰'와도 직결된 만큼, 중요하다는 주장이다. 고 교수는 "신뢰는 비대칭성이 있다"라며 "신뢰를 얻으려면 공을 많이 들여야 하지만, 무너지는 건 순식간이라는 점에서, 많은 고민이 필요할 것"이라고 전했다.

◆"인공지능, 신용평가와 챗봇 영역에서 큰 역할 할 것"

고 교수에 따르면 금융영역에서의 인공지능 기술의 유용성은 ▲패턴인식 ▲비용 효율성 ▲정확도 개선 ▲예측능력 개선 ▲대규모·비정형 데이터 처리능력 개선 등 총 5가지로 요약이 가능하다.

그는 "인공지능이 도입되면 이전엔 보이지 않았던 변수들 사이의 상관관계 등을 파악하는 패턴인식이 가능해지는 한편, 신속한 처리가 가능해 비용에서의 효율성도 얻을 수 있다"라며 "또 전체 데이터에서 '팻핑거'도 제외시킬 수 있어 정확성도 제고된다"라고 설명했다.

이어 "인공지능이 금융영역에 도입되면 그 과정에서 새로운 혁신과 경쟁이 나올 것"이라며 "규제당국 입장에서도 더 적극적으로 레그테크를 활용할 수 있으며, 더 나아가 중앙은행에서도 시장을 거시적으로 분석하는 데 분명 도움이 될 것이다"라고 말했다.

특히 신용평가 과정에서 인공지능의 역할에 대해 주목했다. 인공지능 기술의 기반이 데이터에 있는 만큼, 데이터가 다량으로 확보되면 굳이 금융 거래 내역이 아니어도 신뢰도 있는 정보를 얻을 수 있다는 것이다.

고 교수는 "보통 신용정보원에 금융 데이터가 모인 후 각 신용평가사로 넘어가 분석된다"라며 "다만 그러한 데이터 대부분은 금융권에 있는 데이터인데, 이것 말고도 세로운 데이터 소스를 신용평가에 사용하면 좋겠다는 고민들이 나오고 있다"라고 말했다.

이어 "그 중 특히 집세나 통신요금 납부 내역이 주목받고 있는데, 몇몇 국가는 이미 사용되고 있다"라며 "그 외에도 인터넷 브라우징 내역, 쇼핑 스타일 같은 게 더 정확한 신용도 판단을 이끌어 낼 것이라는 의견도 나오는 상황"이라고 설명했다.

그간 사회초년생이나 고령자 등 이른바 '신파일러' 등은 금융정보가 없는 탓에 신용평가를 할 수 없어 금융 거래 시 불이익을 받아왔는데, 인공지능을 통해 이 같은 사각지대를 해소할 수 있다는 것이다.

챗봇에 대해서도 주목했다. 챗봇이란 정해진 알고리즘을 바탕으로 메신저를 통해 사용자와 대화를 나눌 수 있도록 구현된 시스템을 말한다.

고 교수는 "현재 챗봇은 회사의 정보를 추려서 내어주는 데 그치는 매우 소극적인 차원의 창구였다"라며 "시간이 지나면서 개별 소비자에 대한 니즈를 파악하면서 상품 추천을 하게 될 것이고 더 나아가면 자산관리나 주식투자 시 자문을 해줄 수 있을 것"이라고 말했다.

또 그는 "아주 시간이 지나면 챗봇을 통한 거래도 가능할 것"이라며 "프런트오피스에서 백오피스까지 진화하는 셈인데, 개별 금융기관은 이 같은 가능성을 염두에 둬야 할 것"이라고 설명했다.

한편 이날 민병두 국회 정무위원장은 축사에서 "저는 민병두라는 아이디로 살아가고있는데, 그 아이디가 없으면 통신도 금융생활도 할 수 없다"라며 "기술의 혁신은 반드시 보안의 내재화가 전제로 깔려야 한다"라고 말했다.