최근 인공지능(AI) 기술이 다양한 분야에 접목되고 있는 가운데 금융서비스의 ‘AI 거버넌스’ 수립이 중요하다는 분석이 나왔다.
AI 거버넌스(Governance)란 AI 개발과 사용, 영향 등에 대한 규칙과 절차를 설정하는 것을 의미한다. 하나금융경영연구소는 지난 26일 ‘인공지능에도 책임감이 필요하다, AI 거버넌스’ 보고서를 통해 “AI 알고리즘은 금융서비스에 있어 많은 변화를 이끌었지만 다양한 부작용도 수반하고 있다”고 지적했다. 해당 보고서는 정윤영 수석연구원이 썼다.
보고서에 따르면, 주요국들은 책임감 있는 AI 적용의 중요성을 강조하고 AI 관련 규제 및 정책 도입을 서둘러 시행하고 있다. 글로벌 금융회사들의 공정하고 투명한 AI 서비스 제공을 위한 거버넌스 수립도 활발히 이루어지고 있다. 보고서는 “향후 AI 기술을 활용한 국내 금융시장도 점차 확대될 것으로 예상돼 국내 금융회사들의 AI 거버넌스 수립에 대한 고찰이 필요하다”고 했다.
◆AI 기술을 접목한 금융서비스의 도입 가속화로 AI 기술 관련 문제도 동시에 증가
보고서는 “최근 금융회사들은 ▲신용평가 ▲챗봇을 통한 고객 서비스 지원 ▲로보어드바이저를 이용한 자산관리 등 다양한 영역에서 AI를 활용하고 이에 맞추어 사업모델도 변화하고 있다”고 설명했다.
글로벌 통계 플랫폼 스태티스타(statista)에 따르면, 글로벌 AI 시장 규모는 지난 2021년 956억달러(약 123조3000억원)에서 2023년 2079억달러(약 268조 2949억원)으로 약 117% 성장했다. 2030년까지 1조1849억달러(약 1529조 1134억원) 수준으로 확대될 것으로 추정된다.
보고서는 AI 기술은 금융상품, 사업모델 등 금융서비스 제공에 있어 많은 변화가 생겼지만 개인정보 유출, 특정 계층에 대한 차별 등의 다양한 문제점들이 발생할 수 있다고 경고했다. 이어 “AI 시스템으로 발생 가능한 잠재적 위험과 영향으로 인해 ‘책임감 있는 AI’ 적용의 중요성이 대두된다”며 “최근 주요국들을 중심으로 AI 관련 규제 및 정책 도입이 가시화하고 있다”고 덧붙였다.
미국의 경우 지난 10월 AI 모델이 국가 및 경제 안보, 공중보건, 안전 등의 위험을 초래할 경우 이를 연방정부에 통지하고 안정성 테스트 결과를 미국 정부와 공유 해야하는 AI 안전보장과 신뢰성을 위한 행정명령을 발표했다.
우리나라는 지난 4월 금융권의 AI 활용을 지원하고 활용환경 구축을 위해 ‘AI 기반 신용평가모형 검증 가이드라인 및 금융분야 AI 보안 가이드라인’을 발표한 바 있다.
◆금융회사의 공정하고 투명한 AI 서비스 제공을 위한 거버넌스 수립의 중요성이 증대
금융권의 AI 성숙도 평가에는 기술적 요인과 AI 관련 활동·기여, 리스크 통제 노력과 같은 투명성 부문도 고려하고 있어 거버넌스의 중요성을 강조하고 있다.
미국 최대 은행 JP모건체이스(JPMC)는 AI 플랫폼 구축과 머신러닝(ML)‧AI 기술 거버넌스 전담 기능을 갖춘 조직을 구축해 모델이 올바른 방식으로 개발되는지를 지속해서 확인한다. AI 모델이 규제 및 윤리 표준과 조직 내부 정책 및 절차의 사용 사례 목표를 준수하는지 확인하고 지속 점검한다.
캐나다의 가장 큰 은행 캐나다 왕립은행(RBC)의 경우 책임감 있는 AI 시스템 구축을 위해 자체 AI 프레임워크를 출시해 모델을 모니터링하고 검증 방식 등을 포함한 거버넌스를 수립했다. 국내 은행 기업 중 한국씨티은행은 모델의 데이터를 정기적으로 테스트 및 평가하는 과정을 통해 편향된 결과를 감지하고 AI 모델에 관해서는 리스크 관리 직통 보고 라인을 구축했다.
보고서는 “AI를 활용한 금융서비스의 확대로 국내에도 관련 정책 및 규제가 도입되고 있는
만큼 국내 금융회사들도 AI 기술의 안정적인 활용을 위한 책임감 있는 AI 기술 및 의사결정체계 수립에 대한 고민이 필요하다”고 말했다. 이어 “최근 국내 금융회사들도 AI 거버넌스 구축의 필요성을 인지하고 AI 윤리원칙 제정, 내부 정책 수립, 프로세스 관리 체계 수립 등의 인프라 구축 환경 조성하고 있다”고 덧붙였다. [김성태 마켓뉴스 기자]
