금융감독원이 금융회사의 인공지능(AI) 활용에 따른 위험을 스스로 관리할 수 있는 표준 기준을 제시했다. 금감원은 15일 AI 관련 거버넌스, 위험평가, 위험통제의 핵심 절차를 담은 ‘금융 분야 AI 위험관리 프레임워크(AI RMF)’를 도입했으며, 업계 의견을 수렴한 뒤 올해 1분기 중 시행할 예정이라고 밝혔다.
이번 기준 마련은 금융권에서 AI 기반 서비스가 빠르게 늘어나면서 발생할 수 있는 대규모 금융사고나 소비자 권익 침해를 사전에 막기 위한 조치다. 금감원이 지난해 4월 국내 금융사 118개사를 대상으로 전수 조사한 결과, AI 서비스는 총 653개로 증가했지만 이에 대한 통제 장치는 부족한 것으로 나타났다. 전체 금융회사의 약 85%는 AI 윤리원칙이나 위험관리 기준을 마련하지 않은 상태였다. AI 관련 의사결정기구를 설치한 곳은 은행 25%(5개사), 보험사 7.5%(4개사), 증권사 2.7%(1개사)에 그쳐 거버넌스 구축이 시급한 상황이다.
AI RMF는 거버넌스, 위험평가, 위험통제 세 영역으로 구성된다. 거버넌스 부문에서는 금융회사가 AI 위험관리를 위한 의사결정기구를 설치하고, AI 기획·개발 조직과 분리된 별도의 위험관리 전담 조직을 구성하도록 했다. 최고경영자(CEO)가 AI 관련 사업 계획과 위험을 명확히 인식하고 책임질 수 있도록 위원장이 CEO에게 정기적으로 보고하는 체계도 갖춰야 한다.
위험평가 부문에서는 AI 시스템 도입부터 활용까지 전 주기에 걸쳐 위험을 인식·측정하고 등급을 산정하는 절차를 규정했다. 평가는 합법성, 신뢰성, 소비자 보호 등 ‘금융 AI 7대 원칙’을 기준으로 이뤄진다. 대출 심사처럼 개인의 권리나 의무에 중대한 영향을 미치는 ‘고영향 AI’는 산출된 위험 점수와 관계없이 ‘고위험 서비스’로 분류해 관리가 강화된다. 위험통제 부문에서는 위험 등급에 따라 차등화된 통제 방안을 적용한다. 고위험 서비스는 제3자 평가 검증을 거쳐야 하며, 금융 안정성을 훼손하거나 소비자 권익 침해 우려가 있는 ‘초고위험 AI’는 의사결정기구를 통해 출시 여부를 원점에서 재검토해야 한다.
이번 프레임워크는 법적 강제력이 없는 가이드라인 형태의 자율 지침으로, 각 금융회사는 규모와 AI 활용 수준에 맞춰 탄력적으로 적용할 수 있다. 금감원은 금융권 AI 플랫폼 등을 통해 AI RMF(안)을 배포하고 설명회 등을 거친 뒤, 올해 1분기 중 최종안을 확정해 시행할 계획이라고 전했다. 아울러 모범사례 전파와 실태 점검 등을 통해 AI 위험관리 프로세스가 금융회사의 내부통제 시스템에 안정적으로 정착될 수 있도록 지원하겠다고 밝혔다.
