규제 혁신 가속화 속 AI 리스크 관리 시스템 출범
금융보안원이 금융 AI 안전성·신뢰성 평가 프레임워크를 개발했다. 국내 금융산업에서 금융 특화 AI 평가 체계를 갖춘 것은 이번이 처음이다. 금융보안원은 올해 금융회사 대상 수요조사와 시범검증을 거쳐 내년부터 평가 업무를 본격화할 계획이다. 오는 14일에는 금융회사를 대상으로 온라인 설명회를 개최하며, 9월 중 수요조사, 하반기 중 시범 검증을 실시한다.
이번 평가 체계 개발의 배경에는 금융당국의 규제 혁신이 있다. 망분리 완화 등 규제 혁신으로 금융권 인공지능 전환(AX)이 가속화되고 있으며, 금융회사들의 AI 활용이 핵심 업무 영역까지 확대되는 추세가 있다. 이에 따라 AI 시스템에서 발생할 수 있는 새로운 리스크(AI 환각, 오작동, 보안사고 등)에 대한 체계적 대응의 필요성이 높아졌다.
국내외 규제 기준 종합한 평가 기준 수립
금융보안원은 국내외 주요 AI 평가 체계를 광범위하게 조사·분석해 프레임워크를 구성했다. 국내에서는 금융위원회의 '금융분야 인공지능 가이드라인', 금보원의 '금융분야 인공지능 보안 안내서', 금감원의 '금융분야 AI RMF', 과기정통부의 'AI기본법' 등을 참고했다. 해외에서는 ISO/IEC 42001, ISO/IEC TR 24028, OWASP의 'AI Testing Guide', 미국 AI 안전 연구소(AISI)의 'Inspect' 등을 벤치마킹했다.
이번 평가 체계의 핵심은 금융산업의 특수성을 반영한다는 점이다. 금융회사는 엄격한 규제 준수와 고도의 안전성·신뢰성을 요구받는 특수한 환경에 있다. 따라서 이번 프레임워크는 금융위원회 가이드라인 내 신뢰성·보안성 원칙에 대해 기술적 검증이 가능하도록 설계되었다. 즉, 규제 기준을 정량적으로 평가할 수 있는 세부 기술 평가 항목과 기준을 포함했다는 뜻이다.
시장의 AI 도입 가속화와 신뢰성 평가의 거시적 의미
현재 금융산업은 디지털 전환의 중요한 전환점에 있다. 그간 망분리 완화 등 규제 개혁이 추진됨에 따라 금융회사의 AI 도입 속도가 빨라지고 있다. 금리 인상 기조 속에서 운영 효율화 압박이 가중되는 상황에서, AI는 기업들에게 비용 절감과 서비스 개선의 수단이 되고 있다.
다만 이런 급속한 도입은 새로운 위험을 동반한다. AI 모델의 오류(환각), 보안 취약점, 결정의 불투명성(AI 블랙박스 문제) 등은 금융권에서 단순한 기술 이슈가 아니라 금융안정과 소비자 보호 이슈로 직결된다. 금융 거래의 특성상 1%의 오류도 수조 원대의 손실로 확대될 수 있기 때문이다.
박상원 금융보안원장은 "이번 프레임워크는 금융산업 특수성을 반영한 국내 최초의 AI 안전성·신뢰성 평가 체계라는 점에서 의미가 크다"며 "AI 서비스의 잠재적 위험을 실질적으로 평가할 수 있게 기술 평가 항목을 강화했다"고 밝혔다. 향후 이 평가 체계가 AI기본법에 따른 AI 안전성·신뢰성 검증 및 인증 체계로 활용될 계획이다.
실무 관점에서 본 시사점
금융회사 입장에서는 이번 평가 체계가 규제 선제 대응 및 경쟁 차별화의 기회가 될 수 있다. 시범검증에 참여하는 기관들은 평가 기준을 먼저 파악할 수 있으며, 내년 본격 시행 전에 AI 시스템을 점검·개선할 시간을 확보할 수 있다. 또한 높은 평가 등급을 받으면 규제당국과 고객, 투자자에게 신뢰성 신호를 보낼 수 있다.
기술·보안 담당 부서는 지금부터 자사 AI 시스템의 투명성, 오류 감지 능력, 보안 수준을 점검해야 한다. 특히 금융거래, 여신심사, 투자자문 등 핵심 업무에 활용되는 AI 모델부터 평가 준비를 시작하는 것이 현명하다.
결론
금보원의 이번 평가 프레임워크는 금융 AI의 도입 가속화 단계에서 안정성을 담보하는 제도적 장치다. 내년 본격 시행까지 약 1년의 시간이 남아 있다. 금융회사들은 오는 14일 설명회에 참석해 평가 기준을 정확히 파악하고, 9월 수요조사에 적극 응하며, 가능하다면 하반기 시범검증에 자발적으로 참여할 필요가 있다.
- #금보원
- #금융AI평가
- #AI안전성신뢰성
- #금융규제혁신
- #금융보안