핵심 요약
- 금융권은 AI 활용이 확대됨에 따라 'AI 거버넌스' 구축을 핵심 과제로 삼고 있으며, 당국의 강력한 규제 요구에 따라 관련 체계를 정비 중입니다.
- 인공지능기본법 및 금융당국 가이드라인에 맞춰 AI 윤리원칙, 최고 의사결정기구, 독립 위험관리 전담조직, 그리고 '고영향 AI'에 대한 사람 개입 및 긴급정지 장치 마련이 의무화되었습니다.
- 지난해 금감원의 지적 이후 KB금융, 농협은행 등 대형 금융지주들은 AI 거버넌스 체계 구축을 대부분 완료했습니다.
- 하지만 단순히 틀을 갖추는 것을 넘어, 구축된 거버넌스 체계가 현장에서 실효성 있게 작동하고 실제 위험을 관리하며 소비자 보호를 실현하는 것이 다음 단계의 가장 중요한 과제로 부상했습니다.
AI 거버넌스, 금융권의 공통 과제
AI가 대출 심사 등 은행 업무 전반에 걸쳐 활용되면서 잘못된 판단에 따른 고객 피해 가능성이 대두되었고, 이에 따라 안전한 AI 활용과 통제에 대한 필요성이 커졌습니다. 금융권은 최소한의 장치를 마련하기 위한 'AI 거버넌스' 수립을 공통 과제로 인식하고 있으며, 대형 금융지주들은 규제에 발맞춰 거버넌스 정비를 대체로 마친 상태입니다. 그러나 단순히 형식을 갖추는 것을 넘어 실효성을 확보하는 것이 중요해지고 있습니다.
강화되는 당국의 AI 거버넌스 요구 사항
당국은 AI 윤리강령에 그치지 않고 구체적인 거버넌스 체계 구축을 요구하고 있습니다. 주요 규제 및 가이드라인은 다음과 같습니다.
- 인공지능기본법(AI 기본법) (2024년 1월 시행)
- 금융위원회 금융 AI 7대 원칙
- 금융감독원 AI 위험관리 프레임워크(AI RMF)
당국은 AI 기획, 개발, 운영 전 과정에서 발생할 수 있는 위험을 평가하고 관리하는 체계를 갖출 것을 요구합니다. 핵심 요소는 다음과 같습니다.
- AI 도입을 심의·의결하는 최고 의사결정기구 (예: AI 윤리위원회)
- 개발 조직과 분리된 독립적 위험관리 전담조직
- 윤리기준을 근간으로 한 내규 및 업무 매뉴얼
- 서비스별 위험등급 평가 체계
특히 대출심사와 같이 고객의 권리와 의무를 가르는 '고영향 AI'에 대해서는 더욱 엄격한 관리가 요구됩니다. AI 기본법은 이러한 영역에서 사람이 반드시 개입하도록 명시하며, AI 권고를 담당자가 뒤집을 수 있는 권한과 이상 발생 시 즉시 멈추는 긴급정지 장치를 의무화했습니다.
지난해 4월 금융감독원이 은행 20곳을 조사했을 당시에는 AI 의사결정기구를 둔 곳이 5곳에 불과했으며, 윤리원칙이나 위험관리 기준조차 없는 곳이 많았습니다. 그러나 이러한 지적 이후 금융지주들은 미흡점을 개선하여 AI 거버넌스 체계를 서둘러 수립했습니다.
주요 금융지주의 AI 거버넌스 구축 현황
대형 금융지주들은 AI 기본법 시행을 앞두고 선제적으로 혹은 지적 이후 빠르게 거버넌스 체계를 구축했습니다.
- KB금융: 국민은행을 중심으로 2022년부터 준비하여 2023년 3월 체계를 완성했습니다. 은행은 AI윤리위원회를 최고 의사결정기구로 설치하고, 별도의 위험관리 전담조직이 정책 수립, 서비스 승인 및 모니터링을 담당합니다. 지주 차원에서도 윤리강령을 대외 공표했습니다.
- 농협은행: 일찍이 AI 거버넌스 협의회를 설치하고 디지털 부행장이 최고책임자를 맡고 있습니다. 외부 자문을 통해 내부 가이드라인도 마련했으며, 지주 차원에서는 지난달부터 그룹 표준 AI 거버넌스 체계 정비에 착수했습니다.
- 신한, 하나, 우리 등: 다른 주요 금융지주들도 내부적으로 윤리강령을 만들고 거버넌스 체계를 정비하는 데 집중하고 있습니다.
'실효성' 확보가 다음 단계의 핵심 과제
대형 금융지주들이 AI 거버넌스 틀을 갖추었음에도 불구하고, 업계에서는 이제 규칙의 실효성을 입증하는 것이 더욱 중요한 작업이 될 것이라고 입을 모으고 있습니다. 이는 실무 및 영업 부서의 개입 없이 윤리원칙을 고수하고 고위험 요소를 사전에 탐지하여 사고를 방지해야 한다는 의미입니다.
당국이 제시하는 모범사례는 다음과 같습니다.
- 사람이 개입할 명확한 기준 설정
- 이상이 생기면 즉시 멈추는 긴급정지 장치 마련
- 대출심사 등 과정에서 AI의 권고를 담당자가 뒤집고 그 근거를 기록으로 남기는 절차
한 금융권 관계자는 "AI 거버넌스는 AI를 더 빠르고 안전하게 쓰기 위한 안전장치"라며 "체계를 갖춘 다음 현장에서 제대로 작동하는지 확인하고 관리하는 것이 새로운 리스크 관리 및 소비자보호 과제가 될 것"이라고 강조했습니다.
시사점
금융권의 AI 거버넌스 구축은 AI 기술 도입의 필수적인 선행 조건이 되었으며, 이제는 형식적인 갖춤을 넘어 실제 운영 과정에서의 투명성, 책임성, 그리고 소비자 보호를 위한 시스템의 실효적인 작동 여부가 각 금융사의 핵심 경쟁력이자 리스크 관리 역량을 보여주는 중요한 지표가 될 것입니다.
원문 전문 보기
산업동향 AI 거버넌스 만든 은행…더 중요한 건 '작동 여부' 2026.06.10. 오전 6:50 by 금융부 댓글 SNS 보내기 글씨 크기 조정 AI가 대출 심사도 들여다보는 시대 안전한 활용과 통제 필요성 수면 위로 윤리원칙부터 의사결정기구까지 만들어 시대 흐름에 따라 은행도 업무 곳곳에 AI를 투입하고 있습니다. 그런데 만약 AI가 잘못된 판단을 내린다면 그 피해는 고스란히 고객에게 돌아가겠죠. 그래서 은행도 고민이 많습니다. 이에 최소한의 장치를 마련하기 위한 'AI 거버넌스' 수립이 금융권의 공통 과제가 됐습니다. 대형 금융지주들은 규제에 발맞춰 거버넌스 정비를 대체로 마쳤습니다. 윤리원칙을 세우고 의사결정기구와 전담조직을 꾸렸죠. 하지만 틀을 갖추는 것과 제대로 굴리는 것은 다릅니다. 형식을 넘어선 실효성 확보가 중요한 시점입니다. AI 역할 커지자 관련 규제 속속 정비 당국이 요구하는 거버넌스는 윤리강령 한 장으로 끝나지 않습니다. 올해 1월 시행된 인공지능기본법(AI 기본법)을 비롯해 여러 규제 가이드라인이 나왔는데요. 금융위원회의 금융 AI 7대 원칙, 금융감독원의 AI 위험관리 프레임워크(AI RMF) 등이 금융사의 AI 운영 골격이 됩니다. 당국이 AI 거버넌스 수립을 요구한 이유는 명확합니다. AI를 기획·개발·운영하는 전 과정에서 생길 수 있는 위험을 평가하고 관리하는 체계를 갖추라는 것이죠. 거버넌스에서 가장 우선시되는 건 AI 도입을 심의·의결할 최고 의사결정기구입니다. AI 윤리위원회가 대표적입니다. 개발 조직과 분리된 독립 위험관리 전담조직도 둬야 합니다. 윤리기준을 근간으로 한 내규와 업무 매뉴얼, 서비스별 위험등급을 매기는 평가 체계까지 갖춰야 하죠. 특히 대출심사처럼 고객의 권리와 의무를 가르는 '고영향 AI'는 더 깐깐하게 다뤄야 합니다. AI 기본법은 이런 영역에서 사람이 반드시 개입하도록 했습니다. AI가 내린 권고를 담당자가 뒤집을 수 있는 권한, 이상이 생기면 즉시 멈추는 긴급정지 장치가 의무입니다. 불과 작년까지는 금융사의 거버넌스 구축이 미흡했는데요. 금감원이 지난해 4월 은행 20곳을 들여다본 결과 AI 의사결정기구를 둔 곳은 5곳뿐이었습니다. 나머지는 윤리원칙이나 위험관리 기준조차 마련하지 못했습니다. 지적이 나오자 금융지주는 부랴부랴 미흡점을 개선해 AI 거버넌스 체계를 수립했습니다. 체계 갖춘 대형 금융지주…다음 단계는 모범사례 준수 법 시행 전부터 이미 체계를 완성해 둔 곳도 있습니다. 바로 KB금융이죠. 국민은행을 중심으로 2022년부터 준비해 지난해 3월 체계를 완성했습니다. 은행은 최고 의사결정기구인 AI윤리위원회를 설치했고 별도의 위험관리 전담조직이 정책 수립과 서비스 승인·모니터링을 맡습니다. 지주 역시 윤리강령을 대외 공표해 뒀습니다. 농협은행도 빠르게 채비를 갖춘 곳에 속합니다. 일찍이 AI 거버넌스 협의회를 설치했고 최고책임자는 디지털 부행장이 맡습니다. 외부 자문을 받아 내부 가이드라인도 마련했고요. 지주 차원에서도 지난달부터 그룹 표준 AI 거버넌스 체계 정비에 착수했습니다. 신한, 하나, 우리 등 다른 금융지주도 내부적으로 윤리강령을 만들고 거버넌스 체계를 손질하는 데 집중하고 있습니다. 이처럼 AI 기본법 시행을 앞뒀던 지난해 말을 기점으로 대형 금융지주는 대체로 AI 거버넌스 틀을 갖췄습니다. 하지만 업계서는 규칙의 실효성을 입증하는 게 더 중요한 작업이 될 것이라고 입을 모읍니다. 진짜 숙제는 지금부터라는 뜻인데요. 실무, 영업부서의 개입 없이 윤리원칙을 고수하면서 고위험 요소를 사전에 탐지하고 사고를 방지해야 한다는 의견이 많습니다. 당국의 모범사례에서 해답을 찾을 수 있습니다. 사람이 개입할 기준을 세우고 이상이 생기면 즉시 멈추는 긴급정지 장치를 두는 게 바람직하다는 의견입니다. 대출심사 등 과정에서 AI의 권고를 담당자가 뒤집고 그 근거를 기록으로 남기는 절차를 남기는 방향의 예시가 제시됐습니다. 금융권 관계자는 "AI 거버넌스는 AI를 더 빠르고 안전하게 쓰기 위한 안전장치라고 생각한다"라며 "체계를 갖춘 다음 현장에서 제대로 작동하는지 확인하고 관리하는 게 새로운 리스크 관리 및 소비자보호 과제가 될 것"이라고 말했습니다. @노윤주 기자 해당 콘텐츠는 프리미엄 구독자 공개(유료) 콘텐츠로 무단 캡쳐 및 불법 공유시 법적 제재를 받을 수 있습니다. 금융부 더벨이 분석한 금융 산업의 속내를 엿볼 수 있습니다. #금융권 #AI거버넌스 #윤리원칙 #의사결정기구 #전담조직 #국민은행 #농협은행 #대형금융지주 #체계구축 #실효성 like 댓글 공유하기