엔드투엔드 워크플로, 모델 거버넌스 및 자체 감사

이득:

'AI 생산 → 전문가 검증 → 인가 결정'의 사이클로 뱅킹 업무를 End-to-End로 안전하게 운영하는 능력
모델 거버넌스, 검증, 모니터링 및 지속적인 개선의 프레임워크 내에 인공 지능을 안전하게 내장할 수 있는 능력
5가지 핵심 질문(인증, 출처, 기밀성, 공정성, 승인)을 통해 결과물을 자체 점검하여 궁극적인 책임을 질 수 있는 능력

이 모듈 전체에서 우리는 AI를 신용, 사기, 세분화, 고객 서비스, 규정 준수, 보고, 재무 분석 등 은행 업무의 모든 측면에서 보조자이자 청사진 생성자로 자리매김합니다. 이 마지막 단원에서는 여러 부분을 하나로 모았습니다. 보안 루프에서 처음부터 끝까지 뱅킹 작업을 어떻게 실행하는지, 모델 거버넌스가 루프를 구성하는 방법, 그리고 각 출력을 자체 감사하는 5가지 질문은 무엇입니까? 목표는 학습한 내용을 단일 반사로 정제하는 것입니다. AI 생성 → 전문가 검증 → 전문가 결정. 이 사이클은 속도와 보안을 동시에 유지하는 방법입니다.

종단 간 루프: 링 3개

각 은행 업무를 3개의 링크 체인으로 생각해보세요.

AI 생성(초안 링): 익명, 최소한의 데이터로 AI에 초안/확인 작업(요약, 초안 정당화, 경고, 초안 계정)이 제공됩니다. 여기에는 결정이 없으며 단지 자료만 있습니다.
전문가 확인(필터 링): 출력이 소스에 연결되고 수치가 다시 계산되며 정책/법률 및 공정성을 통해 필터링됩니다. 환각, 차별, 사생활 침해가 여기서 제거됩니다.
당국이 결정을 내립니다(서명 링): 최종 판단(신용, STR, 사기 결정, 보고서 서명)은 권한 있는 사람/위원회가 내립니다. 정당성 및 감사 추적이 기록됩니다.

퀘스트

AI가 생산하는

전문가가 확인

유능한 결정

신용

초안 정당화

비율/소스/공정성

할당 결정

사기

이상 경고

상황/고객 확인

블록/자유 판정

AML

패턴/일치

불일치 확인

STR 결정

텍스트/번호 초안

수치 검증

서명

분석

평가/댓글 초안

재계산/가정

투자/신용의견

팁: 루프에서 가장 자주 건너뛰는 링크는 중간 "확인"입니다. 압력을 받으면 사람들은 초안을 작성하고 결정을 내리게 됩니다. 그러나 가치와 위험을 모두 결정하는 것은 바로 중간 고리입니다. 확인을 건너뛰는 것은 주기를 깨뜨리는 것입니다.

모델 거버넌스: 루프를 구성하는 시스템

개별 업무를 넘어 은행은 모델 전체를 관리해야 합니다. 모델 거버넌스는 다음 구성 요소로 구성됩니다.

검증: 모델은 사용되기 전에 독립적으로 테스트됩니다. 정확성, 정의 및 한계가 측정됩니다.
모니터링: 모델은 시간이 지남에 따라 저하될 수 있습니다(데이터 드리프트 - 입력 분포가 변경되면 성능이 저하됨). 지속적으로 모니터링됩니다.
문서화: 모델이 수행하는 작업, 모델이 훈련되는 데이터, 한계 및 책임자가 문서화됩니다.
역할과 책임: 누가 생산하고, 누가 검증하고, 누가 결정하는지 명확하게 정의됩니다.
검토 및 개선: 오류가 기록되고 모델이 주기적으로 재평가됩니다.

주의: 잘 작동하는 모델은 영원히 잘 작동하지 않습니다. 경제 상황, 고객 행동 및 사기 전술이 변화합니다. 모델이 이를 따라잡지 못하면 자동으로 위조되기 시작합니다. 모니터링하지 않으면 이러한 성능 저하가 눈에 띄지 않습니다.

5가지 질문으로 구성된 자가 점검

모든 AI 출력을 사용하기 전에 다음 5가지 질문을 스스로에게 물어보세요.

확인: 이 출력을 소스에 연결하고 임계 수치를 다시 계산했습니까?
출처: 각 주장은 실제 문서/데이터/규칙을 기반으로 합니까, 아니면 조작될 수 있습니까?
개인 정보 보호: 신원 데이터는 익명 처리되고, 최소한의 데이터와 승인된 도구가 사용됩니까?
공정성: 출력에 보호 재산이나 대리 변수에 의한 차별이 포함되어 있습니까?
승인: 승인된 사람이 내린 최종 결정, 근거 및 감사 추적이 기록되었습니까?

5개 중 하나라도 "아니오"이면 출력을 사용할 준비가 되지 않은 것입니다.

복사 가능한 템플릿 4개

1) 엔드투엔드 선교 계획:

귀하의 역할: 보안 루프에서 은행 업무를 계획하는 데 도움을 주는 보조자.작업: [작업]. (1) AI가 어떤 초안을 생성할 것인지, (2) 전문가가 어떤 검증 단계를 수행할 것인지, (3) 공무원이 어떤 결정을 내리고 기록할 것인지 이 세 개의 링으로 채워주세요. 결정을 제안합니다. 프로세스 뼈대가 나타납니다.

2) 5가지 질문으로 자기계발서 적용

확인, 출처, 개인정보 보호, 공정성, 승인이라는 5가지 질문으로 다음 AI 출력을 확인하세요. 각 질문에 대해 "괜찮음/불완전/위험함"을 평가하고 부족한 점을 해결하는 방법을 작성하세요. 출력: [텍스트]

3) 모델 추적 확인 참고사항:

귀하의 역할: 모델 거버넌스 보조자. 우리가 사용하는 의사결정 지원 모델의 경우 정기적으로 모니터링해야 하는 지표(성과, 그룹 간 공정성, 데이터 드리프트 신호, 오류 기록)를 체크리스트로 전환합니다. 의사결정 모니터링 프레임워크를 제안합니다.

4) 사건 종결 및 감사 추적:

서비스 종료 시 감사 추적에 대한 최종 메모 초안을 작성합니다. 즉, 어떤 초안이 작성되었는지, 어떤 검증이 이루어졌는지, 누가 어떤 결정을 내렸는지, 어떤 근거로 결정했는지 등을 작성합니다. 내가 제공한 확인된 정보만 사용하세요.입력: [정보]

약한 프롬프트 / 강한 프롬프트

약한 프롬프트:

귀하는 이 작업을 처음부터 끝까지 처리하고 결과를 기성 결정으로 나에게 제공하므로 세부 사항에 대해서는 신경 쓰지 않겠습니다.

세 개의 링을 한 단계로 줄이고 검증과 인간의 판단을 우회하며 책임을 모호하게 만듭니다.

강력한 프롬프트:

귀하의 역할은 의사결정자가 아닌 프로세스 보조자입니다. 먼저 작업의 개요를 작성한 다음 확인해야 할 사항을 나열하고 마지막에는 결정과 감사 추적이 내 것임을 상기시킵니다. 출력에 5개의 자체 점검 질문(인증, 소스, 기밀성, 공정성, 승인)을 추가합니다.

강한 의지는 세 개의 고리를 보호하고 검증을 요구하며 결정은 사람에게 맡깁니다.

세 개의 미니 케이스

사례 1 - 주기가 완전히 실행됩니다. 대출 신청에서 AI는 근거 초안(링 1)을 생성합니다. 전문가가 요율을 다시 계산하고 공정성을 확인하고 대리 변수 표현식을 지웁니다(링 2). 공무원은 할당 결정을 내리고 감사 추적을 기록합니다(링 3). 20분 안에 안전하고 방어 가능한 결정이 내려집니다.

사례 2 - 모니터링으로 성능 저하를 포착합니다. 사기 패턴은 몇 달 동안 잘 작동하지만 새로운 사기 전략으로 인해 적발률이 조용히 떨어집니다. 모델 거버넌스에 따른 모니터링은 이러한 감소를 확인합니다. 모델이 업데이트됩니다. 모니터링하지 않으면 손실이 계속 증가할 것입니다.

사례 3 - 자제력으로 위반을 예방할 수 있습니다. 빠른 보고를 위해 분석가가 직접 AI 출력을 보내려고 합니다. 그는 다섯 가지 질문을 적용합니다. 그는 "출처" 질문에서 수익 수치가 확인되지 않는다는 사실을 알아차립니다. 소스로부터의 제어 번호가 틀렸어요. 30초의 자체 점검을 통해 허위 사진이 경영진에게 전송되는 것을 방지합니다.

역할의 명확성: 누가 생산하고, 누가 검증하고, 누가 결정하는지

3링 사이클은 역할이 명확할 때만 안전합니다. 가장 흔한 결함은 "모든 사람이 책임이 있지만 누구도 책임을 지지 않는다"는 모호한 영역입니다. 초안은 AI에 의해 생성되었고, 누구도 이를 완전히 검증하지 않았으며, "시스템을 떠났기" 때문에 결정이 무시되었습니다. 이 격차는 실수가 가장 쉽게 발생하는 곳입니다.

건전한 소설에서는 각 반지에 소유자가 있습니다.

생성자(보조자 + 사용자): 익명, 초안을 요청하고 최소한의 데이터로 항목을 준비하는 사람입니다.
검증자(전문가): 출력을 소스에 연결하고 수치를 다시 계산하며 공정성과 기밀성을 위해 필터링하는 사람입니다. 이 역할은 절대 건너뛰지 않습니다.
의사결정자(권한/위원회): 최종 결정을 내리고 정당성 및 감사 추적에 서명하는 권한입니다.

때로는 같은 사람이 여러 역할을 맡는 경우도 있습니다. 각 링크가 의식적으로 만들어지고 기록되는지 확인하는 한 이는 문제가 되지 않습니다. 문제는 "누군가 그랬음에 틀림없다"는 가정하에 반지를 공백으로 남겨둔다는 점이다.

팁: 결정을 내린 후 "이 결정의 유일한 소유자는 누구인가?"라고 자문해 보십시오. 묻다. 대답이 명확한 이름이 아니면 책임의 사슬이 끊어졌다는 뜻입니다. 루프를 다시 시작하십시오.

일반적인 실수

중간 링을 건너뜁니다. 초안에서 결정으로 직접 이동하고 검증을 건너뜁니다.
모델에게 책임을 맡기는 것. "AI가 처리할 것"이라고 말하고 최종 결정과 서명을 갖지 않습니다.
모델을 설정하고 잊어버린다고 생각합니다. 한 번 잘 작동했던 모델을 팔로우하지 않고 그대로 둡니다. 데이터 드리프트가 표시되지 않습니다.
감사 추적을 남기지 않습니다. 누가 어떤 결정을 내렸는지, 왜 결정했는지 기록하지 않습니다.
자제력을 우회합니다. 5가지 질문을 묻지 않고 출력을 사용합니다.

팁: 5가지 질문으로 구성된 자가 점검을 습관화하세요. 시간이 지남에 따라 자동으로 이루어지며 몇 초가 걸립니다. 가장 큰 실수 중 상당수는 이 몇 초의 제어를 놓칠 때 발생합니다.

요약하면

은행에서 안전한 인공지능을 사용하는 것은 AI가 생산하고, 전문가가 검증하고, 권위가 결정을 내리는 3링 사이클입니다. 모델 거버넌스(검증, 모니터링, 문서화, 책임, 개선)가 이 주기를 구성합니다. 인증, 출처, 기밀성, 공정성, 승인의 5가지 질문으로 각 출력을 자체 점검합니다. 하나라도 없으면 출력이 준비되지 않은 것입니다. 모델이 무너질 수 있습니다. 모니터링이 필수적입니다. 책임은 언제나 사람에게 있습니다. 한 문장으로 말하면: 인공지능은 순환의 첫 번째 연결고리입니다. 검증과 최종 결정은 설명할 수 있는 유능한 사람의 반지입니다.

응용과제

자신의 비즈니스에서 작업을 선택하고 템플릿 1(AI가 무엇을 생산할 것인지, 전문가가 무엇을 검증할 것인지, 당국이 무엇을 기록하고 결정할 것인지)을 사용하여 3링 엔드 투 엔드 계획을 만듭니다. 그런 다음 해당 작업에 대한 샘플 AI 출력을 작성하고 두 번째 템플릿을 사용하여 5가지 질문으로 구성된 자체 점검을 적용하고 결함을 수정합니다. 마지막으로, 사용하는 의사결정 지원 도구에 대한 템플릿 3을 사용하여 모니터링 체크리스트를 만듭니다.

체크리스트

[ ] 나는 작업을 3링 루프(생성/검증/결정)로 구성했습니다.
[ ] 중간 링크(인증)를 건너뛰지 않았습니다. 출처와 번호를 확인했어요.
[ ] 나는 다섯 가지 자기 통제 질문을 실시했습니다. 빠진 것이 있으면 가겠습니다.
[ ] 개인 정보 보호 및 공정성 필터를 통과했습니다.
[ ] 모델 추적 및 손상 위험을 고려했습니다.
[ ] 최종 결정과 그 정당성, 감사기록을 기록하여 책임을 다하였습니다.

모듈 시험

1. 신용전문가가 인공지능이 생성한 대출 거절 사유를 확인하지 않고 고객에게 전송합니다. 이 접근 방식의 근본적인 실수는 무엇입니까?

A) 인공지능 출력물은 검증 없이 사용할 수 없습니다. 초안 결정 타당성은 권한 있는 전문가의 검토 및 승인을 받아야 합니다 ✔
B) 인공 지능은 항상 대출 정당성을 부정적으로 제시합니다.
다) 고객에게는 사유가 아닌 점수만을 알려주어야 합니다.
D) 이메일이 아닌 전화로 사유를 고객에게 전달했어야 했습니다.

설명: 인공지능은 일관된 정당화를 생성할 수 있지만, 잘못된 데이터나 잘못된 가정을 기반으로 동일한 확신을 갖고 오류가 있고 심지어 차별적인 정당화를 생성할 수도 있습니다. 은행업은 규제되고 신뢰가 중요한 분야입니다. 각 출력은 전문가에 의해 검증되어야 하며, 학점 할당 결정 및 최종 정당화는 승인된 사람에게 속해야 합니다.

2. 고객의 은행 계좌 거래를 인공 지능 도구로 전송할 때 기밀 유지(KVKK 및 고객 비밀) 측면에서 가장 좋은 행동은 무엇입니까?

A) 빠른 진행을 위해 고객의 성명과 계좌 명세서를 그대로 업로드해 주시기 바랍니다.
B) 개인 식별 정보를 제거하고 데이터를 익명화하여 승인된 보안 도구에서 필요한 최소한의 정보만 공유해야 합니다. ✔
다) 데이터를 암호화하면 이름과 계좌번호도 어느 차량에나 전송될 수 있다
D) 목적이 좋기 때문에 고객에게 묻지 않고도 전체 내용을 공유할 수 있습니다.

설명: 고객 금융 데이터는 은행법의 범위 내에서 개인 데이터이자 고객 비밀입니다. 이름, TR ID, 계좌 번호와 같은 식별 정보를 제거하고 데이터를 익명화해야 합니다. 업무에 필요한 최소한의 데이터를 공유해야 하며, 기관에서 승인한 보안 도구만 사용해야 합니다.

3. 인공지능은 '신청자가 사는 동네가 위험해서 거절한다' 등 신용평가 모델 결정에 대한 정당성을 만들어낸다. 전문가는 어떻게 해야 할까요?

가) 모형은 통계에 기초하고 있으므로 이론적 근거는 그대로 사용한다.
B) 구역 정보가 더욱 가중되어 결정이 강화됩니다.
다) 이는 대리변수를 통한 간접적 차별일 수 있다. 정당화는 기각되어야 하며 결정은 타당하고 설명 가능한 기준에 근거해야 합니다 ✔
D) 그 이유는 고객에게 알리지 않고 파일에만 보관하므로 문제가 없습니다.

설명: 거주 지역은 민족성 또는 유사한 보호 특성과 밀접하게 관련된 대리 변수가 되어 간접적인 차별을 야기할 수 있습니다. 이러한 유형의 정당화는 법적으로나 윤리적으로 용납될 수 없습니다. 결정은 합법적이고 설명 가능하며 비차별적인 기준에 근거해야 하며 이러한 정당화는 거부되어야 합니다.

4. 사기 탐지 시스템에서 인공 지능은 거래를 '고위험'으로 표시합니다. 가장 좋은 접근 방식은 무엇입니까?

A) 경고는 사전 심사 신호입니다. 진짜 사기와 허위경보는 전문가의 심사를 통해 감별하고, 최종 판단은 인도적으로 내려져야 합니다 ✔
B) 거래가 자동으로 영구적으로 차단되므로 검토가 필요하지 않습니다.
C) 대부분의 경고가 거짓이므로 경고가 무시됩니다.
D) 고객에게 전화를 걸어 직접 비난을 한다.

설명: AI 경고는 최종 판단이 아닌 예비 심사 및 확률 신호입니다. 실제 사기와 오탐을 구별하고, 고객을 희생시키지 않고 조사하고 최종 결정을 내리는 것은 전문가의 몫입니다. 경고로 인해 계정이 자동으로 영구적으로 차단되어서는 안 됩니다.

5. 사기 탐지 시 다수의 오탐지 경고에 대한 비용은 얼마나 됩니까?

A) 거짓 긍정에는 비용이 들지 않습니다. 경고가 많을수록 좋습니다.
B) 고객의 고통과 경보 피로를 유발합니다. 실제 사기가 눈에 띄지 않을 위험이 높아집니다 ✔
C) 시스템의 전력 소비만 증가시킵니다.
D) 거짓 긍정은 야간 거래에서만 발생합니다.

설명: 오탐은 합법적인 고객의 거래를 불필요하게 방해하여 불편과 불만을 야기합니다. 또한 분석가의 경고 피로도를 높여 실제 사기 행위를 간과할 위험을 높입니다. 따라서 임계값과 규칙의 균형을 맞추고 경고의 우선순위를 지정해야 합니다.

6. 고객 세분화와 개인화된 캠페인을 설계할 때 윤리적으로 가장 중요한 경계는 무엇입니까?

A) 세그먼트가 좁을수록 좋으며, 다른 제한은 없습니다.
B) 개인화는 기술적 문제일 뿐이며 윤리적 경계가 필요하지 않습니다.
C) 자격, 동의 및 차별 금지가 보호되어야 합니다. 취약고객에 대한 착취 및 조작을 방지해야 합니다 ✔
D) 캠페인이 모든 사람에게 동일하게 전달된다면 윤리적 문제는 없을 것입니다.

설명: 세분화는 고객의 이익(적절한 제품 추천)을 위해 사용될 수 있지만 취약성을 악용하는 데 오용될 수도 있습니다(예: 부채가 많은 고객에게 추가 신용 마케팅). 적합성, 동의 및 비차별의 원칙은 보호되어야 합니다. 개인화가 조작으로 바뀌어서는 안 됩니다.

7. 고객 서비스 챗봇에 대한 최상의 보안 정책은 무엇입니까?

A) 챗봇은 모든 종류의 거래와 금융 조언을 스스로 마무리할 수 있어야 합니다.
B) 일상적인 정보의 속도를 높입니다. 불만 사항, 민감한 조언, 승인된 거래는 사람에게 위임해야 하며, 확인되지 않은 정보는 제공해서는 안 됩니다 ✔
다) 챗봇은 고객 신원 확인 없이 모든 계정 정보를 공유할 수 있습니다.
D) 인간 핸드오버 옵션은 챗봇 속도를 저하시키므로 제거해야 합니다.

설명: 챗봇은 자주 묻는 정보와 일상적인 거래를 안전하게 신속하게 처리하지만, 불만 사항, 민감한 금융 조언, 계정에 대한 승인된 거래 및 모호한 상황은 승인된 직원에게 위임되어야 합니다. 또한 챗봇은 고객의 비밀을 공개하거나 확인되지 않은 정보를 제공해서는 안 됩니다.

8. AML/KYC 프로세스에서 인공 지능은 거래를 의심스러운 것으로 표시합니다. 의심스러운 거래 보고(STR) 측면에서 올바른 접근 방식은 무엇입니까?

가) 해당 모델에 표시가 있는 경우 자동으로 통보되어야 하므로 준법감시인은 필요하지 않습니다.
B) 대부분의 거래가 합법적이므로 경고가 무시됩니다.
다) 해당 거래에 대해 '세탁 의혹이 있다'고 고객에게 즉시 보고함
D) 모델 출력은 예비 심사 및 초안입니다. STR 결정은 승인된 준법감시인이 내려 정당성과 감사 추적이 유지됩니다. ✔

설명: 인공 지능 거래 모니터링 및 스캔은 잠재적으로 의심스러운 패턴을 신속하게 표시하지만 의심스러운 거래 보고(STR/SAR)는 법적 결과를 수반하는 결정이며 승인된 규정 준수 담당자의 판단에 따라 이루어집니다. 모델 출력은 예비 및 초안입니다. 감사 추적과 정당성은 보존되어야 합니다.

9. 제재목록/PEP(정치노출자) 심사에서 인공지능이 이름을 일치하나, 이는 허위 일치일 수 있습니다. 올바른 접근 방식은 무엇입니까?

A) 일치 여부는 추가 식별자(생년월일, 국적)로 확인되어야 합니다. 결정은 준법감시인이 내려야 합니다 ✔
B) 이름 유사성으로 충분하며, 고객은 즉시 제재를 받은 것으로 선언됩니다.
C) 모든 일치 항목은 거짓으로 간주되어 무시됩니다.
D) 결정은 챗봇에게 맡긴다

설명: 유사한 이름으로 인해 이름 스캔에서 오탐지가 발생할 수 있습니다. 준법 감시인은 생년월일, 국적 및 기타 식별자와 일치하는지 확인해야 합니다. 고객이 실수로 승인을 받았다고 선언하거나 실제 일치 항목을 누락하는 것은 모두 심각한 결과를 초래합니다. 결정은 인간의 몫입니다.

10. 인공지능으로 경영보고서 초안을 작성했습니다. 보고서에는 분기별 이익 수치가 포함되어 있습니다. 서명하기 전에 가장 중요한 단계는 무엇입니까?

A) 보고서의 모든 중요한 수치는 소스 데이터에 대해 재검증되어야 합니다. 최종 서명 책임은 인간에게 있습니다 ✔
나) 인공지능은 오류 없이 숫자를 주고, 검증은 시간낭비이다
다) 보고서를 더욱 보기 좋게 만들기 위해 형식만 체크합니다.
D) 보고 내용은 고위 경영진에게 직접 전달되며, 추후 통제가 이루어집니다.

설명: 인공지능은 수치값을 잘못 표현하거나, 이를 구성하거나, 원본 데이터와 일치하지 않게 요약할 수 있습니다. 보고서에 서명하기 전에 모든 중요한 수치를 원본 데이터와 비교하여 다시 검증해야 합니다. 자동화는 속도를 제공하지만 최종 서명 책임은 인간에게 있습니다.

11. 인공지능이 기업의 재무제표를 분석해 '회사가 매우 탄탄하니 대출은 꼭 해줘야 한다'고 말한다. 재무 분석가의 책임은 무엇입니까?

A) 인공지능이 금융을 오류 없이 알고 있기 때문에 텍스트를 있는 그대로 받아들인다.
B) 소스 테이블의 비율을 다시 계산하고 가정에 의문을 제기합니다. 인간으로서 최종 결정을 내리며 불확실성을 언급함 ✔
다) 'AI 승인'으로 결정사항을 위원회에 직접 제출
D) 분석 내용을 전혀 읽지 않고 대출을 거부하는 행위

설명: 재무 분석은 입력의 가정과 정확성에 따라 달라집니다. AI는 요율을 잘못 계산하거나, 누락된 데이터를 무시하거나, 지나치게 정확한 언어를 사용할 수 있습니다. 분석가는 소스 테이블, 질문 가정에서 요율을 다시 계산하고 불확실성을 언급하면서 인간적으로 최종 신용 결정을 내려야 합니다.

12. 신용 모델은 성별이나 민족과 같은 보호되는 특성을 직접적으로 사용할 수는 없지만 우편번호 및 쇼핑 데이터를 통해 간접적으로 반영할 수 있습니다. 이 상황을 무엇이라고 하며 왜 위험한가요?

A) 이를 과잉 학습이라고 하며 정확도만 떨어집니다.
B) 이를 데이터 유출이라고 하며 단지 속도 문제일 뿐입니다.
다) 이를 대리변수를 통한 간접차별이라 한다. 불법이므로 공정성 테스트를 통해 확인해야 합니다 ✔
D) 이를 정규화라고 하며 완전히 무해합니다.

설명: 보호 특성과 밀접하게 연관된 변수를 프록시 변수라고 합니다. 모델이 보호된 특징을 직접적으로 사용하지 않더라도 프록시를 통해 간접적으로 판별할 수 있습니다. 이는 불법적이고 비윤리적입니다. 모델은 공정성 지표로 테스트되어야 하며 프록시 위험은 제어되어야 합니다.

13. 은행은 신용 결정에 인공 지능 모델을 사용합니다. 입법 및 감사 가능성 측면에서 가장 기본적인 요구 사항 중 하나는 무엇입니까?

A) 모델이 복잡하고 이해하기 어려울수록 안전합니다.
나) 기록을 남길 필요가 없으며, 결정사항을 구두로 설명할 수 있다.
C) 처리 속도가 느려지므로 고객의 이의제기 권리를 제거해야 합니다.
D) 모델은 설명 가능해야 하며, 결정 타당성 및 감사 추적이 유지되어야 하며, 고객에게 반대/사람 검토 권한이 부여되어야 합니다. ✔

설명: 규제된 결정 프로세스에서 모델은 설명 가능해야 하고, 결정에 대한 근거를 문서화해야 하며, 기록(감사 추적)을 유지해야 하며, 고객에게 사람의 검토를 반대/요청할 권리가 있어야 합니다. '블랙박스' 모델의 부당한 결정은 감사할 수 없으며 법률을 준수하지도 않습니다.

14. 모듈 전반에 걸쳐 강조된 핵심 원칙은 은행 업무에서 인공 지능의 역할을 어떻게 설명합니까?

A) 인공지능은 숙련된 은행원을 대체하고 스스로 대출 및 통지를 마무리할 수 있습니다.
나) 인공지능은 의사결정이 아닌 마케팅에만 활용된다.
다) 인공지능 출력은 통계에 기반을 두고 있기 때문에 검증 없이도 안전하다.
D) 인공 지능은 보조자이자 초안 생성기입니다. 신용 할당, 사기/준수 판단 및 최종 결정은 권한 있는 사람에게 있습니다 ✔

설명: AI는 보조자, 사전 검사자 및 초안 생성기로서 반복적인 작업 속도를 높입니다. 그러나 우리는 규제되고 신뢰가 중요한 분야에서 일하기 때문에 신용 할당, 사기/규정 준수 조항 및 고객에 관한 최종 결정은 권한 있는 사람(공인된 은행원 및 의사 결정 위원회)의 책임입니다. 확인되지 않은 출력은 서명되지 않은 초안 결정입니다.