收益:
- 能够了解信用评分的依据是什么,人工智能不提供分数,但提供清晰的分数摘要并加速缺失文件检查
- 使用人工智能对贷款文件进行一致性检查和起草决策理由,并能够作为授权专家做出最终分配决策
- 能够理解模型输出必须以可解释、合理和非歧视的方式记录并保持红线
当贷款申请到达时,后台会出现一个简单的问题:“该客户可以偿还这笔贷款吗?他让银行承担什么风险?”这个问题的答案分散在占用信贷专家一天大部分时间的一系列任务中:阅读损益表、计算债务/收入比率、解释信用历史(KKB - 信用登记局注释)、评估抵押品、将其与内部政策进行比较,最后撰写合理的决定。人工智能可以节省这些任务的阅读、总结和一致性检查部分的大量时间。但要小心:AI不会生成分数,它帮助你了解分数的含义以及文件不一致的地方。学分分配决定及其理由由授权专家签署。
在本单元中,我们将逐步了解数据信用评分的依据是什么,什么时候可以安全地使用人工智能,如何验证其输出,以及永远不应该跨越哪些红线。
信用评分的依据是什么?
信用评分是一种将客户还款概率降低到数值的估计值。典型的条目有:
- 收入和就业:每月固定收入、工作时间、收入来源的连续性。
- 当前债务:现有贷款、信用卡债务、债务收入比(每月债务支付与收入的比率)。
- 信用记录:过去的付款模式、延迟、合法的后续记录(KKB 分数总结了这一点)。
- 抵押品:针对贷款提供的资产(房屋、车辆、存款)及其价值。
- 需求特征:贷款金额、期限、产品类型。
提示:分数是“概率估计”,而不是“事实”。两个顾客可能有相同的分数,但他们的故事可能完全不同。在没有看到分数背后的推理的情况下做出决定就像以貌取人。
人工智能在这个过程中处于什么位置?
人工智能在哪些领域可以安全使用,哪些领域不能安全使用,这一点是显而易见的:
任务
人工智能角色
谁有决定/批准?
汇总收入文件中的金额
阅读、总结
专家消息来源确认
债务/收入比率计算草案
账户汇票
专家重新计算
文件一致性检查(发现矛盾)
扫描
专家证实
草案拒绝/批准理由
文本草稿
授权专家作者/批准
解释一下分数的含义
描述文字
专家点评
信贷分配决策
(仅草稿)
当局/委员会决定
可以看出,人工智能在每一行都生成汇票和支票;不“决定”任何一行。保持这种区别是本单元的本质。
一步一步:在人工智能支持下准备文件
- 匿名。删除姓名、TR ID、账号;将客户描述为“42岁,公职人员,X段”。
- 索取草稿。让人工智能进行文件摘要、一致性检查和起草理由,而不是做出决定。
- 将其连接到源。标记打印输出中的每个数字来自哪个文档。
- 重新计算。自己验证关键数字,例如债务收入比、抵押品比率等。
- 策略过滤器。检查您的内部信用政策和非歧视政策的遵守情况。
- 决定并签字。您做出决定,写下理由,留下审计线索。
四个可复制模板
1)文件一致性检查:
您的角色:信用文件一致性检查员。决策。客户(匿名):42岁,公职人员,月净收入55,000土耳其里拉,当前每月贷款支付12,000土耳其里拉,需求250,000土耳其里拉/48个月。任务:所提供的信息中是否存在任何数学或逻辑矛盾、缺失文档或日期不一致?使用标签“[需要确认]”列出每个发现,并指定它所基于的信息。决定权是我的。
2)债务/收入比计算控制:
使用以下数据逐步计算债务/收入比率并显示公式。只需进行计算,无需做出资格决定。每月净收入:55,000 TLC 当前每月债务支付:12,000 TLE 新贷款预计每月分期付款:6,500 TLD 期望输出:当前利率、包括新贷款的利率、公式和中间步骤。
3) 草案拒绝/批准理由(可解释):
您的角色:起草贷款决策理由的助理。根据经过验证的发现,我为您提供输入,添加新信息。结果:[债务/收入比率 34%,抵押品比率充足,1 项拖欠记录]任务:根据这些结果撰写一份可解释且不包含歧视性语言的理由草案。没有提及受保护的特征(年龄、性别、出身、社区)。我将添加最终决定和签名。
4)分数简单解释:
用 4 句话向客户解释信用评分的含义,使用非指责性语言且不使用技术术语。不使用个人数据,不做出明确承诺。在将其转发给客户之前,我会检查此文本。
弱提示/强提示
弱提示:
我们应该给予这位客户信用吗?根据你的分数做出决定并写下你的理由。
该请求将决定权留给模型,不链接到源,并且不会阻止理由出现歧视性。
强力提示:
您的角色:决策支持助理,而不是决策者。根据我给您的经过验证的调查结果写一份理由草案。在括号中显示每个句子所基于的发现。不要引用受保护的属性。将任何不清楚的地方标记为“[需要确认]”。我将承担最终的信用决定和责任。
坚强的意志限制角色,将每一个主张与来源联系起来,防止歧视并将决定权保留在个人手中。
三个迷你箱子
案例 1 — 节省时间。专家对 30 个文件的组合进行一致性检查。 AI 标记了 5 个差异,例如“8 号申报的收入为 60,000,但工资单显示 42,000”。专家从源头证实了这一切;其中 3 个是真实的,其中 2 个是人工智能的错误读数。人工3小时的工作减少到40分钟,并且未经验证不使用警告。
情况 2 — 重新计算捕获错误。 AI将债务与收入比率总结为“28%”。专家再次运行公式:不包括现有债务,实际利率为41%,超过了国内政策的门槛。如果没有验证,可能会发生错误确认。
案例 3 — 歧视性理由拒绝。人工智能在拒绝草案中构建了“申请人居住的地区有风险”的短语。专家否认了这一点;该声明存在基于地区的间接歧视(代理变量)的风险。仅使用债务与收入比率和拖欠记录等合法标准来重写理由。
超越分数:上下文和“边界”文件
信贷决策中最困难的部分不是公开接受或公开拒绝,而是“边界”文件。如果分数太接近国内政治的门槛,就不能由单一数字来决定;上下文发挥作用。这就是人工智能可以设置陷阱的地方:它用相同的机械逻辑评估每个边界文件,并错过了细微差别。是专家添加了细微差别。
专家查看边界文件的上下文示例:
- 延误的故事:单次延误是由于暂时的健康问题还是持续无法付款?同一个“1延迟记录”可以讲述两个不同的故事。
- 收入性质:两个客户可能有相同的收入,但一个可能是固定工资收入,另一个是可变的自由职业者收入;风险状况不同。
- 与银行的关系:长期工作顺利的客户的档案与新客户的档案读取方式不同。
人工智能可以帮助你总结这些背景,但需要由专家来权衡和决定——尤其是在边缘情况下。
提示:如果分数接近阈值,请关注“该客户的故事讲述了什么”问题,而不是“模型说了什么?”边界文件是专家判断而不是自动化发挥作用的地方。
常见错误
- 认为分数就是决定。分数是一个预测;这不是决定本身。在没有依据和背景的情况下根据分数来判断是错误的。
- 不重新计算数字。使用人工智能给出的比率和总数而不进行确认;这就是幻觉或误读产生的地方。
- 没有注意到歧视的理由。批准包括受保护特征或替代变量(例如社区、年龄、性别)的理由;严重的法律风险。
- 绕过审计跟踪。未能记录该决定所依据的经验证的发现;不能在随后的反对或审计中进行辩护。
- 共享凭证。进入该工具而不对文件进行匿名化。
注意:当信用决定被拒绝时,客户有权了解原因并提出异议。因此,理由必须是正确的、可解释的并且没有歧视。 “模型是这样评分的”并不是一个理由。
综上所述
信用评分是基于收入、债务、信用记录和抵押品等数据的概率估计。在此过程中,人工智能生成文档阅读、一致性检查、账本草稿和论证草稿;但这不会改变您的分数或决定。重新计算每个数字,将每个理由归因于来源,并将其通过歧视过滤器。学分分配决定由授权专家签署,并附有可解释的理由。一句话:人工智能准备文件;有能力的人做出信贷决定。
应用任务
定义样本信用档案(匿名:年龄、职业、收入、当前债务、索赔、到期日)。使用上面的模板1和2,首先进行一致性检查,然后计算债务/收入比率。手动重新计算并比较人工智能给出的费率。然后使用第三个模板生成理由草案,并检查其中是否有受保护的属性或代理变量;如果有的话,用合法的标准重写它。
清单
- [ ] 我对该文件进行了匿名处理;我没有分享任何身份信息。
- [ ] 我给了人工智能一个草案/控制任务,而不是一个决定。
- [ ] 我手工重新计算了债务/收入比率和临界数字。
- [ ] 我将理由归因于经过验证的发现并引用了来源。
- [ ] 我检查参数中没有受保护的属性/代理变量。
- [ ] 我已记录该决定及其理由;我承担了最终的责任。