单位 1 / 12

高管人工智能战略:原因、角色、边界和负责任的治理

收益:

  • 将人工智能定位为业务战略、资源、风险和责任问题,而不是技术项目
  • 能够区分经理的真正角色是给出方向、选择优先级、划定风险限制以及承担技术团队的责任。
  • 能够通过认识到关键陷阱(例如大量没有战略的试点、延迟治理和无法衡量的价值),将焦点缩小到少数高价值机会

对于高级管理人员(C-Level;公司最高决策者:CEO — 总经理、CFO — 首席财务官、CTO/CIO — 首席技术/信息官)来说,人工智能不再是“技术团队的项目”,而是直接成为业务战略的一部分。 2023年之后,生成式人工智能(generative AI;一种产生文本、视觉和代码等新内容的人工智能)已经出现在各个领域;但大多数公司的结果是这样的:启动了数十个试点项目,但很少转化为真正的商业价值。在本单元中,我们将讨论为什么管理者应该战略性地使用人工智能,他的角色是什么,他应该在哪里做出决策,以及为什么应该从一开始就建立负责任的治理(决定谁将做出决策、采用什么规则和采用什么控制的框架)。

首先,明确一个概念:战略是“关于我们将做什么、为什么以及如何做的一系列有意识的选择”。人工智能战略也是一样的:选择哪些人工智能机会来分配有限的资源(金钱、人员、时间)、以什么顺序以及在什么风险限制内。战略并不是“让人工智能无处不在”;而是“让人工智能无处不在”。相反,它是一个你对什么说“是”和你对什么说“不”的列表。

管理者在人工智能中的真正作用

管理员的工作不是训练模型或编写代码。它的工作有四件事:提供方向、分配资源、设定风险界限和承担责任。技术团队解决“如何”的问题;经理解决“为什么、何时、限制是什么以及谁负责”的问题。

决策空间

技术团队的职责

经理的责任

使用面积

技术上能做到吗?

有商业价值还是优先考虑?

车型/车辆选择

哪种模型效果更好?

预算、风险和供应商是否合适?

数据

数据是否可访问/干净?

是否合法、道德、保密?

风险

有哪些技术漏洞?

企业的风险偏好是多少,谁认可?

价值

公制是如何测量的?

投资是回报还是继续?

提示:作为一名经理,在参加人工智能会议时,请随时提出一个问题:“这会对业务成果(收入、成本、风险、客户体验)产生多大影响?”当技术令人兴奋时,这个问题可以让你脚踏实地。

人工智能在哪里创造价值,又在哪里存在陷阱?

人工智能;在加速重复性信息工作、总结大量文本/数据、起草、客户服务和决策支持中的初步响应方面具有强大的功能。但它在以下领域是危险的:在高风险、人类责任决策(信用拒绝、招聘、医疗/法律决策)中,未经验证的输出直接传递给客户/公众,以及在数据隐私可能受到侵犯的情况下。

这里有一个关键概念:幻觉是指人工智能产生的信息实际上并不完全真实。对于管理者来说,这是“人工智能输出应始终经过验证”原则的基础。大型语言模型(LLM - 通过生成“下一个最可能的单词”来创建文本的人工智能)是一个语言生成器,而不是一个现实引擎。这就是为什么人工智能的定位不是人类的替代品,而是加速人类决策的助手。

一步一步:经理对人工智能框架的介绍

1. 澄清上下文。公司的战略重点是什么? (增长、成本、风险降低?)人工智能应该服务于这个优先事项。

2.选择少量高价值机会。不要“到处洒”,而应专注于 2-3 次使用(第 4 单元)。

3. 从一开始就定义价值和风险限额。预期收益是什么(第 5 单元),可接受的风险是什么(第 6 单元)?

4. 指定治理和问责制。谁批准、谁监督、谁阻止? (第七单元)

5. 试点、测量、缩放或停止。从小事做起,收集证据,如果有效,就扩大规模;如果实在不行,就老老实实关闭吧。

三个迷你箱子

案例 1 — 无策略的试点转储。一家零售公司一年内推出了 27 个人工智能试点;每个部门都尝试了自己的工具。年底仅投产2台,共花费140万TL,回报不确定。问题不在于技术,而在于缺乏优先顺序和治理。第二年,首席执行官将试点人数减少到 5 人,并为每个人设定了明确的指标;生产开工率提高至60%。

案例 2 — 隐私泄露风险。一家金融公司的员工开始将客户数据粘贴到公开可用的人工智能工具中。这是在审计中注意到的;存在严重违反KVKK(个人数据保护法;土耳其个人数据保护法)的风险。管理层没有看到这种风险,因为没有关于员工使用的政策(第 7 单元)。保单是后来写的,但是名义上的风险是经历过的。

案例 3 — 获得正确的焦点。一家保险公司将“索赔文件的初步审查”列为一个高价值用例。他在 4 个月内成为一名飞行员;每个文件的平均处理时间从 42 分钟下降到 18 分钟,最终决定仍由人类做出。清晰、谨慎、负责任的成功;因为战略、指标和治理从一开始就存在。

四个可复制模板

1) 战略一致性查询:

您的角色:高级战略顾问。我们公司今年的三个优先事项是:【优先事项】。评估以下人工智能想法是否与这些优先事项保持一致:[想法]。它服务于哪个优先事项、程度如何以及如何服务?诚实地写下你的弱点。

2) 准备执行简报:

在一页内向非技术执行委员会描述以下人工智能技术提案:业务问题、建议的解决方案、预期收益、关键风险、所需决策。不要使用行话;简化每个术语。建议:[文本]

3)风险和边境筛查:

对于以下人工智能使用想法,从管理者的角度创建 5 个标题下的风险列表:法律/合规、隐私、声誉、运营、财务。对于每个风险,写下其可能的影响以及从一开始就应采取的预防措施。想法:[文字]

4)决策框架:

我必须做出这个决定:[决定]。为我建立一个决策框架:我应该评估哪 4-5 个标准,我应该针对每个标准提出哪些问题,以及我应该为“暂停/继续”设置什么阈值?

弱提示/强提示

弱项:“我如何在公司中使用人工智能?”
结果:一份通用的、非个性化的、不可行的清单。不提供决策支持。
Güçlü:“我是一家中型物流公司的首席财务官。我今年的首要任务是降低 8% 的运营成本。我有车队、货运和发票数据。优先考虑可以满足此优先任务的 4 个人工智能使用领域,以及预计的收益和从一开始就应该承担的风险。写下每个领域我在前 90 天内需要做什么。”
结果是:一个情境化、优先化、有风险且可操作的结果。

常见错误

  • 将人工智能误认为是一个技术项目。人工智能是一个业务转型问题;技术只是一种工具。所有权必须属于业务方。
  • 没有策略的飞行员雨。数十次没有重点的尝试会消耗资源并且不会产生价值。
  • 把治理留到最后。如果从一开始就没有建立政策和问责制,风险就会悄然累积。
  • 缩放值而不测量它。一个“感觉良好”但达不到标准的飞行员是一个虚幻的成功。
  • 将最终责任转移给人工智能。人们总是要对高风险决策负责。
注意:AI输出并不能替代有能力的管理者的判断、判断和问责;它只会加快速度。高层决策不能基于“AI这么说”。责任始终在于人。

总之

对于管理者来说,人工智能不是一种技术选择,而是战略、资源、风险和责任的问题。经理的角色是给出方向、选择优先事项、设定风险界限并承担责任。最大的陷阱是缺乏战略的大量试点、治理建立较晚以及未能衡量价值。在本模块期间;我们将建立经理需要的框架来管理端到端的人工智能转型,从愿景和路线图到使用领域优先级,从投资回报率和风险到治理、道德、合规、人才、采购和变更管理。

应用任务

想想您自己的组织(或您认识的组织)。写下今年的三大战略重点。然后使用模板 1 评估可以通过 AI 工具服务于这些优先事项的三个 AI 机会。对于每个机会,用一句话注明预期收益和从一开始就必须承担的风险。批判性地阅读输出:它真的服务于优先级,还是“只是为了人工智能”?

清单

  • [ ] 我已经清楚地写下了该机构的战略重点。
  • [ ] 我将人工智能机会与这些优先事项结合起来。
  • [ ] 我定义了每个机会的预期业务价值。
  • [ ] 对于每个机会,我从一开始就确定了风险。
  • [ ] 我确认责任和最终决定权归本人所有。
  • [ ] 他们消除了“只是为了人工智能”的想法。
  • [ ] 我将关注范围缩小到少数高价值机会。