收益:
- 具体理解模型“权重”的概念以及隐式/显式的区别
- 了解 openweight 和开源之间的区别及其许可陷阱
- 能够根据业务情况合理选择封闭式、开放式或混合式方法
在了解上一单元中的提供者时,表格中有一个名为“权重类型”的列:封闭式、开放式、混合式。这一列实际上隐藏了模型选择中最具战略意义的决策之一。您是否使用封闭式或开放式重量模型;它直接决定您的数据将在哪里处理、您的每月成本将如何形成、您的技术团队的需求以及您的法律责任。完成本单元后,您将对“权重”的概念有具体的了解,了解开放权重和开源之间微妙但关键的区别,并能够根据您自己的情况证明正确的方法。
“体重”到底是什么?
人工智能模型使用大量文本进行训练,同时缓慢调整其中的数十亿个数值(参数)。所有这些数字称为模型权重。权重是模型存储“它学到的一切”的地方;您可以将其与人脑中突触的力量进行比较。模型的语法、世界知识和推理模式都编码在这些数字中。
“运行”模型意味着将这些权重加载到计算机中并在其上运行您输入的文本。关键问题是:谁有权访问这些权重文件?
- 封闭权重:权重仅驻留在提供商的服务器上。您无法直接访问它们;您可以通过接口 (API) 以“发送文本,获取响应”的方式在互联网上使用它。 Anthropic Claude、OpenAI GPT、Google Gemini 都是这样。 (API 是一个接口,允许一个软件通过标准端口向另一个软件发送请求并接收响应。)
- Open-weight:可以下载权重文件。如果需要,您可以在自己的服务器上安装并运行它。 Meta Llama、DeepSeek、Mistral的部分型号是这样的。
提示:将闭合权重视为“租的公寓”,将开放权重视为“买的房子”。在租来的公寓里搬家很容易,维护不是你的责任,而是房东制定的规则。所购买房屋中的一切都是您的,但装修、安全和账单也是您的责任。
开放权重与开源不同
这里有一个非常常见的概念错误。 “开放权重”和“开源”经常互换使用,但它们不是同一件事。
- 开放加权意味着仅共享模型的学习参数。通常不会解释模型是如何训练的以及输入什么数据。
- 理想情况下,完全开源意味着权重、训练数据和训练代码都是共享的并且可以自由使用。
还有许可问题。即使模型的权重是可下载的,其许可证也可能会限制商业用途,对超出一定数量的用户施加额外的要求,或禁止竞争产品的开发。所以“我可以下载它”和“我可以随心所欲地使用它”是不同的事情。
注意:在将开放权重模型投入您的业务之前,请务必阅读其许可证。不要被“开放”这个词所迷惑;有些许可证要求超过一定数量的每月活跃用户的单独协议,有些许可证限制将输出用于某些目的。这是您应该询问您的法律团队的问题。
两种方法的比较
下表将这两种方法在关键维度上并排列出。
尺寸
闭合重量
开放重量
安装
无,现成接口
需要服务器和技术团队
数据在哪里处理
在提供商的服务器上
在您控制的环境中
初始成本
低(现收现付)
高(硬件、安装)
规模化成本
随体积增加
通过固定硬件可预测
更新/维护
在提供者处
你也是
隐私控制
有限
满
访问最强大的模型
通常在这里
变量
在此表中,对于“哪个更好”没有单一的答案;每行的正负取决于您的优先级。如果你希望初始成本低,封闭权重;如果数据不能离开公司哪怕是一毫米,那么开放式重量就显得尤为重要。
三个现实案例
案例1——电子商务初创公司(封闭增重)。一个五人电子商务团队想要制作产品描述。他们没有技术团队,他们不想管理服务器,每月的数量是可变的。他们从封闭权重模型开始,按使用量付费。在第一个月,他们处理了 120 万个代币并支付了大约 15 美元;随着他们的业务增长,账单也成比例增长。不存在服务器、维护或更新问题。此配置文件的正确选择是显而易见的。
案例 2 — 医院(赤字增加)。一家医院想要对患者笔记进行汇总和编码。数据为高度敏感的健康数据;在任何情况下都不应离开该机构。他们正在数据中心构建开放权重模型。他们在设置和硬件方面进行了大量的初始投资(例如,价值 40,000 美元的服务器和两周的设置人工),但随后他们不会为每位患者支付额外的代币费用,并且数据永远不会发送到外部服务器。高产量和绝对保密性证明了初始成本的合理性。
案例 3 — 中型会计师事务所(混合方法胜出)。一家会计师事务所使用现成界面中的封闭权重模型来处理日常一般信件和草稿文本;因为这些工作不值得进行安装工作。然而,他们将涉及客户财务数据的敏感分析外包给在自己的服务器上运行的开放权重模型。因此,他们同时受益于便利和隐私。我们将在第 9 单元返回这种“混合投资组合”方法。
弱提示/强提示:请求决策支持时
弱提示:
我应该使用开放式重量还是封闭式重量?
强力提示:
你的角色:企业AI架构师。我的情况:我们是一家12人的会计师事务所,我们没有技术团队,但我们有一个外部IT顾问。每月业务约 500,000 个代币。有些数据是客户财务数据(敏感),有些是一般信件。我们必须遵守 KVKK。任务:相应地比较封闭式、开放式和混合式方法。对于每一项:适用性 (1-5)、预计第一年成本范围、隐私说明、主要风险。最后提出一点建议,并总结原因为3点。
第二个提示允许模型生成真正适合您业务的建议,因为它给出了决策所需的所有边界(团队、数量、数据类型、法律框架)。
可复制模板
1.权重类型决定:
我的工作:[描述]。技术团队:[是/否]。每月代币数量:[NUM]。数据敏感度:[低/中/高]。预算结构偏好:[低起始/可预测固定]。根据此配置文件比较封闭式、开放式和混合选项,并给出单一建议。
2. 许可证检查:
简化此开放权重模型的许可证:[许可证名称/文本]。回答这些问题: 是否允许商业用途?有用户/收入限制吗?我可以转售输出吗?它禁止哪些用途?如果不清楚,请写“询问律师”。
3. 成本明细:
细分裸重量模型的总拥有成本:硬件、安装劳动力、电力/托管、维护、更新。与封闭重量替代方案进行 3 年粗略比较。我的每月交易量:[NUMBER]。
4、隐私风险筛查:
在以下工作流程中跟踪数据从哪里到哪里:[工作流程描述]。如果我使用封闭权重,数据在什么时候输出?在开放重量下,这种风险如何变化?针对每种风险提出缓解措施。
常见错误
- 将“开放”一词误认为“免费且无限制”:开放重量并不保证免费或无限制的商业用途;许可证是决定性的。
- 认为开放权重很“容易”:运行开放权重模型需要服务器、技术人员和维护;低估安装是一个常见的错误。
- 完全不考虑封闭权重数据:在封闭模型中,数据流向提供者;在没有提前整理出哪些数据可以走的情况下开始是有风险的。
- 仅看初始成本:虽然开放重量最初可能看起来很昂贵,但从长远来看,如果产量非常大,它可能会更便宜。看看三年内的总成本。
- “最强的模式总是封闭的”座右铭:虽然这在大多数情况下都是正确的,但它并不是绝对的;开放权重模型对于某些任务可能绰绰有余。
综上所述
- 模型权重是数十亿个参数,用于存储模型学到的信息; “关/开”的区别在于访问这些参数。
- 封闭权重:现成接口,低启动,数据提供者。显而易见的重量:你自己的服务器,完全控制,启动和维护开销高。
- 开放权重不等于开源;许可条款可能会限制商业用途。
- 正确的选择;因团队、数量、数据敏感性和预算结构而异。混合方法对于大多数中型企业来说都有意义。
应用任务
获取您在上一单元中创建的需求概况。使用本单元中的模板 1(权重类型决策)将其交给 AI 模型。通过将生成的建议与表中的七个维度(安装、数据位置、启动成本、规模成本、维护、隐私、强大模型的访问)一一匹配,自行评估。如果您的评估与模型的建议不同,请用一句话注明您的不同之处。
清单
- [ ] 我可以用我自己的话来解释“重量”的概念。
- [ ] 我可以在七个维度上比较封闭式和开放式重量的优缺点。
- [ ] 我知道 openweight 和开源之间的区别以及许可风险。
- [ ] 我可以证明为我自己的业务选择封闭/开放/混合是合理的。
- [ ] 我可以跟踪数据在工作流程中的去向并显示风险点。