系统一
机器翻译译自英文(docs.typesafe.ai)本页 22 段已全部译完
文档索引
在以下地址获取完整的文档索引:https://docs.typesafe.ai/llms.txt 使用此文件可以在进一步探索之前发现所有可用页面。
系统一
System One 模型为软件提供快速的、结构化的决策。Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。
System One 模型是一类旨在快速做出结构化决策、供软件直接使用的 AI 模型。System One 模型会评估 状态 并返回类型化的答案和概率。
Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。
与 LLM(大型语言模型)一样,System One 模型可以理解自然语言输入。它返回的是类型化的决策和概率,而非生成的文本。
Note
Jev 目前仅接受文本输入。它评估字符串、JSON 对象和文本数组。图片、音频和视频不受支持(目前)。
它与 LLM 有何不同
System One 模型针对校准的决策进行训练:其概率针对结果进行了优化,以反映不确定性。校准是在预测组中衡量的;它不保证单个答案是正确的。
System One 模型不编写回复、生成代码或生成其推理的解释。你通过 原语 定义可能的答案:
| 原语 | 问题 | 示例答案空间 | 示例输出 |
|---|---|---|---|
| Choice | 哪个团队应处理此工单? | billing, technical, 或 account | choice: "billing" |
| Score | 此客户有多沮丧? | 0 = 冷静, 1 = 沮丧, 2 = 非常沮丧 | score: 1.4 |
| Noul | 此消息是否请求退款? | 真或假 | noul: 0.95 |
以下为示例性配置和值。各原语页面将介绍可用的配置选项及完整的响应字段。
阅读 AI 入门指南,了解 System One 模型的工作原理及其训练方式。
Note
System One 的名字来源于 Daniel Kahneman 在其著作《思考,快与慢》中普及的概念。系统 1 思维是快速且直觉性的。系统 2 则更慢且更深思熟虑。这里强调的是快速、集中的判断。
大型工作流中的快速判断
对于退款请求,你的应用程序可以:
- 构建一个包含客户消息、相关交易和退款政策的状态。
- 同时提出独立问题:是否请求了退款,证据是否表明重复收费,以及政策是否支持退款。
- 在代码中使用确定性检查组合答案,然后路由案例以供采取行动或审核。
在了解这些原语的实际运作方式后,你可以将它们组合成一个更大的系统。由于 System One 模型返回的是带有类型和约束的输出,而非自由文本,因此你的代码可以检查并组合其答案,以形成可预测的工作流。完整工作流请参阅 如何使用 TypeSafe 构建。
System One 模型的答案也包括 置信度,因此你可以决定何时采取行动,何时升级至人工或推理模型。
调用 System One 模型
通过我们的 客户端 SDK 或 HTTP API 中的 POST /v1/systemone 调用 System One 模型。model 字段用于选择处理请求的模型。本文档中的示例使用 jev-latest,这也是 SDK 的默认设置。详见 模型 页面,了解可用模型、价格及别名。