Skip to main content

系统一

机器翻译译自英文(docs.typesafe.ai)本页 22 段已全部译完

文档索引

在以下地址获取完整的文档索引:https://docs.typesafe.ai/llms.txt 使用此文件可以在进一步探索之前发现所有可用页面。

系统一

System One 模型为软件提供快速的、结构化的决策。Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。

System One 模型是一类旨在快速做出结构化决策、供软件直接使用的 AI 模型。System One 模型会评估 状态 并返回类型化的答案和概率。

Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。

与 LLM(大型语言模型)一样,System One 模型可以理解自然语言输入。它返回的是类型化的决策和概率,而非生成的文本。

Note

Jev 目前仅接受文本输入。它评估字符串、JSON 对象和文本数组。图片、音频和视频不受支持(目前)。

它与 LLM 有何不同

System One 模型针对校准的决策进行训练:其概率针对结果进行了优化,以反映不确定性。校准是在预测组中衡量的;它不保证单个答案是正确的。

System One 模型不编写回复、生成代码或生成其推理的解释。你通过 原语 定义可能的答案:

原语问题示例答案空间示例输出
Choice哪个团队应处理此工单?billing, technical, 或 accountchoice: "billing"
Score此客户有多沮丧?0 = 冷静, 1 = 沮丧, 2 = 非常沮丧score: 1.4
Noul此消息是否请求退款?真或假noul: 0.95

以下为示例性配置和值。各原语页面将介绍可用的配置选项及完整的响应字段。

阅读 AI 入门指南,了解 System One 模型的工作原理及其训练方式。

Note

System One 的名字来源于 Daniel Kahneman 在其著作《思考,快与慢》中普及的概念。系统 1 思维是快速且直觉性的。系统 2 则更慢且更深思熟虑。这里强调的是快速、集中的判断。

大型工作流中的快速判断

对于退款请求,你的应用程序可以:

  1. 构建一个包含客户消息、相关交易和退款政策的状态。
  2. 同时提出独立问题:是否请求了退款,证据是否表明重复收费,以及政策是否支持退款。
  3. 在代码中使用确定性检查组合答案,然后路由案例以供采取行动或审核。

在了解这些原语的实际运作方式后,你可以将它们组合成一个更大的系统。由于 System One 模型返回的是带有类型和约束的输出,而非自由文本,因此你的代码可以检查并组合其答案,以形成可预测的工作流。完整工作流请参阅 如何使用 TypeSafe 构建。

System One 模型的答案也包括 置信度,因此你可以决定何时采取行动,何时升级至人工或推理模型。

调用 System One 模型

通过我们的 客户端 SDK 或 HTTP API 中的 POST /v1/systemone 调用 System One 模型。model 字段用于选择处理请求的模型。本文档中的示例使用 jev-latest,这也是 SDK 的默认设置。详见 模型 页面,了解可用模型、价格及别名。

从 状态 开始以准备输入,并从 原语(问题) 开始以探索你可以提出的问题类型。