简介
机器翻译译自英文(docs.typesafe.ai)本页 15 段已全部译完
文档索引
在以下地址获取完整的文档索引:https://docs.typesafe.ai/llms.txt 使用此文件可以在进一步探索之前发现所有可用页面。
简介
Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。发送状态和类型化问题;获取你的代码可直接使用的结构化答案。
大型语言模型(LLM)旨在生成供人类阅读的文本。当你需要模型做出供代码消费判断时,就会产生不匹配:你正在迫使文本生成系统输出结构化决策,然后将结果解析回代码可依赖的内容。
Jev 是 TypeSafe 的旗舰模型,也是第一个System One 模型。System One 模型旨在做出快速的结构化决策,供软件直接使用。Jev 针对 状态 评估类型化 问题 并直接返回结构化结果。无需文本生成,无需解析。你将获得类型化值和概率分布,你的代码可以基于它们进行分支、排序和路由。Choice 和 Score 还会返回置信度,你的代码可以利用它来决定是否以及如何对答案采取行动。
%%{init: {"fontFamily": "Inter, sans-serif", "flowchart": {"rankSpacing": 35, "wrappingWidth": 300, "subGraphTitleMargin": {"top": 12, "bottom": 12}}}}%%
flowchart LR
input["state + questions"]
subgraph model["TypeSafe AI model"]
evaluate["evaluate each question<br/>against the state<br/>in parallel"]
end
input -- "one request" --> model
model -- "one response" --> answers["typed answers<br/>+ probabilities<br/>+ confidence<br/>(Choice and Score)"]
answers --> code["<b>your code</b><br/>branch, sort, and route"]TypeSafe 原语
TypeSafe 暴露了三个 AI 原语。与软件原语类似,我们的 AI 原语是模块化的、可组合的、结构化的、可靠的且快速的。每个原语提出的问题类型不同,返回的答案类型也不同。
| 问题类型 | 目标 | 返回 |
|---|---|---|
| Choice | 从列表中选择一个选项 | choice(选项)、probabilities(概率)、confidence(置信度) |
| Score | 根据标准对状态进行评分 | score(分数)、probabilities(概率)、confidence(置信度) |
| Noul | 该陈述是否为真? | noul(0–1) |
所有三种 问题 类型都可以在单个 API 调用中混合使用。所有 问题 都会针对同一 状态 并行且隔离地一次性评估。增加问题几乎不会改变响应时间。每个问题都是独立评估的,因此增加更多问题不会导致上下文腐化。
原子问题,在代码中组合
System One 模型在针对每个问题询问一件具体、范围明确的事物时效果最佳。将每个问题视为一种直觉判断:即拥有高度专业知识的人在获得正确上下文时能够在几秒钟内做出的判断。
如果你想问的问题需要复杂的推理或权衡多个独立因素,请对其进行分解。将每个因素作为单独的问题提出,然后用代码中的逻辑组合结果。这样可以确保每次单独评估的可靠性,并让你完全掌控如何对各个维度进行加权。
例如,与其说“评估这个创业计划”,不如分别询问市场规模、技术可行性和差异化。使用你自己的公式组合这些分数。当优先级发生变化时,只需更改代码中的一个系数,而无需重写提示。