本页只译了一部分
本页 27 段里还有 2 段没译成简体中文,没译的段落显示英文原文。模型
机器翻译译自英文(docs.typesafe.ai)本页 27 段里 2 段还没译
文档索引
在以下地址获取完整的文档索引:https://docs.typesafe.ai/llms.txt 使用此文件可以在进一步探索之前发现所有可用页面。
模型
Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。本页上的所有模型都由同一个端点 POST /v1/systemone 服务。请求的 model 字段选择由哪个模型处理调用;请参阅 API 参考 以获取完整的请求结构。
当前模型
| Jev 1.13 | jev-1.13.0 |
|---|---|
| 定价(每 Btok / 每 Mtok) | $42 / $0.042 |
| 速率限制 | 每秒 250,000 个 token / 每分钟 1,200 次请求 |
| 上下文长度 | 每个请求 64k 个 token;state 加上最长问题共 32k 个 token |
| 输入 | 仅限文本。字符串、JSON 对象或文本值数组。不支持图像、音频或视频输入。 |
- 价格: 按输入 token 收费。输出 token 免费。Btok 代表十亿个 token,Mtok 代表百万个 token。
- 速率限制: 按每秒 token 数和每分钟请求数衡量。超过任一限制的请求将返回
429 Too Many Requests。我们的 客户端 SDK 默认使用退避策略重试,并在响应包含相应标头时遵守retry-after标头。如果你直接调用 HTTP API,请参阅 处理速率限制。 - 上下文长度: Jev 一次性摄入
state,并并行地针对状态评估每个问题。64k 预算涵盖state加上所有问题的总和;32k 预算适用于state加上单个最长的问题。请参阅 推测性扇出 以了解如何在一个请求中打包多个问题,以及 Jev 1.13 的粗糙性 以了解随着状态增长准确率如何变化。 - 输入: Jev 评估自然语言文本。在将非文本输入(图像、音频、视频、二进制文件)作为
state发送之前,请将其预处理为文本或结构化字段。请参阅 状态 以获取支持的形状。
Warning
速率限制正在动态调整。 我们正在处理非常大的需求流量,随着即将到来的大型 GPU 交易的落实以及更多用户的加入,上述限制可能会在不通知的情况下发生变化。待情况趋于稳定后,我们将能够提供更稳定的限制。自定义和企业计划可获得更高的限制。请联系 sales@typesafe.ai。
别名
别名是解析为版本化模型 ID 的模型名称。将其与其他名称一样放在 model 字段中发送。
| 别名 | 指向 | 含义 |
|---|---|---|
jev-latest | jev-1.13.0 | 最新的稳定官方版本。客户端 SDK 的默认值,也是本文档示例中使用的名称。 |
jev-preview | jev-1.13.0 | 最新版本,无论是否为官方发布。当有预览构建可用时,它会超越 jev-latest。 |
Warning
jev-preview 当前指向与 jev-latest 相同的模型。目前没有可用的预览构建。
别名会随着新版本的发布而移动,因此其背后的答案可能会发生变化,而无需你进行任何更改。响应的 model 字段会报告实际回答的版本化 ID,因此你可以记录哪个模型产生了每个结果。如果你针对特定版本调整了置信度阈值,请固定该版本的 ID 而不是别名,并按照你自己的计划切换到新版本。
自定义 Jev
Jev 未经客户数据微调或 LoRA 适配。它通过 RLCD 训练以返回校准后的决策,且所有账号使用相同的权重。你通过请求而非通过每个账号的特定权重来塑造其在你领域的回答:
- 将你的专有内容、记录和参考资料放入
state字段。请参阅 状态。 - 将你的领域规则和边界情况编码到每个问题的
instructions和criteria中。请参阅 如何构建 TypeSafe 和 高级:结构。 - 将广泛的判断分解为原子问题,并在代码中组合输出。请参阅 复合评分 和 AutoResearch cookbook,了解如何在 Jev 的概率上训练下游经典模型。
语言支持
Jev 接受自然语言文本。英语是主要的训练语言,其准确性目前最佳。其他语言(包括中日韩字符)虽被支持但表现不一;在依赖 Jev 处理非英语工作负载之前,请在你自己的内容上进行测试,并在路由时密切关注 置信度。
数据处理
Jev 未使用客户的请求或响应进行训练。请参阅 法律 以获取数据处理协议、隐私政策以及企业客户零数据留存(ZDR)的详细信息。
列出模型
GET /v1/models 返回你的账号可在 model 字段中发送的名称,以及每个名称的描述和发布日期。目前它列出的是别名。诸如 jev-1.13.0 这样的版本化 ID 无论是否出现在列表中,都会被 model 字段接受。
curl https://api.typesafe.ai/v1/models \
-H "Authorization: Bearer $TYPESAFE_API_KEY"from typesafe_sdk import TypeSafeClient
with TypeSafeClient() as client:
for model in client.models.list().models:
print(model.name, model.release_date, model.description)import { TypeSafeClient } from "@typesafe-ai/sdk";
const client = new TypeSafeClient();
const models = await client.models.list();
for (const model of models) {
console.log(model.name, model.release_date, model.description);
}models array required
每个模型或别名一个条目。
请参阅完整的 Python 和 JavaScript SDK 参考文档以获取完整的方法签名。