AI 产品网页版与 API 的差异
type
status
date
slug
summary
tags
category
icon
password
前言
一直不太了解大模型的网页版和 API 的使用差异。比如：
- 128k 是什么意思？
- 网页版似乎只有 4o、4o mini，为什么 API 会提供很多种呢？
API 定价标准结构
常用字典
字段 | 说明 |
模型 | 指通过该 API 调动模型的名称，例如：gpt-4o-mini-2024-07-18 |
价格 | 1. 一般以美元计价
2. 计价区分输入与输出
3. 单位为 $/1M tokens |
上下文长度 | 以 4o-mini 举例，它的上下文长度是 128k，意味着输入文本和模型生成的输出文本加在一起不能超过这个限制。
注意：它的单位是 tokens |
tokens | 1. 它是用于表示文本的基本单位
2. 一个token可能是一个单词的一部分、一个完整的单词或标点符号。 |
常见问题
1. 什么是提示，什么是补全？
- 提示，指 Prompt，可以理解为用户输入的指令
- 补全，指 Completion，可以理解为对提示的响应
- 可以是一个回答
- 可以是对文本的补充
- 可以是对代码的返回
- …
2. API 能支持文档，例如 PDF 的处理嘛？
- 对于文档类型（例如 PDF、Word 等格式的文档文件），处理他们需要的是多模态能力
- 某些格式的文件需要额外的预处理或者后处理
参考
Loading...