一百万个令牌的字数比你想象的要少:我们测算过

只要有人一提到“第二大脑”,反对的声音就会如期而至。当前的语言模型可以处理一百万个令牌,有些甚至更多。既然可以直接把整堆笔记交给人工智能,那为什么还要费心对笔记进行分类、标记和链接呢?
答案归结于一个几乎无人核查的数字。令牌是模型将文本分割成的片段,也是计费的单位。一百万个令牌能容纳多少文本,取决于语言以及进行分割的方法——即令牌化器。因此,我们进行了实测,而不是凭空猜测。
统计方法
我们选取了两篇内容完全相同的文本:我们杂志某篇文章的德语版和英语版。德语版有1,134个单词,英语版有1,276个单词。这两组统计数据仅包含正文和副标题,不包括图片说明或参考文献列表。 两个空格之间的内容均计为一个单词。 我们使用 js-tiktoken 库(版本 1.0.20)对两个版本分别进行了处理:一次采用 OpenAI 当前模型使用的 o200k_base 编码,另一次采用 GPT-4 和 GPT-3.5 使用的旧版编码 cl100k_base。
广为引用的经验法则是:100万个令牌相当于75万个单词。对于英语而言,这一估算过于保守;对于德语而言,则明显过于宽松。两种编码方式的对比更能说明问题。 同一段德语文本,一种编码方式下为1,747个令牌,另一种则为2,088个令牌。仅因拆分方法不同,就产生了20%的差距。而英语文本几乎没有变化,每词令牌数分别为1.200和1.202。 分词器的进步几乎完全体现在英语以外的语言上。
对于 Claude 和 Gemini,无法进行相同的测试,因为 Anthropic 和 Google 并未公开其分词器。 不过,Anthropic在其定价文档中确实指出,Claude 4.7及更新版本采用了不同的方法,处理相同文本时生成的令牌数量比前代模型多出约30%。因此,下文中的数据仅为数量级参考,并非精确数值。
这对实际文本集合意味着什么
我们对一个多年来不断扩大的数据集进行了测量:约470条笔记,推算总词数在35万至40万之间。该数据集勉强能装入一个上下文窗口,且仍在持续增长。
但每次提问都会重新填充上下文窗口并再次产生费用。模型没有记忆功能,每次都会从头开始读取。 使用GPT-5.6 Sol时,100 万个输入令牌的费用为 5 美元,而单次请求超过 27.2 万令牌则需 10 美元。40 万个德语单词约等于 61.6 万个令牌,这属于高价档位,因此费用为 6.16 美元。 这还是按单个问题计算的。一个下午问十个问题,总费用约为60美元。而在我们的系统对比中,最昂贵的订阅服务Notion Business,其费用为每位用户每月19.50欧元。
这里有两个需要注意的地方。此计算仅涵盖 API——即开发者用于直接调用模型的接口——而不包括消费者订阅服务。ChatGPT Plus 或 Claude Pro 的用户并非按令牌付费,但最终会达到使用上限。此外还有缓存机制。 对于缓存命中,OpenAI和Anthropic仅收取输入价格的十分之一,这意味着6.16美元将降至62美分。不过,根据具体设置不同,缓存的有效期仅为5分钟到1小时不等。
» Notebookcheck多媒体笔记本电脑Top 10排名
» Notebookcheck游戏笔记本电脑Top 10排名
» Notebookcheck低价办公/商务笔记本电脑Top 10排名
» Notebookcheck高端办公/商务笔记本电脑Top 10排名
» Notebookcheck工作站笔记本电脑Top 10排名
» Notebookcheck亚笔记本电脑Top 10排名
» Notebookcheck超级本产品Top 10排名
» Notebookcheck变形本产品Top 10排名
» Notebookcheck平板电脑Top 10排名
» Notebookcheck智能手机Top 10排名
» Notebookcheck评测过最出色的笔记本电脑屏幕
» Notebookcheck售价500欧元以下笔记本电脑Top 10排名
» Notebookcheck售价300欧元以下笔记本电脑Top 10排名
为何排序依然值得
关键不在于笔记系统比人工智能更便宜,而在于它能直接缩小需要纳入上下文的文本量。一个靠谱的全文搜索,或者一个基于语义而非关键词进行检索的语义索引,能为模型提供十条相关笔记,而不是四百条。
这将616,000个令牌缩减至约9,000个,6.16美元的成本降至5美分。就令牌数量而言,比例为67:1;就价格而言,比例为123:1,因为这一小型请求未超过昂贵的272,000令牌阈值。 除此之外,还有一种价格表上未体现的效果:读取十条相关笔记的模型,其回答的准确性要高于那个硬着头皮处理四百条笔记的模型。
真正的限制很少在于上下文窗口
如果你不通过 API 进行操作,无论如何都会更早地撞上另一堵墙。在 ChatGPT 中,每个项目的文件数量取决于套餐:免费套餐为 5 个,Go 和 Plus 套餐为 25 个,Pro、Business 以及教育套餐为 40 个。 Gemini Notebook在免费的标准套餐中允许每个笔记本包含50个来源,Plus套餐为100个,Pro套餐为300个。单个来源最多可包含50万个单词。
最引人注目的是这些数字的矛盾之处。OpenAI 在其项目帮助页面中列出了 Plus 计划支持 25 个文件,但在文件上传帮助部分却显示为 20 个,而这两个页面都是在同一周内最后更新的。如果你打算依赖这一功能,请务必核对自己账户中的具体数量,而不是盲目相信文档说明。
这使得问题发生了转变。决定一个集合能否被查询的并非100万个令牌的限制,而是该工具是否会将其纳入处理范围。而这正是你自己的笔记系统大显身手之处,因为它不负责筛选输入内容,只负责控制输出结果。
反对这一整套思路的理由
“第二大脑”依然需要投入精力,而且在开始使用前,有必要了解这些程序的一些特殊之处。Obsidian 和 Joplin 虽然也能在手机上运行,但它们不会在后台同步。Obsidian 在其同步常见问题解答中对此给出了明确的否定回答:文件仅在程序运行时才会同步。 在电脑上你几乎不会察觉,因为应用通常处于打开状态。但若在外出时输入笔记、滑动关闭应用,该笔记将无法同步到电脑,直到你再次在手机上打开应用为止。这一点同样适用于 Obsidian Sync——其付费的官方同步服务。 如果你将文件夹保存在 iCloud 中,或者改用 Syncthing 进行同步,该服务会自动为你完成同步工作。Notion 的免费套餐中,单个文件大小上限为 5 MB。而对于 Gemini Notebook,Google 则不提供任何恢复途径。一旦删除笔记本,其中的源文件也将一并消失。 只有 Gemini 对话会重新回到聊天列表中。
因此,最好的建议是先收集两周的笔记,然后再做决定。如果你最终只有三十条笔记,那你不需要什么系统,只需要一个文件夹。如果你最终有三百条笔记,那么在搜索时,你就会自己发现缺少了什么。



