TOOLS / LOCAL TOKENIZER

Token 计算器:本地分词计数

真实 BPE 分词,在你的浏览器本地运行。输入文本不会发送给 AI 或本站接口。

0 / 20,000 长度上限(UTF-16)

计算范围

结果是所选编码对纯文本的分词数量。编码需依据目标模型的官方资料选择,本工具不猜测你正在使用的模型。类似特殊标记的字符串按普通文本处理。

聊天角色、工具定义、图片、音频及服务端封装可能额外消耗 Token,因此这里的数量不等于接口账单或模型完整上下文占用。单次最多输入 20,000 个 UTF-16 单元,超出请分段。

使用 gpt-tokenizer 4.0.3(MIT),按需加载分词表到本地 Worker。首次需联网加载本站静态文件;工具不持久保存文本。

参考来源

依据以下资料核对,查证日期 2026-10-16。外部资料在新标签页打开;界面与功能可能随版本变化。