输出Token
Output Token
衡量AI在回答问题时实际生成的文字片段数量的单位
简单来说
输出token是用来计算AI生成答案时输出的每一个小文字片段的单位。AI并不是一次性写出整句话,而是像拼乐高积木一样,按顺序一块一块地生成小片段,这每一块就是一个token,其中由AI自己吐出来的那部分就叫输出token。相反,用来计算人输入的问题或附加资料的那部分,叫做输入token。
用餐厅来比喻更容易理解。如果顾客填写的点餐单是输入,那么厨房实际做出并端上桌的菜品数量就是输出。AI服务的费用通常也是把输入token和输出token分开计算后收费的,回答写得越长,用掉的输出token就越多,费用也就越高。
输出token用量大,意味着AI不只是简单打个招呼,而是写了一份长报告、生成了一整段代码,或者拿出了多步骤任务的实际成果。因此它也被用作衡量企业让AI承担多少繁重、实质性工作的指标。
在报道中是这样出现的
文章中常见这样的表述:"每位活跃用户产生的输出token量是普通企业的8.3倍"。这里的输出token量并不是指更频繁地使用AI,而是被引用为衡量交给AI的工作有多深入、实际产出多少成果的指标。与常见的误解相反,输出token越多并不代表答案就一定更好——重要的是完成工作的质量,而不是数量。
亲手试一试
- 对同一个聊天机器人问两次同样的问题:一次要求"用一句话回答",一次要求"举例详细说明"。
- 用肉眼比较两次回答的长度差异——答案越长,消耗的输出token也就越多。
- 如果你是直接调用API,可以在响应附带的用量(usage)信息中查到精确的输出token数。