OpenAI公开按API密钥追踪支出与设置额度上限功能

OpenAI通过官方X账号宣布,已在面向API开发者的Usage·Spend仪表盘中新增了按API密钥单位筛选的功能。此前用户只能一眼查看整个组织或项目的总支出,而现在可以取消"All API keys"筛选条件,单独选取某一个密钥来查看其使用量和支出走势。从同时公开的示例界面来看,8月1日至20日期间总支出5230美元中,production-api密钥占3657美元,search-indexer密钥占1018美元,staging密钥占555美元。这意味着即便在同一个组织内部,生产服务器所用密钥与测试用密钥之间的费用差距也可能达到如此悬殊的程度。

API是程序之间相互调用的接口。以OpenAI的API为例,当一家公司同时运营聊天机器人、搜索索引器、内部测试服务器等多个应用时,通常会为每个应用单独申请API密钥。问题在于,如果将这些密钥都绑定在同一个组织账户下,账单上只会显示总金额,开发者必须自行翻查日志才能得知具体是哪个应用花了多少钱。随着服务规模扩大,这项追踪工作也会变得越发繁琐。事实上,今年8月初AWS也曾公开一套架构,通过CloudWatch自动收集在Amazon Bedrock上运行的OpenAI Codex使用数据,并按团队、部门、成本中心单位进行展示。此次OpenAI推出的功能也可以看作是针对同一问题——组织难以自行掌握谁在花多少钱——所采取的应对措施。

通过此次更新,开发者可以在仪表盘中选择特定API密钥查看每日支出走势,从而迅速找出费用超出预期的应用或工作负载。此外,还可以按组织或单个项目提前设定月度支出上限,并支持在达到上限时直接拦截流量的硬性限额功能。对于多个团队共用一个OpenAI账户的组织而言,可以为各团队分别发放独立密钥,再借助这一仪表盘提前防止预算超支。