起底 ChatGPT API 计费逻辑,2 步教你实时测算对话成本

chatGpt在线2024-07-06 05:39:53185


当你正在调用 ChatGPT API 时,有没有想过它是如何进行计费的?通过官网查询得知,API 的计费策略采用按使用量付费,用多少扣多少。




但是问题来了,API 服务里的这个 “按量计费” 的 “量” 应该怎么算?


也许你会说,那还不简单,直接看它回答了多少字数呗!这话只对了一半。因为 ChatGPT 不仅会讲中文,它还可以根据使用者所发送的语言,回答出英语、法语、西语等多国语言,相同意思下每个语言的长度都会不一样,所以它会将这些内容统一换算为另一个标准单位——Tokens,然后再进行计费。


ChatGPT 不仅统计自己输出了多少内容,还会记录用户输入了多少内容,毕竟它也需要先分析输入的文本才能输出有意义的回答,统一换算为 Tokens 值后汇总费用。以下是 ChatGPT API 的官方收费表,里面的 4K、8K 等数据代表单次问答中的最大上下文 Tokens 值。


ChatGPT API 价格表



如果你已经通过 ChatGPT  API 成功地将 AI 能力嵌入至商业化产品中,比如说打造出了一个对客提供服务的智能客服,那么作为开发人员的你需要立刻、马上、清楚地知道每个客户的问答所产生的消耗额。因为公(Ling)司(Dao)需要知道最基础的成本才能制定出合理的运营策略。


总不能依靠实时监控 OpenAI 的账号后台来查看所消耗的成本吧?(更何况它还有五分钟的延迟)




那怎样才能在使用 Apifox 调用 API 的过程中就直接看到输入和输出的人民币成本呢?通过以下 2 步就能够清楚地看到人民币花费:


  1. 计算输入/输出 Tokens 值

  2. 基于实时汇率换算人民币成本





1

计算输入 / 输出 Tokens 


创建换算脚本


将内容准确换算为 Tokens 需要引用第三方 Token 换算库。下面将以 OpenAI GPT Token Counter 库(https://www.npmjs.com/package/openai-gpt-token-counter)为例,使得能够在调试接口的过程中将输入/输出数据换算为 Tokens 数。


安装第三方库的运行环境。

npm install openai-gpt-token-counter


参考以下示例代码,新建名为 gpt-tokens-counter.js 的 Node.js 脚本:

const openaiTokenCounter = require('openai-gpt-token-counter');
const text = process.argv[2]; // 获取命令行参数中的测试内容const model = "gpt-4"; // 替换为你想要使用的 OpenAI 模型
const tokenCount = openaiTokenCounter.text(text, model);const characterCount = text.length; // 计算字符数
console.log(`${tokenCount}`);


将该脚本文件放置于 Apifox 的外部程序目录下以供调用:





换算 Tokens 输入值


输入值就是在询问 ChatGPT 时所填写的问题。你可以在 “聊天消息” API 文档的前置操作中添加一个自定义脚本,使得 Apifox 能够调用上文中写好的 Tokens 换算脚本,提取位于请求参数 Body 中的 content 参数后换算为 Tokens 值。




填写以下示例代码:

try {  var jsonData = JSON.parse(pm.request.body.raw);  var content = jsonData.messages[0].content; // 获取 content 中的信息  var result_input_tokens_js = pm.execute('./gpt-tokens/gpt-tokens-counter.js',[content])  console.log(content);  pm.environment.set("RESULT_INPUT_TOKENS", result_input_tokens_js);  console.log("Input Tokens count: " + pm.environment.get("RESULT_INPUT_TOKENS"));} catch (e) {    console.log(e);}


点击 “运行” 按钮后可以在控制台中看到已统计的输入值。





换算 Tokens 输出值


接下来需要计算 ChatGPT 输出了多少个 Tokens。


ChatGPT 采用 SSE(Server-Sent Events,服务器推送事件)输出回答,好处在于可以实时显示问题的答案,当用户看到 GPT 正在说话也就更有耐心的等下去。这种方式不像普通的 API 是单次的请求和返回,而是建立连接后输出一个连续的时间线。


因此我们需要先拼接所有的输出内容,然后再进行 Tokens 换算。




后置操作中添加以下自定义脚本,拼接所有输出内容并换算 Tokens:

// 获取响应的文本内容const text = pm.response.text()// 将文本内容分割成行数var lines = text.split('\n');// 创建一个空数组存储 "content" 参数var contents = [];// 遍历每一行for (var i = 0; i < lines.length; i++) {    const line = lines[i];    // 跳过不以 "data:" 开头的行    if (!line.startsWith('data:')) {        continue;    }    // 尝试解析 JSON 数据    try {        var data = JSON.parse(line.substring(5).trim());  // 移除前面的 "data: "        // 从 "choices" 数组中获取 "content" 参数并将其添加到数组中        contents.push(data.choices[0].delta.content);    } catch (e) {        // 如果当前行不是有效的 JSON 数据,则忽略该行    }}// 使用 join() 方法将 "content" 参数合并起来var result = contents.join('');// 在 "Visualize" 选项卡中显示结果pm.visualizer.set(result);// 将结果打印到控制台console.log(result);
// 计算输出令牌的数量var RESULT_OUTPUT_TOKENS = pm.execute('./gpt-tokens/gpt-tokens-counter.js', [result])pm.environment.set("RESULT_OUTPUT_TOKENS", RESULT_OUTPUT_TOKENS);
console.log("Output Tokens count: " + pm.environment.get("RESULT_OUTPUT_TOKENS"));


点击  “运行” 按钮后可以在控制台中看到已统计的输出值。






2

基于实时汇率换算人民币成本


得到输入和输出所耗费的 Tokens 值后,因为 ChatGPT 采用美元计价,因此还需要调用实时汇率 API 后才能预估所消耗的人民币成本。


本文将调用 Currencylayer API 获取实时汇率。



计算输入成本


得到输入 Tokens 值后,还需请求实时汇率接口得到一个人民币换算乘数。在前置操作中新增以下脚本:

// 发送请求以获取 USD 到 CNY 的汇率pm.sendRequest("http://apilayer.net/api/live?access_key=YOUR-API-KEY¤cies=CNY&source=USD&format=1", (err, res) => {  if (err) {    console.log(err);  } else {    // 从响应结果中提取 USDCNY 汇率值并保留小数点后三位    const quotes = res.json().quotes;    const rate = parseFloat(quotes.USDCNY).toFixed(3);    // 将 USDCNY 汇率存储在 Postman 环境变量中    pm.environment.set("USDCNY_RATE", rate);     var USDCNY_RATE = pm.environment.get("USDCNY_RATE");    // 从先前的脚本中检索 RESULT_INPUT_TOKENS 环境变量    var RESULT_INPUT_TOKENS = pm.environment.get("RESULT_INPUT_TOKENS");
   // 计算令牌汇率值    const tokensExchangeRate = 0.03; // 1000 个令牌的价格,以 GPT-4-8k 上下文输入定价为参考,以美元为单位。
    // 计算按人民币计算的估计价格    const CNYPrice = ((RESULT_INPUT_TOKENS / 1000) * tokensExchangeRate * USDCNY_RATE).toFixed(2);
   // 将估计价格存储在 Postman 环境变量中    pm.environment.set("INPUT_PRICE", CNYPrice);
   // 输出估计费用    console.log("Estimated cost: " + "¥" + CNYPrice);  }});


点击 “运行” 按钮后可以在控制台中看到预估的人民币成本。





计算输出成本


换算出输出所耗费的 Tokens 值后,与汇率相乘得到实际人民币成本。在后置操作中添加以下脚本:

// 向 http://apilayer.net 发送请求,获取 USD:CNY 汇率信息pm.sendRequest("http://apilayer.net/api/live?access_key=YOUR-API-KEY¤cies=CNY&source=USD&format=1", (err, res) => {  if (err) {    console.log(err);  } else {    const quotes = res.json().quotes;    // 获取 USD:CNY 汇率    const rate = parseFloat(quotes.USDCNY).toFixed(3);    // 将汇率信息存入环境变量 USDCNY_RATE 中    pm.environment.set("USDCNY_RATE", rate);     // 从环境变量中获取 USDCNY_RATE 的值    var USDCNY_RATE = pm.environment.get("USDCNY_RATE");    // 从之前的 Postman 脚本中获取 RESULT_OUTPUT_TOKENS 的值    var RESULT_OUTPUT_TOKENS = pm.environment.get("RESULT_OUTPUT_TOKENS");
   // 计算 tokens 的汇率    const tokensExchangeRate = 0.06; // 基于 GPT-4-8k 上下文输入定价的每 1000 个 token 的价格
   // 计算 CNY 中的预估售价    const CNYPrice = ((RESULT_OUTPUT_TOKENS / 1000) * tokensExchangeRate * USDCNY_RATE).toFixed(2);    // 将价格信息存入输出变量 OUTPUT_PRICE 中    pm.environment.set("OUTPUT_PRICE", CNYPrice);    // 输出 CNY 的售价信息    console.log("Output cost (CNY): " + "¥" + CNYPrice);  }});


点击 “运行” 按钮后可以在控制台中看到输出值的预估人民币花费。





预估总成本


最后还可以在后置操作中添加一个可以自动计算输入+输出总成本的步骤。

// 输入输出成本加总const INPUTPrice = Number(pm.environment.get("INPUT_PRICE"));
const OUTPUTPrice = Number(pm.environment.get("OUTPUT_PRICE"));
console.log("总成本:" + (INPUTPrice + OUTPUTPrice) + "元");


这样就能够在调试 ChatGPT API 的过程中预估出大致的输入输出总成本。






现在你不仅可以在 Apifox 中愉快地调用 ChatGPT API,还能够清楚掌握你的调用成本,做到心中有数。


Apifox 是更先进的 API 设计/开发/测试工具。

Apifox = Postman + Swagger + Mock + JMeter

一个工具解决 API 开发、调试、管理的一切问题。




如果对 ChatGPT 感兴趣,可以查看往期文章《不懂代码也能调用 ChatGPT API,只需要三步》。


更多 Apifox 的相关内容可以点击「阅读原文」 前往 Apifox 官网了解~




本文链接:https://joeyce.com/chatgpt/185.html

相关文章

  • chatgpt对话如何预设答案

    chatgpt对话如何预设答案

    如何在使用ChatGPT对话时预设答案?开篇提问:你是否曾经在使用ChatGPT时遇到需要反复回答相同问题的情况?或者你是否想要为你的聊天机器人预设一些标准答案,以提高效率和一致性?如果你对如何在Ch...

  • 如何使用ChatGPT获取临时号码?

    如何使用ChatGPT获取临时号码?

    大家好,今天我们来聊聊一个非常实用的话题——如何在ChatGPT中获取临时号码,在日常生活中,我们经常会遇到需要临时号码的场景,比如注册账号、接收验证码等,我们又不想用自己的真实电话号码,这时候临时号...

  • ChatGPT在哪里找?一篇小白也能看懂的教程

    ChatGPT在哪里找?一篇小白也能看懂的教程

    亲爱的读者们,你是否曾经在互联网的海洋中迷失,寻找那个能与你智能对话的AI助手——ChatGPT?如果你正面临这样的困惑,那么这篇文章正是为你准备的,让我们一起探索如何找到ChatGPT,并了解它的强...

  • chatgpt扫码关注

    chatgpt扫码关注

    什么是ChatGPT扫码关注?如何使用它?亲爱的用户们,你们是否曾经听说过ChatGPT扫码关注?如果你对这个概念感到陌生,那么这篇文章就是为你准备的,在这篇文章中,我们将带你了解什么是ChatGPT...

  • 如何利用ChatGPT进行智能学习?

    如何利用ChatGPT进行智能学习?

    你是否有想过,人工智能如何能够成为你学习过程中的得力助手?ChatGPT,这个由人工智能技术驱动的聊天机器人,不仅能够进行日常对话,还能在学习和研究中为你提供宝贵的帮助,ChatGPT是如何进行智能学...