【Azure OpenAI Service】API実行時の使用トークン数の取得方法

Azure OpenAI ServiceでAPIを実行した際に消費したトークン数を取得するコードを記載します。

import openai

def completion(system_prompt, user_prompt):
    response = openai.ChatCompletion.create(
        model="gpt-4",
        messages=[
            {"role": "system", "content": system_prompt},
            {"role": "user", "content": user_prompt},
        ]
    )
    # 応答内容の出力（確認用）
    print(response)

    # 属性アクセスを使用して消費トークン数を取得
    print(response.usage.total_tokens)
    print(response.usage.prompt_tokens)
    print(response.usage.completion_tokens)

• total_tokens
  prompt_tokensとcompletion_tokensの合計
• prompt_tokens
  プロンプト（入力）のトークン数
• completion_tokens
  Completion（出力）のトークン数

APIの費用は使用トークン数で決まりますが、入力と出力で料金が異なるため、費用見積等で使用する場合は、両方取得が必要です。