[openAI API] 토큰 사용량

 

openAI API 토큰 사용량은 어떻게 계산 될까?

 

OpenAI API의 비용(Billing)은 질문(쿼리)의 개수가 아닌 토큰(token) 사용량에 따라 측정된다. 토큰은 텍스트의 단위이며, 단어 또는 글자의 일부를 의미한다.

사용자가 입력한 텍스트(질문)와 모델이 생성한 응답의 토큰 수를 모두 합산하여 비용이 계산되는데, 구체적으로 살펴보면 다음과 같다.

 

토큰 사용량 계산 방식

• 입력 토큰 + 출력 토큰 = 총 사용 토큰
  • 예를 들어, 사용자가 10개의 토큰을 입력하고, 모델이 50개의 토큰으로 응답한다면, 총 사용 토큰 수는 60개가 된다.

토큰이란?

• 하나의 토큰은 보통 한 단어의 일부, 또는 한 문장 부호가 될 수 있다.
• 예를 들어, "OpenAI API는 비용이 어떻게 측정되나요?"는 10개 이상의 토큰이 될 수 있다.

모델에 따른 요금

모델마다 토큰당 요금이 다릅니다. 예를 들어, GPT-4 모델은 GPT-3 모델보다 비싼 요금이 부과된다. 또한, 특정 모델은 콘텍스트 길이(한 번에 사용할 수 있는 최대 토큰 수)에 따라 요금이 추가로 발생할 수 있다.

따라서, 질문 개수보다는 질문과 응답의 내용 길이에 따라 비용이 달라진다. 요금을 최소화하려면 질문과 응답을 간결하게 작성하는 것이 좋다!