TsgcHTTP_API_Anthropic › Metody › CountTokens
Zlicza tokeny wejściowe, które żądanie zużyłoby przed wysłaniem go do Claude
function CountTokens(const aRequest: TsgcAnthropicClass_Request_CountTokens) : TsgcAnthropicClass_Response_CountTokens;| Nazwa | Typ | Opis |
|---|---|---|
aRequest | const TsgcAnthropicClass_Request_CountTokens | Obiekt żądania z tymi samymi polami Model, System i Messages, które zostałyby wysłane do CreateMessage. |
Odpowiedź zawierająca liczbę InputTokens, które zostałyby użyte przez żądanie (TsgcAnthropicClass_Response_CountTokens)
Wysyła wywołanie POST /v1/messages/count_tokens do Anthropic API w celu obliczenia liczby tokenów wejściowych, które pochłonęłoby dane zapytanie, bez faktycznego generowania odpowiedzi. Jest to przydatne do szacowania kosztów, wstępnej walidacji żądań i utrzymania się w granicach okna kontekstu docelowego modelu. Nagłówek anthropic-version z AnthropicOptions jest dołączany automatycznie. Zwrócony obiekt musi zostać zwolniony przez wywołującego.
oRequest := TsgcAnthropicClass_Request_CountTokens.Create;
oRequest.Model := 'claude-sonnet-4-5';
oRequest.Messages.Add('user', 'How many tokens is this sentence?');
oResponse := oAPI.CountTokens(oRequest);
try ShowMessage(IntToStr(oResponse.InputTokens)); finally oResponse.Free; end;