Token ve Maliyet Hesaplayıcı

Ne işe yarar?

Token, modelin okuduğu metin parçasıdır: İngilizcede çoğu zaman kısa bir kelimenin tamamı, Türkçede bir kelimenin bir parçası, kodda bir sembol veya birkaç karakter. Bağlam pencereleri, hız limitleri ve fiyatlar token ile sayılır; bu yüzden aynı sayfa bazı dillerde daha pahalıya gelir.

Tahmin nasıl yapılır

Her modelin kendi tokenizer’ı vardır ve bu sayfa onları içermez. Karakter ve kelimeleri sayar, metin türüne göre bir oran uygular: İngilizcede token başına yaklaşık 4 karakter, Türkçe, kod ve JSON’da daha az. Gerçek sayının yaklaşık yüzde 15 içinde çıkmasını bekleyin. Kesin sayı için sağlayıcının token sayma uç noktasını kullanın.

Sonucu okumak

Çubuk, beklenen cevabı prompt’a ekler; çünkü cevap da aynı pencereye sığmak zorundadır. Pay bırakın: system prompt, araç tanımları ve sohbetteki önceki mesajlar da pencereyi kullanır. Çıktı token’ları genellikle girdi token’larından birkaç kat pahalıdır.