Que sont les tokens en IA et LLM ?

Les tokens sont les unités de base utilisées par les grands modèles de langage (LLM) pour traiter le texte. Un token correspond à environ 4 caractères anglais. L'entrée et la sortie sont facturées par token.

Comment fonctionne le comptage de tokens ?

Les différents modèles utilisent des tokenizers différents. GPT-4o utilise l'encodage o200k_base tandis que GPT-4 utilise cl100k_base. Le même texte peut produire un nombre de tokens différent selon l'encodage.

Pourquoi le nombre de tokens est-il important pour les coûts API ?

Les API LLM facturent par token, généralement au prix par million de tokens. L'entrée et la sortie ont des tarifs différents, la sortie étant plus chère. Comprendre l'utilisation des tokens aide à optimiser les prompts et maîtriser les coûts.

Token Counter

Estimer tokens et coût

Token Counter

Encoding:

TEXT A

TEXT B

STATS & COST

Enter text to see token stats & visualization

À propos des Tokens IA

Les tokens sont les unités fondamentales utilisées par les LLM. Un token correspond à environ 4 caractères anglais. GPT-4o utilise o200k_base et GPT-4 utilise cl100k_base, produisant des comptages différents pour le même texte.

Les coûts API sont calculés par token — généralement par million, les tokens de sortie coûtant plus cher. Compter les tokens à l'avance optimise les prompts et prédit les coûts pour ChatGPT, Claude et Gemini.

Ready

o200k_base

Associés:String Inspector