Approfondissement · module 80 de 100
Gérer les coûts et les jetons
Comprends comment les jetons et les coûts sont liés et comment les limiter.
Après cette leçon
Tu peux citer des moyens simples pour limiter l'utilisation des jetons et les coûts.
En image · Côte à côte
Moins de jetons tout en conservant l'utilité
N'envoie que le matériel nécessaire à la question.
Demande une longueur appropriée et un format utilisable.
Mesure ensemble les coûts, le temps d'attente et la qualité.
Partie 1 de 3 · Entrée pertinente
Ta préférence pour moins de mouvement est prise en compte. Choisis chaque partie toi-même.
Jetons = coûts
Plus de jetons signifie généralement des coûts plus élevés ou un temps d'attente plus long.
Limite l'entrée
N'envoie que le texte pertinent. Tu peux d'abord résumer les documents longs.
Limite la sortie
Demande des réponses courtes si tu n'as pas besoin d'un long texte.
Nouvel exemple d'exercice
De l'explication à un résultat utilisable.
Les coûts IA dépendent de l'entrée, de la sortie, des répétitions et de la manière dont le fournisseur calcule.
Situation d'exercice fictiveTâche de calcul fictive : l'entrée coûte 2 unités de calcul par mille jetons, la sortie 6. Une tâche utilise 1500 jetons d'entrée et 500 jetons de sortie, avec en moyenne deux tentatives.
Voir une résolution possible
Voici comment faire
Par tentative : 1,5 × 2 + 0,5 Ó × 6 = 6 unités de calcul. Deux tentatives coûtent 12. Compte la préparation et le contrôle séparément comme temps de travail ; ces chiffres d'exercice ne sont pas les tarifs d'un fournisseur.
Pourquoi cela fonctionne
Ne compter que le premier appel au modèle sous-estime le travail de répétition. Précise clairement quelle unité tu compares.
Rends cela un peu plus difficile
Divise par deux la longueur de la sortie et augmente le nombre de tentatives à trois. Calcule si les coûts totaux du modèle diminuent ou augmentent dans cet essai fictif.
Entraîne-toi davantage, à ton rythme. Tu n'as rien à envoyer. Cela ne compte pas comme une évaluation automatique.
Ton lieu de travail · apprendre par la pratique
Crée quelque chose. Regarde ce qui change.
Vérification de la connexion IA en cours… Tu peux déjà consulter l'exemple écrit.
Présente ta mission à Ende.
Lis la réponse, change une seule chose et compare.
Version précédente
Nouvelle version
Tu gardes le contrôle
Que veux-tu améliorer dans ta prochaine tentative ?
Uniquement sur cet appareil. Les réponses de l’IA restent uniquement dans la mémoire de cette page. Il s'agit d'un auto-contrôle, pas d'une note.
Pourquoi cette approche fonctionne
Ne compter que le premier appel au modèle sous-estime le travail de répétition. Précise clairement quelle unité tu compares.
Une étape de plus
Divise par deux la longueur de la sortie et augmente le nombre de tentatives à trois. Calcule si les coûts totaux du modèle diminuent ou augmentent dans cet essai fictif.
Essaie & découvre · sans engagement
Remplis la fenêtre de contexte
Rends ton entrée plus longue. Réserve ensuite plus d'espace pour la réponse. Où se situe la limite ?
Bleu : entréeVert : espace de réponseGris : espace libre
L'entrée spécifiée et la sortie réservée tiennent dans cette fenêtre.
Modèle d'entraînement, pas de tokenizer ou de limite de produit réelle. L'entrée comprend également les instructions et l'historique. Tarif fictif : € 0,002 par 1.000 jetons d'entrée et € 0,006 par 1.000 jetons de sortie. Les tarifs et règles de calcul réels diffèrent.
Cet essai fonctionne localement avec des données fictives et ne compte pas pour ta complétion de leçon. Elle recommencera lors d'une nouvelle leçon ou d'un rechargement.
Un prompt pour commencer
Donne trois conseils pratiques pour limiter l'utilisation des jetons lors du travail avec des documents longs.
Applique-le
Chaque requête API contient une archive complète, alors que la tâche n'a besoin que d'une seule courte section.
Quelle approche correspond le mieux à cette situation ?
- Supprime tout le contexte sans prêter attention à la qualité.
- Compte uniquement les jetons de sortie et ignore l'entrée transmise.
- Envoie uniquement le contexte pertinent et mesure l'entrée, la sortie et la qualité.
Avec JavaScript, tu peux contrôler ton approche et recevoir un feedback immédiat.
Teste ta compréhension
Quelle est une manière efficace de limiter les coûts ?
- Toujours utiliser le prompt le plus long.
- N'envoyer que les informations pertinentes et demander des réponses concises.
- Ne jamais faire attention aux jetons.
S'entraîner davantage
Note deux manières dont tu peux limiter l'utilisation des jetons dans ton travail quotidien.
1. N'envoyer que la section pertinente. 2. Demander une réponse de maximum 100 mots.
