Libris Translate 0.28.0 · Guide utilisateur

Catégorie : Gérer Libris Translate

Statistiques et historique des requêtes

Voyez ce qu’ont fait les modèles, ce que cela a coûté, et quelle confiance accorder aux estimations.

Parcours

  1. Ouvrez l’onglet Observabilité du livre. « Requêtes au modèle » liste chaque appel : heure, opération, modèle, état, durée, tokens d’entrée et de sortie, débit, essai et cache. Cliquez sur un appel pour le « Détail de la requête ».
  2. Pendant un travail, « Estimations du travail actif » donne le temps et le coût restants estimés, avec une « Confiance de l’estimation » qui grandit à mesure que des requêtes réussies sont mesurées.
  3. « Tokens d’entrée perdus » indique la part de l’entrée perdue en réponses invalides ou en erreurs, ce qui explique souvent pourquoi le coût réel dépasse la première estimation.
  4. Les administrateurs ouvrent Statistiques dans la barre latérale pour l’utilisation « Par modèle » de toute l’installation et les « Échecs par cause », groupés par provider.

À savoir

Les coûts sont des coûts tarifaires calculés d’après les prix saisis, pas la facture du provider. Les tokens qu’un provider ne déclare pas sont enregistrés à zéro. Par défaut, le texte des requêtes et des réponses est conservé 30 jours, tandis que les chiffres d’utilisation restent. Statistiques et Paramètres sont réservés aux administrateurs.

Exemple fictif

Dans un livre fictif, comparez une requête réussie à une requête réessayée pour voir où sont passés les tokens d’entrée supplémentaires.

Continuer