La surveillance de modèles d'IA, conçue pour les API de LLM.
Un simple 200 OK ne dit rien d'un LLM. Le canari mesure le vrai temps jusqu'au premier token et valide le contenu et le format de la réponse, pas seulement le statut HTTP.
Un état binaire ne suffit pas pour un LLM.
La plupart des incidents LLM renvoient quand même 200 : un token qui n'arrive jamais, un contenu faux ou un JSON mal formé. C'est l'état que la surveillance uptime classique ne voit pas.
Un canari, pas une supposition.
Trois vérifications, un coût quasi nul.
Chronométrez le premier token, pas le premier octet.
Là où la plupart des vérifications arrêtent le chrono, et là où se trouve vraiment le problème.
Les en-têtes HTTP arrivent bien avant le premier token. Une vérification qui arrête le chrono aux en-têtes masque exactement le ralentissement qu'elle devait repérer.
Trois canaris par modèle.
Calibrés par modèle, jamais un seuil global.
15 fournisseurs, trois formats de flux.
Sous le capot, trois analyseurs de flux couvrent tout le marché, modèles auto-hébergés compris.
Votre fournisseur n'est pas listé ? S'il parle l'un de ces trois formats, il fonctionne déjà.
À partir de Max : 5 modèles d'IA en Max, 20 en Enterprise. Free et Pro couvrent les autres types de monitors.
Votre premier monitor en moins d'une minute.
Plan gratuit, sans carte. Hébergé et opéré en Europe.