Monitorização de modelos de IA, pensada para APIs de LLM.
Um simples 200 OK não significa nada para um LLM. O canário mede o tempo real até ao primeiro token e valida o conteúdo e o formato da resposta, não só o estado HTTP.
Um estado binário não chega para um LLM.
A maioria dos incidentes de LLM continua a devolver 200: um token que nunca chega, conteúdo incorreto ou JSON malformado. É o estado que a monitorização clássica não vê.
Um canário, não um palpite.
Três verificações, custo quase nulo.
Meça o primeiro token, não o primeiro byte.
Onde a maioria das verificações para o relógio, e onde está realmente o problema.
Os cabeçalhos HTTP chegam muito antes do primeiro token. Uma verificação que para o relógio nos cabeçalhos esconde precisamente o abrandamento que devia detetar.
Três canários por modelo.
Calibrados por modelo, nunca um limiar global.
15 fornecedores, três formatos de stream.
Nos bastidores, três parsers de stream cobrem todo o mercado, incluindo modelos de alojamento próprio.
O seu fornecedor não aparece? Se fala um destes três formatos, já funciona.
A partir do Max: 5 modelos de IA no Max, 20 no Enterprise. Free e Pro cobrem os restantes tipos de monitor.
O seu primeiro monitor em menos de um minuto.
Plano gratuito, sem cartão. Alojado e operado na Europa.