Exportación de datos de llamadas
Zabio puede enviar un registro de cada llamada de tu organización a tu propia herramienta de observabilidad, para que tus llamadas a modelos estén junto al resto de tu sistema. Los registros viajan mediante OpenTelemetry: un span OTLP por llamada, enviado por HTTPS como protobuf, con los atributos de las convenciones semánticas GenAI de OpenTelemetry. Cualquier herramienta que acepte trazas OTLP por HTTP puede recibirlos.
La exportación está desactivada hasta que la configures. Nunca ralentiza una llamada: los registros se envían en segundo plano, unos segundos después de que termine la llamada.
Configúrala
Section titled “Configúrala”En la aplicación web, abre Ajustes y luego Exportación de datos de llamadas. Los propietarios y administradores pueden configurarla; los miembros no ven la sección.
- Endpoint de trazas OTLP. La dirección completa del endpoint de trazas de tu herramienta, usada tal como la escribes. Suele terminar en
/v1/traces. Debe serhttpspública, sin usuario ni contraseña. - Cabeceras. Hasta 5 cabeceras enviadas con cada petición, por ejemplo la cabecera
Authorizationde tu herramienta. Zabio guarda los valores cifrados con la clave de tu organización y no los vuelve a mostrar. Para cambiar una, elige Reemplazar cabeceras e introduce de nuevo el conjunto completo. - Enviar registros de llamadas. Actívalo y guarda.
La sección muestra entonces cuándo se entregaron los últimos registros y, si una entrega falló, por qué.
Langfuse
Section titled “Langfuse”| Campo | Valor |
|---|---|
| Endpoint | https://cloud.langfuse.com/api/public/otel/v1/traces (UE) o https://us.cloud.langfuse.com/api/public/otel/v1/traces (EE. UU.) |
| Cabecera | Authorization: Basic seguido del base64 de clave pública:clave secreta |
| Cabecera | x-langfuse-ingestion-version: 4 |
Grafana Cloud
Section titled “Grafana Cloud”| Campo | Valor |
|---|---|
| Endpoint | el endpoint OTLP de la tarjeta OpenTelemetry de tu stack, seguido de /v1/traces, por ejemplo https://otlp-gateway-prod-us-east-0.grafana.net/otlp/v1/traces |
| Cabecera | Authorization: el valor que la tarjeta muestra para OTEL_EXPORTER_OTLP_HEADERS, que empieza por Basic |
Datadog
Section titled “Datadog”| Campo | Valor |
|---|---|
| Endpoint | el endpoint de entrada de trazas OTLP de tu sitio de Datadog, tal como lo muestra la página de entrada OTLP de Datadog para tu sitio |
| Cabecera | dd-api-key: tu API key de Datadog |
| Cabecera | dd-otlp-source: llmobs y DD-LLMObs-Enabled: true, para ver las llamadas en LLM Observability |
Qué se envía
Section titled “Qué se envía”Un span por llamada, con el nombre de la operación y el modelo que pediste (por ejemplo chat auto/balanced). Una petición que necesitó más de un intento envía un span por intento, todos en la misma traza.
| Atributo | Significado |
|---|---|
gen_ai.operation.name |
chat, embeddings, speech, transcription, image_generation, image_edit o video_generation |
gen_ai.provider.name |
el proveedor que respondió |
gen_ai.request.model, gen_ai.response.model |
el modelo que pediste y el modelo que respondió |
gen_ai.usage.input_tokens, gen_ai.usage.output_tokens |
tokens de entrada (incluidos los de caché) y de salida |
gen_ai.usage.cache_read.input_tokens, gen_ai.usage.cache_creation.input_tokens |
tokens leídos de la caché de prompts y escritos en ella |
gen_ai.usage.reasoning.output_tokens |
tokens de razonamiento, cuando el proveedor los informa |
gen_ai.response.finish_reasons |
stop, length, tool_call o content_filter |
gen_ai.request.max_tokens |
el límite de salida que pediste, cuando fijaste uno |
gen_ai.request.stream |
verdadero en una llamada en streaming |
gen_ai.response.time_to_first_chunk |
segundos hasta el primer token de una llamada en streaming |
gen_ai.conversation.id, gen_ai.response.id |
la conversación y la respuesta, en la API Responses |
error.type |
el código de error, en una llamada fallida |
zabio.call.id, zabio.key.id, zabio.project.id, zabio.session.id |
los ids de la llamada, su API key, su proyecto y su sesión |
zabio.endpoint, zabio.attempt, zabio.role, zabio.outcome |
el endpoint, el número de intento, qué fue el intento dentro de su petición y cómo terminó |
zabio.routing.line |
la línea que Zabio aplicó en una llamada auto: cheap, balanced o best |
zabio.cost.billed_micros |
lo que te costó la llamada, en millonésimas de dólar estadounidense |
zabio.cost.provider_micros, zabio.cost.service_fee_micros, zabio.cost.call_fee_micros, zabio.cost.share_discount_micros |
las líneas de ese coste, en las llamadas que pagas |
zabio.cost.not_billed |
verdadero en una llamada o un intento que no se te cobró |
zabio.cost.currency |
USD |
zabio.units.kind, zabio.units.count, zabio.units.media_size |
en llamadas de audio, imagen y vídeo: en qué se facturó la llamada (segundos de audio, caracteres, imágenes, segundos de vídeo), cuántos, y el tamaño de una imagen o un vídeo |
zabio.byok, zabio.service_tier, zabio.reasoning.effort |
tu propia key de proveedor, el nivel de servicio y el ajuste de razonamiento |
zabio.firewall.action, zabio.firewall.detections |
qué hizo el firewall de IA en la petición y cuántas detecciones informó |
zabio.firewall.tokens_checked, zabio.firewall.billed_micros |
el cargo del firewall de IA por la petición |
zabio.search.count, zabio.search.engine, zabio.search.billed_micros |
las búsquedas web de la llamada: cuántas contó el proveedor, quién las hizo y cuánto se cobraron. Nunca una consulta ni un resultado |
El span empieza cuando empezó la llamada y termina cuando terminó, así que su duración es la latencia de la llamada. Cada petición indica además el remitente (service.name es zabio), tu organización (zabio.organization.id) y la región (zabio.region).
Prompts y respuestas
Section titled “Prompts y respuestas”Por defecto no se envía ningún prompt ni ninguna respuesta. Para enviarlos, activa Incluir cuerpos. Se aplica solo a las llamadas hechas con una API key que tenga activado el registro de cuerpos (consulta Equipos): se envía el cuerpo que tu organización ya guarda, y nada más. Una llamada sin cuerpo guardado envía solo su registro.
Las llamadas de chat envían gen_ai.system_instructions, gen_ai.input.messages y gen_ai.output.messages en el formato de las convenciones GenAI. Las llamadas de embeddings, voz, transcripción, imagen y vídeo envían el cuerpo guardado tal como está, en zabio.content.request y zabio.content.response: el texto y una descripción de los archivos multimedia (tipo, número, tamaño), nunca los archivos. Las imágenes, el audio y el vídeo nunca se envían, solo una nota de que el mensaje tenía uno. Un cuerpo de más de 256 KB se omite y el span indica por qué en zabio.content.omitted.
Qué no se envía nunca
Section titled “Qué no se envía nunca”- Prompts y respuestas, salvo que los actives como se explica arriba.
- Imágenes, audio, vídeo ni sus direcciones.
- Las puntuaciones internas del firewall de IA.
- Las consultas y los resultados de las búsquedas web.
- Nombres de API keys o de proyectos, emails de miembros, direcciones IP.
- Mensajes de error de los proveedores.
Privacidad
Section titled “Privacidad”Si tu organización configura una exportación de datos de llamadas, Zabio envía un registro de cada llamada (modelo, proveedor, tokens, coste, tiempos, estado, la línea de enrutamiento, la etiqueta y el cargo del firewall, y los ids de la key, el proyecto, la sesión, la conversación y la respuesta; cada campo figura en la página Exportación de datos de llamadas) al destino que tu organización configure. Los prompts y las respuestas solo se envían si activas Incluir cuerpos y la key de la llamada tiene activado el registro de cuerpos. Una vez enviados, esos datos quedan en el destino bajo sus propias condiciones. Consulta Privacidad.
Entrega
Section titled “Entrega”Los registros se envían en lotes, normalmente en los 20 segundos siguientes a la llamada. Si tu endpoint no responde o responde con un error, Zabio conserva los registros y reintenta: a los 5 segundos, 30 segundos, 2 minutos, 5 minutos y después cada 15 minutos. Una key o una dirección incorrecta se puede corregir en Ajustes y los registros en espera se envían en el siguiente intento. Un registro que no se pudo entregar en 6 horas se descarta, y también los más antiguos por encima de 100.000 en espera. Si tu herramienta rechaza un lote como no válido, ese lote se descarta.
Un registro puede llegar dos veces tras un reintento; sus ids de traza y de span son los mismos las dos veces.
Al desactivar la exportación, o al eliminar el destino, se descartan los registros que aún esperan y se borran las cabeceras guardadas.