OpenLIT OpenTelemetry: instrumenta una aplicación LLM sin esfuerzo

OpenLIT OpenTelemetry: SDK Apache 2.0, tres formas de instrumentar una aplicación LLM, atributos gen_ai y ajustes de privacidad que decidir.
OpenLIT OpenTelemetry : instrumenter une application LLM sans effort

Tu aplicación llama a un LLM, la factura sube y nadie sabe qué petición cuesta más. Con OpenLIT OpenTelemetry la respuesta cabe en una traza: cada llamada al modelo pasa a ser un span con su modelo, sus tokens y su coste. El repositorio openlit/openlit usa licencia Apache 2.0 y tenía unas 3 000 estrellas el 11 de noviembre de 2026.

El punto de partida es una decisión de operación: ¿instrumentas a mano o dejas que un SDK lo haga por ti? Y, sobre todo, ¿qué estás dispuesto a guardar en las trazas? Los datos proceden del README del repositorio y de la documentación en docs.openlit.io, consultados el 11 de noviembre de 2026.

Una aclaración de método: span.observer no ha ejecutado estos comandos. Los fragmentos reproducen la documentación y la captura de la traza sale del repositorio del proyecto (Apache 2.0). Si quieres comparar enfoques, mira Langfuse y OpenLLMetry y OpenInference hacia un Collector.

OpenLIT OpenTelemetry: qué hace realmente el proyecto

OpenLIT se define como una plataforma de código abierto para trazar, evaluar y mejorar aplicaciones de IA con OpenTelemetry. El README habla de más de 70 integraciones: proveedores de modelos, frameworks de agentes, bases de datos vectoriales y GPU.

  • SDK: Python (pip install openlit), TypeScript (npm install openlit) y Go.
  • Convenciones: trazas y métricas siguen las convenciones semánticas GenAI de OpenTelemetry, en el espacio de nombres gen_ai.*.
  • Exportación: OTLP estándar, es decir, trazas, métricas y eventos que lee cualquier backend compatible.
  • Interfaz: un panel autoalojado que se levanta con docker compose up -d y escucha OTLP en los puertos 4317 (gRPC) y 4318 (HTTP).

El panel es opcional. Lo que importa es el SDK: genera spans que puedes enviar a otro sitio.

Tres formas de instrumentar y un único criterio

La documentación ofrece tres puntos de entrada. Para elegir basta una pregunta: ¿quién puede modificar el código de la aplicación?

Si el código es tuyo: openlit.init()

Una llamada al arrancar es suficiente. El SDK detecta las bibliotecas instaladas y las instrumenta. El fragmento siguiente combina la dirección OTLP con dos opciones de privacidad que explicamos más abajo.

Archivo Python app.py con la llamada openlit.init, otlp_endpoint, capture_message_content en False y max_content_length en 2000

Si no puedes tocar el código: openlit-instrument

La CLI arranca tu programa por ti. El servicio, el entorno y el endpoint se pasan con variables de entorno. Es la opción adecuada para una aplicación de terceros o un contenedor que no vas a reconstruir.

Terminal con tres variables, OTEL_SERVICE_NAME, OTEL_DEPLOYMENT_ENVIRONMENT y OTEL_EXPORTER_OTLP_ENDPOINT, y después el comando openlit-instrument python your_app.py

Si usas TypeScript con imports estáticos

Un import de primer nivel como import OpenAI from "openai" se escapa de la instrumentación automática. En ese caso la documentación pide pasar el módulo al parámetro instrumentations. LangChain, en cambio, necesita imports dinámicos.

Ojo con una trampa de la página de inicio: la línea export OTEL_EXPORTER_OTLP_ENDPOINT = "..." aparece con espacios alrededor del signo igual, y el shell la rechaza. Escríbela sin espacios.

Qué lleva un span: cómo leer una traza

Abre una traza y fíjate en los atributos del span. En la captura del repositorio, una llamada de chat muestra el modelo, la duración, el número de tokens y el coste. Los atributos se llaman gen_ai.operation.name, gen_ai.provider.name y gen_ai.request.model.

Interfaz de OpenLIT con la traza de un agente LangGraph y el detalle del span chat gpt-4o-mini, con sus atributos gen_ai.* en la pestaña Span Attributes
Source : github.com

Origen de la imagen: repositorio openlit/openlit, licencia Apache 2.0. Esta estructura hace útil la traza: un span por llamada y un padre por conversación. Ves dónde se va el tiempo y dónde se van los tokens.

Decidir qué capturar: prompts, longitud y datos personales

Por defecto, el SDK de Python captura el contenido de los mensajes. Sirve para depurar, pero tiene riesgo: los prompts suelen incluir datos de clientes. Tres ajustes acotan la decisión.

  • capture_message_content=False (variable OTEL_INSTRUMENTATION_GENAI_CAPTURE_MESSAGE_CONTENT) deja prompts y respuestas fuera de las trazas. El valor por defecto es True.
  • max_content_length recorta el contenido que se conserva.
  • guards=[openlit.PII(action="redact")] oculta valores sensibles antes de enviar el prompt. La documentación aclara que esta reescritura solo vale para prompts de un único mensaje.

Nuestra recomendación, sin probar: en producción desactiva primero el contenido y vuelve a activarlo solo en preproducción.

Pasos: de cero a la primera traza

  1. Instala el SDK con pip install openlit.
  2. Elige la entrada: openlit.init() en el código o openlit-instrument delante del comando.
  3. Define OTEL_SERVICE_NAME y OTEL_DEPLOYMENT_ENVIRONMENT. Sin ellas, la documentación asigna el valor default a ambas.
  4. Apunta OTEL_EXPORTER_OTLP_ENDPOINT al panel de OpenLIT o a tu Collector.
  5. Llama una vez al modelo y busca el servicio en la interfaz.

Para comprobar que funciona, la traza debe contener un span de chat con gen_ai.request.model y el número de tokens. Si sale vacía, revisa primero el puerto 4318 y que init() se ejecute antes de importar el cliente del LLM.

Un detalle de prioridad que conviene recordar, según la página de configuración: las variables de entorno mandan sobre los argumentos de la CLI, y estos sobre los parámetros del SDK. Ante la duda, mira las variables del proceso.

¿A qué backend enviar los datos?

La documentación indica que puedes prescindir de la pila incluida y mandar el OTLP a otro backend de OpenTelemetry. Lo demás es ingeniería habitual: un Collector delante, atributos de recurso limpios y una retención adecuada. El seguimiento del coste por tokens se explica en nuestro artículo sobre el coste de un agente de IA.

Dynatrace no aparece en las páginas del proyecto que leímos y no hemos comprobado esa conexión. Para Dynatrace, básate solo en docs.dynatrace.com y distingue entre SaaS y Managed.

Buenas prácticas

  • Fija service_name y el entorno: sin ellos todos tus servicios acaban bajo «default».
  • Cambia las credenciales por defecto del panel (el ejemplo de la documentación usa una cuenta pública) antes de exponerlo a la red.
  • Desactiva la captura de mensajes en cuanto los prompts contengan datos personales.
  • Mantén el SDK actualizado: las convenciones GenAI evolucionan y los nombres de atributos pueden cambiar.
  • Mide la sobrecarga de la instrumentación con tu carga real: nosotros no lo hemos hecho.

Preguntas frecuentes

¿OpenLIT sustituye a OpenTelemetry?

No. OpenLIT es un SDK y una plataforma construidos sobre OpenTelemetry. Exporta OTLP estándar y sigue las convenciones gen_ai.*.

¿Necesito el panel de OpenLIT?

No. Sirve para empezar rápido y puedes cambiarlo por otro backend OTLP. El SDK es el mismo.

¿Se guardan los prompts en las trazas?

Por defecto sí, en el SDK de Python. Usa capture_message_content=False para evitarlo.

Conclusión

OpenLIT merece una prueba si quieres trazas GenAI estándar sin escribir los spans a mano. Elige la entrada según quién controle el código y decide después qué pueden contener las trazas. Repositorio: openlit/openlit; documentación: docs.openlit.io.

span.observer es un blog independiente de la comunidad, no afiliado a Dynatrace LLC ni a OpenLIT. Las marcas citadas pertenecen a sus propietarios. Las herramientas cambian rápido: comprueba siempre los comandos y las opciones en la documentación oficial correspondiente a tu versión.

Total
0
Shares
Leave a Reply

Your email address will not be published. Required fields are marked *

Previous Post
Tableaux de bord as code avec Perses : une alternative à Grafana ?

Dashboards como código con Perses: ¿una alternativa a Grafana?

Related Posts