Une chaîne d’ingestion de logs ne tombe presque jamais en panne bruyamment. Elle s’éteint. Un token d’API expire, un fichier change de format après une mise à jour, une règle d’ingestion trop large aspire soudain les logs de debug de la production. Dans tous ces cas, rien ne clignote : on découvre le trou au moment où on en a besoin, en pleine investigation, ou en fin de mois en lisant la facture de consommation. Côté ingestion, logs manquants et volumes excessifs passent ainsi inaperçus.
Dynatrace SaaS a renforcé la visibilité sur cette chaîne : un dashboard prêt à l’emploi enrichi, des événements d’auto-surveillance émis par le module de logs de OneAgent, une configuration du module regroupée dans l’application Settings, et des guides de dimensionnement plus complets pour l’Environment ActiveGate. Pris séparément, ce sont des améliorations incrémentales. Ensemble, ils permettent enfin de traiter l’ingestion de logs comme un service à part entière, avec sa propre supervision.
Plutôt que de passer les nouveautés en revue, cet article part des trois défaillances les plus fréquentes et montre comment les détecter, puis propose une routine de contrôle à mettre en place.
Trois façons de perdre ses logs sans le savoir
Le silence
Une source cesse d’envoyer : encodage non supporté, fichier compressé ou renommé par la rotation, fuseau horaire mal configuré, motif d’horodatage absent. Historiquement, il fallait inspecter source par source pour comprendre. Le module de logs de OneAgent émet désormais des événements d’auto-surveillance (SFM) qui décrivent l’état des sources et les signaux de santé. Ils sont écrits dans Grail, dans dt.system.events, et chaque type d’événement est documenté avec sa signification et une piste de correction.
La couverture partielle
Ici, rien ne s’est arrêté : la source n’a simplement jamais été capturée. Un nouveau groupe d’hôtes, un cluster Kubernetes ajouté récemment, une application déployée sans que personne ne crée la règle d’ingestion correspondante. La difficulté est que cette absence ne produit aucun signal. Seule une vue de couverture permet de la voir.
L’excès
Le problème inverse : une règle dont le matcher est trop permissif, un niveau de log laissé en debug, une boucle d’erreurs qui inonde un fichier. Le volume grimpe, la consommation suit, et le bruit dégrade la lisibilité des logs utiles.
Ingestion logs : les outils à mobiliser
Le dashboard Log ingest overview
Ce dashboard prêt à l’emploi constitue le point d’entrée. Il présente désormais une vue de santé des composants d’ingestion, à la fois pour les modules de logs OneAgent et pour l’Environment ActiveGate, ainsi qu’une vue des principaux producteurs de logs. Il met en évidence les composants qui demandent de l’attention, ce qui évite de bâtir une requête depuis zéro au mauvais moment.
La configuration du module dans Settings
Règles d’ingestion, sources personnalisées, masquage et motifs d’horodatage sont maintenant réunis dans Settings > Collect and capture > Log monitoring > Configure log module. L’onglet Sources s’ouvre sur une synthèse de l’autodécouverte : nombre de groupes d’hôtes, de clusters Kubernetes, d’hôtes et de sources détectés, avec le pourcentage couvert par une règle. Autre apport appréciable pour qui a hérité d’une configuration complexe : les règles actives et celles héritées d’un niveau supérieur (environnement ou groupe d’hôtes) sont affichées ensemble, avec un lien direct vers leur définition. On peut aussi poser la question de la couverture en langage naturel à Dynatrace Assist.
Les guides de dimensionnement de l’ActiveGate
Pour les logs envoyés par API (JSON ou OTLP) vers l’Environment ActiveGate, la documentation officielle fournit des guides de dimensionnement couvrant les déploiements conteneurisés et sur hôte, Linux et Windows, avec des chiffres étendus aux grands environnements.
En pratique
Étape 1 — Faire du dashboard un rituel
Ouvrez Log ingest overview dans l’application Dashboards et ajoutez-le aux favoris de l’équipe plateforme. Un coup d’œil hebdomadaire à la section de santé des composants et aux principaux producteurs suffit à repérer la plupart des dérives avant qu’elles ne deviennent des incidents.
Étape 2 — Explorer les événements d’auto-surveillance
Lorsqu’un composant apparaît dégradé, descendez au niveau des événements. Une requête exploratoire dans un Notebook permet d’en avoir une vue d’ensemble ; affinez ensuite les filtres en fonction des champs que vous observez dans votre environnement :
fetch dt.system.events, from:now()-24h
| filter event.provider == "Log Module"
| summarize nb = count(), by:{event.type}
| sort nb desc
Ouvrez ensuite un événement représentatif : il indique la cause probable, par exemple un paramètre de fuseau horaire invalide sur un module de logs Kubernetes. La page de documentation associée au type d’événement donne la correction à appliquer.
Étape 3 — Mesurer la couverture
Dans l’onglet Sources de la configuration du module, triez par taux de couverture. Un groupe d’hôtes faiblement couvert est presque toujours l’explication d’un « il nous manque des logs ». Depuis la même ligne, examinez la configuration de l’entité et créez la règle manquante sans changer de page. Vérifiez au passage les règles héritées : une exclusion définie au niveau de l’environnement peut annuler une inclusion locale.
Étape 4 — Traquer l’excès de volume
Quand la vue des principaux producteurs révèle une source inattendue, ouvrez-la dans l’application Logs (l’analyse de patterns aide à comprendre ce qu’elle produit) et regardez la répartition par niveau de sévérité. Une requête comme celle-ci donne la même information de façon reproductible :
fetch logs, from:now()-24h
| summarize volume = count(), by:{log.source, loglevel}
| sort volume desc
| limit 15
Si une source de production est dominée par des messages de debug, consultez les modifications récentes des règles d’ingestion : un matcher prévu pour un environnement de développement qui englobe aussi la production est un grand classique.
Étape 5 — Automatiser la détection
Une fois la cause corrigée, créez une métrique de log sur les sources critiques et associez-lui une alerte de Dynatrace Intelligence sur les chutes et les pics de volume. Les événements d’auto-surveillance pouvant aussi déclencher des Workflows, il devient possible d’ouvrir automatiquement un ticket ou de notifier l’équipe propriétaire dès qu’une source passe en erreur.
Étape 6 — Dimensionner l’ActiveGate avant une migration
Si vous rapatriez dans Dynatrace des logs provenant d’une autre plateforme via OTLP, le calcul se fait en deux temps : établir d’abord la configuration de base de l’ActiveGate pour le routage du trafic OneAgent selon la taille du cluster, puis ajouter les réplicas nécessaires au débit de logs OTLP attendu, en s’appuyant sur la capacité par réplica indiquée dans la documentation. Mesurez le débit réel de la source avant la bascule plutôt que de vous fier à une estimation.
Bonnes pratiques
- Superviser la supervision : traitez la santé de l’ingestion comme un SLO de la plateforme, avec un propriétaire et des alertes.
- Restreindre les matchers : toute règle d’ingestion doit cibler explicitement son périmètre (environnement, namespace, groupe d’hôtes).
- Revoir la couverture après chaque ajout d’infrastructure : nouveau cluster ou nouveau groupe d’hôtes signifie nouvelle vérification de l’onglet Sources.
- Anticiper la rotation des tokens : une expiration silencieuse est l’une des causes les plus banales de perte de logs envoyés par API.
- Documenter les règles héritées : la vue unifiée aide, mais un nom et une description explicites restent indispensables.
Disponibilité
Le dashboard Log ingest overview et les événements d’auto-surveillance du module de logs OneAgent sont disponibles pour les clients Dynatrace SaaS utilisant Grail et la dernière version de la plateforme, sans configuration supplémentaire. Les clients encore en Log Monitoring Classic doivent activer explicitement ces événements.
Questions fréquentes
Pourquoi une source de logs cesse-t-elle d’arriver sans alerte ?
Les causes sont souvent banales : token d’API expiré, fichier renommé ou compressé par la rotation, encodage non supporté, fuseau horaire ou motif d’horodatage mal configuré. Les événements d’auto-surveillance du module de logs OneAgent, stockés dans dt.system.events, décrivent ces situations et pointent vers la correction.
Comment vérifier que toutes les sources sont couvertes ?
Dans l’onglet Sources de la configuration du module de logs, triez par taux de couverture : un groupe d’hôtes faiblement couvert explique presque toujours des logs manquants. Vérifiez aussi les règles héritées, qui peuvent annuler une inclusion locale.
Ces nouveautés sont-elles disponibles en Log Monitoring Classic ?
Le dashboard et les événements d’auto-surveillance sont disponibles sans configuration pour les clients SaaS sur Grail et la dernière version de la plateforme. En Log Monitoring Classic, les événements doivent être activés explicitement.
Conclusion
La plupart des pertes de logs ne sont pas des pannes spectaculaires mais des dérives discrètes. En combinant le dashboard d’ingestion, les événements d’auto-surveillance stockés dans Grail, la vue de couverture du module et des alertes sur le volume, une équipe plateforme peut passer d’un mode réactif, où l’on découvre les trous en pleine crise, à un mode où l’ingestion se surveille et se corrige comme n’importe quel autre service.
Pour aller plus loin : Modern log management just got simpler: Resilience and self-service upgrades for log ingestion (blog Dynatrace, en anglais).
span.observer est un blog indépendant de la communauté, non affilié à Dynatrace LLC. Dynatrace est une marque de Dynatrace LLC. Les fonctionnalités SaaS évoluent vite : vérifiez leur disponibilité dans votre environnement et dans la documentation officielle.
2 comments