Fluent Bit Dynatrace: إرسال سجلات Kubernetes خطوة بخطوة

Fluent Bit Dynatrace: انشر DaemonSet عبر Helm، وأثرِ سجلات Kubernetes، وأرسلها إلى واجهة الاستيعاب، وتحقق من وصولها باستعلام DQL.
Fluent Bit Dynatrace : envoyer les logs Kubernetes pas à pas

تجمع منصة Kubernetes لديك سجلاتها بـ Fluent Bit أصلًا، ولا يريد الفريق تغيير الوكيل (agent) لاعتماد Dynatrace. خبر سار: يعمل الثنائي Fluent Bit Dynatrace دون إضافة خاصة، عبر مخرج HTTP القياسي وواجهة استيعاب السجلات.

لكن يجب أن تصل السجلات مُثرَاة بالسياق. سطر بلا namespace ولا pod ولا عنقود يكاد يكون عديم الفائدة أثناء المناوبة (on-call): يستحيل ربطه بكيان Kubernetes ولا بالتتبع الذي أنتجه، فيطول MTTR بقدر ذلك.

هدف هذا الدرس: نشر Fluent Bit كـ DaemonSet عبر Helm، وإعادة تسمية بيانات Kubernetes الوصفية إلى الحقول التي يتوقعها Dynatrace، وإرسال السجلات إلى API v2، والتحقق من وصولها بـ DQL. المحتوى صالح لـ Dynatrace SaaS وDynatrace Managed؛ الذي يتغير هو عنوان URL الاستيعاب فقط.

Fluent Bit Dynatrace أم OneAgent: أيهما تختار

إذا كان Dynatrace Operator يعمل أصلًا مع جمع السجلات، فلا سبب لإضافة Fluent Bit. يكون Fluent Bit مناسبًا حين يكون معيار الفريق أصلًا، أو حين يذهب جزء من السجلات إلى أداة أخرى أيضًا، أو في عناقيد لا يُنشر فيها OneAgent. للإطار العام، راجع وحدة السجلات وOpenPipeline.

المتطلبات المسبقة

  • عنقود Kubernetes ببيئة تشغيل containerd أو CRI-O (صيغة سجلات CRI)، مع kubectl وHelm 3.
  • رمز API مميّز من Dynatrace بالنطاق logs.ingest (Ingest logs) ولا شيء غيره.
  • عنوان URL الاستيعاب: https://<env-id>.live.dynatrace.com/api/v2/logs/ingest في SaaS، وhttps://<domaine>/e/<env-id>/api/v2/logs/ingest في Managed (أو عبر ActiveGate).
  • صلاحية قراءة السجلات في Dynatrace لأغراض التحقق.

الخطوة 1: تخزين الرمز المميّز في secret

لا تضع الرمز المميّز أبدًا بصيغة واضحة في ملف قيم خاضع لإدارة الإصدارات. أنشئ namespace وsecret:

kubectl create namespace logging
kubectl -n logging create secret generic dynatrace-logs \
  --from-literal=DT_INGEST_TOKEN="$DT_INGEST_TOKEN" \
  --from-literal=DT_INGEST_HOST="abc12345.live.dynatrace.com"

في Managed، يتلقى DT_INGEST_HOST نطاقك، ويوضع المسار /e/<env-id> في URI المخرج (الخطوة 3). وللأخطاء الكلاسيكية 401 و403، احتفظ بـ استكشاف أخطاء رموز API في متناولك.

الخطوة 2: قراءة سجلات الحاويات وإضافة سياق Kubernetes

أنشئ ملف values-dynatrace.yaml للمخطط الرسمي fluent/fluent-bit. يقرأ المدخل ملفات سجلات الحاويات؛ ويضيف المرشح kubernetes الـ namespace والـ pod والحاوية؛ ويعيد المرشح modify تسمية هذه الحقول وفق اصطلاح k8s.*.

envFrom:
  - secretRef:
      name: dynatrace-logs
env:
  - name: K8S_CLUSTER_NAME
    value: "prod-eu-1"

podAnnotations:
  dynatrace.com/inject: "false"

config:
  inputs: |
    [INPUT]
        Name              tail
        Tag               kube.*
        Path              /var/log/containers/*.log
        multiline.parser  cri
        DB                /var/log/flb_kube.db
        Mem_Buf_Limit     20MB
        Skip_Long_Lines   On

  filters: |
    [FILTER]
        Name         kubernetes
        Match        kube.*
        Merge_Log    On
        Keep_Log     Off
        Labels       Off
        Annotations  Off

    [FILTER]
        Name           nest
        Match          kube.*
        Operation      lift
        Nested_under   kubernetes
        Add_prefix     k_

    [FILTER]
        Name     modify
        Match    kube.*
        Rename   log               content
        Rename   k_namespace_name  k8s.namespace.name
        Rename   k_pod_name        k8s.pod.name
        Rename   k_pod_id          k8s.pod.uid
        Rename   k_container_name  k8s.container.name
        Rename   k_host            k8s.node.name
        Add      k8s.cluster.name  ${K8S_CLUSTER_NAME}
        Remove_wildcard k_

الأسطر الحرجة: يعيد multiline.parser cri لصق الأسطر التي قطعتها بيئة التشغيل؛ ويضع Rename log content الرسالة في الحقل الذي يعرضه Dynatrace كمحتوى؛ ويمنع التعليق التوضيحي dynatrace.com/inject: "false" الـ Operator من قياس Fluent Bit نفسه. إذا كانت تطبيقاتك تكتب JSON، فإن Merge_Log On يرفع مفاتيحه إلى المستوى الأول: تأكد من أن أيًّا منها لا يحمل الاسم content أصلًا.

الخطوة 3: إعداد مخرج HTTP نحو Dynatrace

أضف المخرج إلى الملف نفسه:

  outputs: |
    [OUTPUT]
        Name              http
        Match             kube.*
        Host              ${DT_INGEST_HOST}
        Port              443
        URI               /api/v2/logs/ingest
        Format            json
        json_date_key     timestamp
        json_date_format  iso8601
        Header            Authorization Api-Token ${DT_INGEST_TOKEN}
        Header            Content-Type application/json; charset=utf-8
        allow_duplicated_headers false
        tls               On
        tls.verify        On
        Retry_Limit       5

يرسل Format json مصفوفة من السجلات، وهذا ما تتوقعه الواجهة؛ ويمنح json_date_key timestamp كل سجل طابعه الزمني الأصلي. في Managed، استبدل URI بـ /e/<env-id>/api/v2/logs/ingest. يحدّ Retry_Limit عدد إعادة المحاولات عند عدم التوافر: بعد ذلك تُهمَل الدفعات، وهذا ما يجب أن يظهر في المقاييس (مرحلة التحقق).

الخطوة 4: النشر عبر Helm

helm repo add fluent https://fluent.github.io/helm-charts
helm repo update
helm upgrade --install fluent-bit fluent/fluent-bit \
  -n logging -f values-dynatrace.yaml
kubectl -n logging rollout status daemonset/fluent-bit

يجب أن ينتقل pod واحد على كل عقدة إلى الحالة Running.

كيف تتحقق من أن الإعداد يعمل

  1. في سجلات Fluent Bit، لا يوجد أي سطر [error] متعلق بمخرج HTTP: kubectl -n logging logs ds/fluent-bit | grep -iE "error|http_status". الحالة 204 أو 200 تعني قبول الدفعة؛ أما 401 أو 403 فيحيلان إلى الرمز المميّز.
  2. في Dynatrace (SaaS مع Grail)، شغّل:
    fetch logs, from: -15m
    | filter k8s.cluster.name == "prod-eu-1"
    | summarize lignes = count(), by: { k8s.namespace.name }
    | sort lignes desc

    يجب أن يظهر كل namespace نشط. في Managed، استخدم عارض السجلات وصفِّ بالسمة نفسها.

  3. اعرض المقاييس الداخلية لـ Fluent Bit (المنفذ 2020 والمسار /api/v1/metrics/prometheus) وراقب عدّادات إعادة المحاولة والإهمال في المخرج: قيمة إهمال غير صفرية تعني سجلات مفقودة.

أفضل الممارسات

  • رشّح في أبكر وقت: مرشح grep على الـ namespaces الثرثارة أقل كلفة من معالجة بعد الاستيعاب.
  • حدّد هدف مستوى خدمة (SLO) لسلسلة السجلات نفسها (حصة الدفعات المقبولة) ونبّه على الصمت، كما في اكتشاف الصمت وفائض الحجم.
  • أضف trace_id وspan_id إلى سجلات التطبيقات للربط مع التتبعات (راجع ربط السجلات بالتتبعات).
  • فعّل التخزين المؤقت على القرص (storage.type filesystem) إذا كان انقطاع الشبكة لعدة دقائق محتملًا.
  • دوّر الرمز المميّز وقصره على النطاق logs.ingest وحده.

الأسئلة الشائعة

هل أحتاج إلى ActiveGate بين Fluent Bit وDynatrace؟

لا في SaaS: يستطيع Fluent Bit الإرسال مباشرة إلى البيئة. يبقى Environment ActiveGate مفيدًا إذا لم يكن للعنقود وصول صادر إلى الإنترنت، أو في Managed لتركيز التدفقات؛ وعندها يتبع URI صيغة ActiveGate.

لماذا تصل سجلاتي بطابع زمني غير صحيح؟

تحقق من json_date_key وjson_date_format: من دونهما يستخدم Dynatrace وقت الاستلام. وفارق عدة دقائق يفسد الارتباطات أثناء الحادثة.

هل أستطيع إبقاء Fluent Bit وOneAgent على العنقود نفسه؟

نعم، لكن لا تفعّل جمع الملفات نفسها من الجانبين: ستدفع ثمن السجلات نفسها مرتين. وزّعها بحسب الـ namespace أو عطّل جمع السجلات في أحدهما.

الخلاصة

بمخرج HTTP وsecret وإعادة تسمية حقول k8s.* واستعلام DQL للتحقق، يغذي Fluent Bit منصة Dynatrace دون تغيير الوكيل. أضف مراقبة السلسلة نفسها، فتصبح سجلات Kubernetes مصدرًا موثوقًا للتشخيص.

span.observer مدوّنة مجتمعية مستقلة وغير تابعة لشركة Dynatrace LLC. Dynatrace علامة تجارية تعود إلى مالكها. الخيارات والحقول تتطور، لذا تحقق منها في وثائق Fluent Bit ووثائق Dynatrace.

Total
0
Shares
Leave a Reply

Your email address will not be published. Required fields are marked *

Previous Post
Datadog vs Dynatrace ? Un comparatif Dynatrace vs Datadog concret pour une équipe SRE

Datadog vs Dynatrace؟ مقارنة Dynatrace vs Datadog عملية لفريق SRE

Next Post
Istio Dynatrace : superviser le service mesh avec Dynatrace (Istio, traces et métriques)

Istio Dynatrace: مراقبة شبكة الخدمات (service mesh) بالتتبعات والمقاييس

Related Posts