Browsing Tag
LLM
35 posts
نموذج MoE محلي: ما الذي يطلبه Colibri من قرصك
نموذج MoE محلي مع Colibri: الذاكرة العشوائية وقرص NVMe والسرعات المنشورة والمراقبة عبر /metrics. ما يقوله README قبل تنزيل 400 غيغابايت.
مراقبة وكلاء الذكاء الاصطناعي مع traceroot: الترخيص والتشغيل والحدود
مراقبة وكلاء الذكاء الاصطناعي مع traceroot: تتبعات وكواشف وتكلفة، تشغيل Docker بأربعة أوامر، ترخيص Apache 2.0 ومجلدات Enterprise، وحدود تمت مراجعتها.
OpenInference في Dynatrace لتتبع الذكاء الاصطناعي: الإرسال عبر Collector
OpenInference في Dynatrace لتتبع الذكاء الاصطناعي: أين تترجم تتبعاتك إلى gen_ai.*؟ أعدّ Collector من OpenTelemetry وتحقق منها بـ DQL على Dynatrace SaaS.
Ollama vLLM llama.cpp: أي محرك محلي تختار لنماذج LLM؟
Ollama vLLM llama.cpp: قارن بين محركات الاستدلال المحلية الثلاثة بحسب الاستخدام والعتاد والمراقبة (المقاييس والصحة والتتبعات).
أمانة RAG: تقييم نظام RAG وفهم حدود المقياس
أمانة RAG مع Ragas وLlamaIndex: ما الذي تقيسه الدرجة، وكيف تُفسَّر، ولماذا قد تبقى الإجابة الأمينة خاطئة أثناء المناوبة. دليل عملي لفريق SRE.
بوابة LLM: تتبّع التكاليف باستخدام LiteLLM وHelicone
بوابة LLM: إسناد تكلفة الرموز لكل فريق عبر LiteLLM (مفاتيح افتراضية وPrometheus) أو Helicone، ثم التصدير عبر OTLP إلى Dynatrace.
Jan بديل ChatGPT مفتوح المصدر: ذكاء اصطناعي محلي دون اتصال
Jan بديل ChatGPT مفتوح المصدر: ذكاء اصطناعي محلي دون اتصال، وخادم متوافق مع OpenAI على localhost:1337، والتثبيت والحدود والمراقبة.
نافذة سياق الوكلاء مع context-mode: ترخيص ELv2 والقياس
نافذة سياق الوكلاء مع context-mode: العزل وقاعدة FTS5 وhooks، وترخيص ELv2 (المصدر متاح وليس مفتوحًا)، وقياس الرموز بواسطة OpenTelemetry.
Selecto AI Windows: شريط إجراءات فوق أي نص محدد
Selecto AI Windows يضيف شريط إجراءات إلى النص المحدد: بحث وترجمة وتلخيص وتصحيح بذكاء اصطناعي محلي عبر Ollama أو بمفتاح API الخاص بك.
AI engineering from scratch: مسار تعلم الذكاء الاصطناعي في المستودع
AI engineering from scratch: مسار تعلم مفتوح من 542 درسًا بترخيص MIT، وثلاث طرق للبدء، وورشة عملية لتتبعات الوكلاء موجهة لفرق SRE.