freellmapi LLM gratuits API unifiée : risques et usage

freellmapi LLM gratuits API unifiée : routeur compatible OpenAI, installation d’après le README, conditions des fournisseurs, quotas et confidentialité.
freellmapi LLM gratuits API unifiée : risques et usage

freellmapi LLM gratuits API unifiée : le dépôt tashfeenahmed/freellmapi est un routeur auto-hébergé qui expose un seul point d’accès compatible OpenAI (/v1) devant les offres gratuites de dizaines de fournisseurs de modèles. Il affichait environ 39 200 étoiles et 5 300 forks à la mi-octobre 2026, sous licence MIT.

L’idée séduit : un seul client, plusieurs quotas gratuits additionnés, un basculement automatique en cas d’erreur 429. Mais pour une équipe d’exploitation, elle pose aussi trois questions sérieuses : les conditions d’utilisation de chaque fournisseur, la confidentialité de ce qu’on envoie, et la fiabilité d’un service sans garantie. Cet article les passe en revue d’après le README et la documentation du projet.

Les informations viennent du README et de la documentation du dépôt. span.observer n’a pas installé ni testé freellmapi : les captures ci-dessous sont des images publiées dans le dépôt par le projet. Les chiffres promotionnels du README (volume de tokens, nombre de fournisseurs) sont rapportés comme des déclarations du projet, non vérifiées.

freellmapi LLM gratuits API unifiée : ce que dit le dépôt

  • Auteur et licence : dépôt de l’utilisateur GitHub tashfeenahmed, licence MIT (copyright 2026 dans le fichier LICENSE).
  • Fonctionnement : vous ajoutez vos propres clés d’API gratuites ; le routeur choisit un modèle pour chaque requête, passe au suivant sur erreur 429 ou 5xx, et suit l’usage par clé (requêtes et tokens par minute et par jour) pour rester sous les plafonds.
  • Chiffres déclarés par le projet : « 34 fournisseurs gratuits » et « 635 points d’accès » ; la page GitHub reprend aussi « 7,4 milliards de tokens par mois ». Ce sont des totaux additionnés de quotas gratuits listés, pas une capacité garantie ni mesurée.
  • Surfaces d’API (selon le README) : chat, réponses, embeddings, images, audio, plus l’API Messages d’Anthropic, ce qui permet de brancher Claude Code sur le routeur.
  • Cadre d’usage : la description de dépôt se termine par « Personal experimentation only » et le README précise : « personal experimentation and learning, not production ».
Tableau de bord FreeLLMAPI, page Models : budget mensuel de tokens par modèle, stratégie de routage Balanced, bandeau Router pressure et classement des modèles avec scores de fiabilité, vitesse et intelligence
Source : github.com

La page Models du tableau de bord, publiée dans le dépôt, montre le budget mensuel de tokens réparti par modèle, la stratégie de routage (Manual, Balanced, Smartest, Fastest, Most reliable, Custom) et un classement avec des scores de fiabilité, de vitesse et d’intelligence mis à jour d’après le trafic.

Installer freellmapi d’après le README

Étape 1 — Le script d’installation (Docker requis)

curl -fsSL https://freellmapi.co/install.sh | bash

Selon le README, le script crée ~/freellmapi, génère une clé de chiffrement, télécharge l’image et démarre le conteneur. Le README rappelle que l’on peut lire le script avant de l’exécuter : faites-le, d’autant que la commande télécharge un script distant. Relancer le script conserve le fichier .env et la clé.

Étape 2 — Ajouter les clés et récupérer la clé unifiée

Ouvrez http://localhost:3001, ajoutez vos clés de fournisseurs sur la page Keys, ordonnez la chaîne de repli, puis copiez la clé unifiée affichée en haut de cette page : c’est elle que vos applications utiliseront.

Étape 3 — Pointer un client compatible OpenAI

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key="freellmapi-your-unified-key",
)
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Summarise the fall of Rome in one sentence."}],
)
print(resp.choices[0].message.content)

Cet exemple reprend celui du README (légèrement raccourci). model="auto" laisse le routeur choisir. D’après la documentation de l’API, chaque réponse porte un en-tête X-Routed-Via: <plateforme>/<modèle> qui indique quel fournisseur a réellement répondu : pour le lire, testez avec curl -i.

Variantes

Le README propose aussi une application de bureau (.dmg pour macOS, installeur .exe pour Windows, dans les Releases), un déploiement Docker Compose et un mode développement. Une configuration automatique pour de nombreux agents est décrite, par exemple npx freellmapi setup-claude --url http://localhost:3001 --api-key <unified-key>.

Sous le capot : routage, quotas, journaux

Le projet décrit un routeur qui retient le modèle prioritaire disposant d’une clé saine et sous tous ses plafonds, déchiffre la clé en mémoire, appelle le fournisseur, et, sur 429 ou 5xx, met la clé en pause avant de passer au modèle suivant.

Schéma du fonctionnement de FreeLLMAPI publié dans le dépôt : une application cliente appelle /v1, le routeur classe les modèles, saute un fournisseur en erreur 429 et répond via un autre
Source : github.com

Le schéma illustre ce flux : un premier fournisseur renvoie 429 et est écarté, un second répond. Le README précise que les clés de fournisseurs sont chiffrées en AES-256-GCM dans SQLite et déchiffrées en mémoire à chaque requête.

Superviser un routeur de LLM gratuits

La documentation d’architecture du projet décrit une partie observabilité : visionneuse de journaux du serveur dans le tableau de bord, journaux conservés en mémoire (1 000 entrées) et en base pour les avertissements et erreurs, et une page Analytics (volume de requêtes, taux de succès, tokens, latences p50 et p95, délai avant premier token) sur des fenêtres de 24 heures à 90 jours. Je n’ai trouvé aucune mention d’OpenTelemetry dans le README ni dans la documentation.

Tableau de bord FreeLLMAPI, page Analytics sur sept jours : requêtes, taux de succès, tokens en entrée et en sortie, latence moyenne et p95, courbes des requêtes et des tokens dans le temps
Source : github.com
  • Journaux : avec Docker, docker compose logs -f freellmapi (FAQ du README) ; pour l’application de bureau, le fichier freeapi.log dans le dossier de données.
  • Côté client : si vous voulez des traces dans votre propre backend, instrumentez l’application qui appelle le routeur, par exemple avec les méthodes de l’observabilité LLM avec OpenLLMetry et Langfuse, et relevez l’en-tête X-Routed-Via comme attribut.
  • Coûts : l’usage est gratuit tant que les quotas tiennent, mais le temps perdu en erreurs et en repli a un coût. Voir le suivi du coût d’un agent IA.

Conditions d’utilisation, quotas et confidentialité

C’est le point le plus important. Le README rappelle que votre relation avec chaque fournisseur reste régie par les conditions que vous avez acceptées en créant le compte, et que ces conditions s’appliquent aussi quand le trafic passe par ce projet : vous êtes responsable de leur respect.

  • Analyse du projet, pas la nôtre. La documentation contient un tableau de revue des conditions d’utilisation, daté de mai 2026, fournisseur par fournisseur (par exemple « prudence » pour Google Gemini et NVIDIA NIM, « à éviter » pour Cohere). C’est l’avis du projet, sans valeur juridique, et il date de plusieurs mois. Relisez les conditions en vigueur de chaque fournisseur avant tout usage.
  • Quotas. Les offres gratuites peuvent être resserrées ou retirées sans préavis, avertit la documentation du projet ; les meilleurs modèles ont les plafonds quotidiens les plus bas, et la qualité effective baisse en fin de journée, jusqu’à la remise à zéro à minuit UTC. Les montants cités par le projet sont ceux que le projet liste, pas des engagements des fournisseurs.
  • Confidentialité. Chaque requête part de votre machine vers le fournisseur que le routeur choisit, et ce choix change au gré des quotas et des erreurs. Vous ne maîtrisez donc pas quel fournisseur voit quel prompt. N’envoyez ni données personnelles ni code confidentiel, et vérifiez, pour chaque offre gratuite, si les échanges peuvent servir à améliorer les modèles.
  • Appels sortants du routeur. Le README indique que le routeur télécharge deux fois par jour un catalogue signé depuis freellmapi.co, et que ce serveur de catalogue ne voit ni vos prompts ni vos clés, selon le projet. Les installations gratuites reçoivent un instantané mensuel, avec un décalage de 30 jours ; le projet vend aussi une offre payante pour le catalogue en direct.

Comment vérifier que ça fonctionne

  • Une requête curl -i vers /v1/chat/completions avec la clé unifiée renvoie une réponse et un en-tête X-Routed-Via.
  • La page Keys indique l’état de chaque clé (sain, en erreur) et la date du dernier contrôle.
  • La page Analytics enregistre la requête de test ; les journaux montrent le repli quand vous coupez une clé.

Limites et points ouverts

  • Pas de production. Le projet le dit lui-même : pas de SLA, latence variable, qualité qui baisse au fil de la journée. Pour du réel, passez à une API payante contractuelle ; voir choisir son LLM selon des critères d’exploitation.
  • Usage local et mono-utilisateur. La documentation du projet indique qu’il n’y a pas d’authentification multi-utilisateur : ne l’exposez pas sur Internet.
  • Zone grise contractuelle. Agréger des offres gratuites derrière un proxy peut contrevenir aux conditions de certains fournisseurs, y compris pour un usage personnel.
  • Projet très populaire et récent. Beaucoup d’étoiles ne valent pas audit : relisez le code avant de lui confier des clés d’API.
  • Chiffres. Étoiles et forks relevés à la mi-octobre 2026 ; les totaux de tokens sont ceux du README.

Bonnes pratiques

  • Réservez-le à l’expérimentation, avec des données publiques ou factices.
  • Lisez le script d’installation avant de l’exécuter et gardez le routeur sur localhost ou un réseau privé.
  • Créez des clés dédiées chez chaque fournisseur, révocables, sans droits facturables.
  • Désactivez les fournisseurs dont les conditions ne conviennent pas à votre usage, sur la page Keys.
  • Instrumentez le client et gardez une solution de repli payante pour tout ce qui compte.
  • Pour une inférence que vous contrôlez de bout en bout, voir Ollama en local ou vLLM en production.

Questions fréquentes

freellmapi est-il vraiment gratuit ?

Le code est sous licence MIT et vous utilisez vos propres clés gratuites. Une offre payante existe pour le catalogue en direct, et les fournisseurs peuvent modifier ou retirer leurs offres gratuites à tout moment.

Puis-je l’utiliser en production ?

Le projet le déconseille explicitement : « personal experimentation and learning, not production ». Utilisez une API payante avec contrat pour un service réel.

Mes prompts sont-ils confidentiels ?

Ils partent chez le fournisseur choisi par le routeur, qui peut changer d’une requête à l’autre. Selon le projet, le serveur de catalogue ne voit pas les prompts, mais cela ne dit rien de la politique de chaque fournisseur : lisez-les.

Conclusion

freellmapi est une idée pratique pour prototyper sans facture, avec un tableau de bord et des journaux soignés. Elle reste un outil d’expérimentation : conditions d’utilisation à vérifier fournisseur par fournisseur, quotas changeants, confidentialité non maîtrisée. Gardez-le loin des données sensibles et de la production.

span.observer est un blog indépendant de la communauté, non affilié à Dynatrace LLC ni aux projets cités. Les marques citées appartiennent à leurs propriétaires. Les outils évoluent vite : vérifiez les commandes et options dans la documentation officielle (github.com/tashfeenahmed/freellmapi). Cet article ne constitue pas un avis juridique.

Total
0
Shares
Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Previous Post
ppt-master générer PowerPoint agent IA : guide et limites

ppt-master générer PowerPoint agent IA : guide et limites

Next Post
Knowledge work plugins Claude Cowork : installer et contrôler

Knowledge work plugins Claude Cowork : installer et contrôler

Related Posts