Status: [UNTESTED] Endpoints found: http://127.0.0.1:8000/v1/chat/completions Source: https://github.com/josiasbright/llm-gateway # LLM Gateway Proxy compatible avec les API d'IA habituelles, qui mesure et attribue le coût de chaque appel, agent par agent. ## Fonctionnalités - Route `POST /v1/chat/completions` au format des API d'IA habituelles. - Une clé d'API distincte par agent, stockée sous forme d'empreinte uniquement. - Calcul du coût de chaque appel en micro-dollars entiers, à partir d'une grille de prix datée. - Journal des appels en ajout seul, protégé par des droits de base de données. - Page web des dépenses par projet et par agent, protégée par mot de passe. - Route `GET /api/usage` : les mêmes chiffres en JSON. - Commandes pour créer un agent et afficher les dépenses. ## Limites actuelles - Un seul fournisseur : un faux modèle (`mock-small`, `mock-large`) avec des prix fictifs. - Pas de streaming. - Pas de budgets bloquants ni d'alertes. - Pas de limitation du nombre d'essais de connexion à la page web. - Conçu pour une seule instance. ## Fonctionnement ```text Application -> LLM Gateway -> Fournisseur d'IA | v PostgreSQL (agents, clés, prix, journal des appels) ``` ## Prérequis - Python 3.12 ou plus récent - uv : `pip install uv` - Docker Desktop - Git ## Installation ```powershell git clone https://github.com/josiasbright/llm-gateway.git cd llm-gateway copy .env.example .env python -m uv sync docker compose up -d db python -m uv run python -m alembic upgrade head ``` ## Configuration Les réglages se trouvent dans `.env`. Ce fichier n'est jamais versionné. | Variable | Rôle | | --- | --- | | `POSTGRES_USER`, `POSTGRES_PASSWORD`, `POSTGRES_DB` | Identifiants de la base lancée par Docker Compose | | `POSTGRES_PORT` | Port de la base sur la machine hôte | | `DATABASE_URL` | Adresse de connexion à la base utilisée par l'application | | `ADMIN_PASSWORD` | Mot de passe de la page web, utilisateur `admin` | | `PORT` | Port d'écoute du serveur dans l'image Docker (8000 par