API Gateway
L'API Albert permet d'être un proxy entre des clients API d'IA générative et d'assurer du load balancing entre les différents clients :
| 💻 Client | 📌 Supported version | 🔍 Supported model types |
|---|---|---|
| 🔹OpenAI | latest |
📝 language 📊 embeddings 🔎 reranking 🎤 transcription |
| 🔹 vLLM | v0.6.6.post1 | 📝 language |
| 🔹 HuggingFace TEI | v1.5 |
📊 embeddings 🔎 reranking |
| 🔹 Albert | latest |
📝 language 📊 embeddings 🔎 reranking 🎤 transcription |