LLM-gateway

Één toegangspunt voor alle modellen, met budgetten en quota's.

De LLM-gateway biedt één enkel toegangspunt, compatibel met OpenAI, voor Europese AI-modellen. Sleutels per team, budgetten, quota's en monitoring: generatieve AI onder controle.

  • Open source souverain · LiteLLM (MIT)
  • ○ MCP wordt geïntegreerd
  • Toegang op aanvraag (AI Lab)

Illustratief voorbeeld, fictieve gegevens

Functies

Alles wat u nodig hebt, niets dat u bespiedt.

01

OpenAI-compatibele API

Wissel van aanbieder zonder uw applicaties te herschrijven.

02

Europese modellen

Mistral AI en open modellen, gerouteerd vanuit Europa.

03

Sleutels per team

Een virtuele sleutel per team of per project.

04

Budgetten en quota

Uitgaven- en debietlimieten om verrassingen te voorkomen.

05

Gebruiksmonitoring

Verbruik per sleutel, per model en per dag.

06

Basis van Apollon

Alle aanroepen van Apollon verlopen via deze gateway.

Aangestuurd door Apollon

Vraag het, Apollon regelt het in LLM-gateway.

De MCP-server van LLM-gateway wordt momenteel geïntegreerd: binnenkort handelt Apollon er namens u, met uw toestemming.

  • « Maak een sleutel voor het datateam met een budget van 50 € »
  • « Welk team verbruikt deze maand het meest? »
  • « Geeft de beschikbare modellen weer »

Gebruiksscenario's

  • Generatieve AI beschikbaar stellen aan het hele bedrijf, met budgetbeheer.
  • OpenAI vervangen door een Europees model zonder de code te wijzigen.
  • Het AI-verbruik per project bijhouden.

Het Europese alternatief voor

OpenAI APIAzure OpenAIAmazon Bedrock

Gehost in Europa

Op onze servers in Frankrijk, buiten het bereik van de Cloud Act.

Beveiligd eenmalig account

Eurathos-aanmelding met tweefactorauthenticatie en passkeys.

Open source souverain · LiteLLM (MIT)

Zelf gehost, bijgewerkt en beveiligd door Eurathos.

Opgeslagen

Gegevens off-site opgeslagen, herstel getest.