# Ein LLM-Gateway für jede KI-Anfrage.

> SecondGate, das selbst betriebene LLM-Gateway: Modellzugriff und Budgets pro Team, Person oder API-Key; Guardrails maskieren Personendaten vor dem Versand.

- Canonical: https://secondstack.ai/de/platform/gateway/
- Language: German (de)

---

SecondStack ist eine KI-Agenten-Plattform. Diese Ansicht beschreibt SecondGate, das LLM-Gateway, und SecondGuard, die Guardrails darin: die Prüfung, bevor eine Anfrage nach außen geht, Budgets pro Team, Person und API-Key, und was ein Assistent pro Lizenz nicht abdeckt.

Menschen in der Web-App, Agenten nach Zeitplan und andere Systeme mit API-Keys erreichen die KI-Modelle alle über SecondGate, ein LLM-Gateway, das Sie selbst betreiben: Claude, GPT, Gemini oder selbst gehostete Modelle, über Ihre eigenen Anbieter-Konten. Für jede Anfrage gelten dieselben Prüfungen, Budgets und dasselbe Protokoll.

Beispiel zur Veranschaulichung. Aster, der persönliche Agent, trägt eine Anfrage zu SecondGate. Es prüft das Modell, maskiert die Kartennummer und zählt die Kosten, dann geht die Anfrage weiter an den KI-Anbieter, mit der Kartennummer durch einen Platzhalter ersetzt.

- Vor der Maskierung: `Rechnung 4471 freigeben, Karte •••• 4455`
- Nach der Maskierung: `Rechnung 4471 freigeben, Karte [CARD_1]`

## Menschen, Agenten und Apps teilen sich ein KI-Gateway.

Ein Weg für jede Anfrage, egal von wem: einer Person, einem Agenten oder einem anderen System mit API-Key. Erst das macht die Regeln für Agenten durchsetzbar: Ein Agent kann das Gateway nicht umgehen.

- **SecondGate**: Das LLM-Gateway: welches Modell, wessen Schlüssel, was es gekostet hat
- **SecondGuard**: Guardrails: personenbezogene Daten und Zugangsdaten maskiert nach den Regeln, die Sie festlegen

Funktioniert mit: Anthropic, OpenAI, Google und Ihre eigenen Modelle.

**Ihre Infrastruktur.** Ihre eigenen Anbieterkonten, und jeder Chat, jede Datei und jede Agenten-Ausführung in Ihrer eigenen Datenbank. Wir hosten keine Modelle und verkaufen keine weiter.

## Bevor eine Anfrage nach außen geht, prüft das Gateway sie.

Das Modell des Agenten muss auf der Liste stehen, die sein Team freigegeben hat. SecondGuard, die Guardrails im Gateway, wendet Ihre Regeln an: Es kann personenbezogene Daten und Zugangsdaten durch Platzhalter ersetzen, bevor die Anfrage nach außen geht, und sie in der Antwort wiederherstellen.

## Budgets für Teams, Personen und API-Keys.

Budgets gehen von der Organisation über das Team zur Person, und API-Keys haben eigene Budgets. Agenten-Verkehr wird abgerechnet wie alles andere, und überschreiten die Ausgaben einen Schwellenwert, den Sie festlegen, wird eine Warnung verschickt.

## Sie zahlen schon pro Lizenz für einen Assistenten?

Behalten Sie ihn, wenn er Ihren Mitarbeitenden hilft. Hier ist, was eine Lizenz abdeckt und was nicht.

- „Wir haben schon ChatGPT Enterprise.“ Dann haben Ihre Mitarbeitenden eine Chat-App mit Agenten darin. Was die Lizenz nicht enthält, ist die Schicht darunter: welche Modelle, wessen Schlüssel, was nach außen geht, wer zahlt.
- „Wir kaufen schon Claude Enterprise.“ Behalten Sie es. SecondStack ersetzt Claude nicht; es bringt Claude auf dieselben Schlüssel, Budgets und denselben Audit-Trail wie alles andere, das Sie nutzen, auf Ihrem eigenen Anthropic-Konto.
- „Wir haben Microsoft 365 Copilot.“ Es deckt Microsoft 365 ab. Aufrufe anderer Modelle und aus Ihren eigenen Apps brauchen eigene Kontrollen.

Aktuelle Listenpreise der Modelle, mit denen das Gateway arbeitet: [Modellpreise](https://secondstack.ai/llm-pricing/)

## Fragen zum LLM-Gateway.

### Welche Modelle erreichen wir über SecondGate?

Die Anbieter, bei denen Sie bereits Konten haben, darunter Anthropic, OpenAI, Google und selbst gehostete Modelle, über Ihre eigenen Schlüssel. Welche Modelle ein Team, eine Person oder ein Agent nutzen darf, legen Sie in ControlTower, der Admin-Konsole, in einer Liste fest. Weil jede Anfrage durch ein Gateway geht, ist der Wechsel zu einem anderen Anbieter eine Einstellung, kein Projekt. Wir hosten keine Modelle und verkaufen keine weiter.

### Wie wird das Gateway abgerechnet?

Nach Verbrauch, nicht pro Lizenz. Die Modellnutzung rechnen Ihre Anbieter über Ihre eigenen Konten ab, und Budgets pro Organisation, Team, Person, API-Key und Agent halten die Gesamtkosten planbar. Fragen Sie uns nach den aktuellen Konditionen.

## Zum Weiterlesen

- [Was ist ein LLM-Gateway?](https://secondstack.ai/blog/what-is-an-llm-gateway/)
- [LLM-Guardrails: personenbezogene Daten und Zugangsdaten vor dem Versand](https://secondstack.ai/blog/llm-guardrails/)
- [LLM-Kostenmanagement: Budgets, Warnungen, Überblick pro Team](https://secondstack.ai/blog/llm-cost-management/)

## Sehen Sie eine Anfrage durch das Gateway gehen.

Bringen Sie ein System mit, das heute schon ein Modell aufruft. Im Demo-Termin leiten wir eine seiner Anfragen durch SecondGate und zeigen, welches Budget zahlt, welche Maskierungsregel greift und was im Protokoll bleibt.

Demo buchen: hello@secondstack.ai