Kunden fragen uns oft: Welches Sprachmodell nutzen Sie eigentlich? Unsere Antwort lautet meistens: Das kommt darauf an.
Warum wir uns nicht festlegen
Verschiedene Modelle haben verschiedene Stärken. Das eine kommt gut mit langen Texten zurecht, das andere schreibt natürlicheres Chinesisch, ein drittes ist günstig und schnell und eignet sich für große Mengen einfacher Aufgaben. Wer ein Projekt fest an einen einzigen Anbieter bindet, gibt diese Möglichkeiten von vornherein auf. Außerdem entwickeln sich die Modelle schnell weiter: Das beste Modell von heute ist in ein paar Monaten vielleicht schon überholt.
Wie wir auswählen
Für eine Aufgabe testen wir mehrere Modelle mit denselben echten Beispielen und vergleichen dann vier Dinge: Qualität, Kosten, Geschwindigkeit und Compliance. Bei Projekten in China nutzen wir oft DeepSeek, Qwen, Kimi, Zhipu GLM und Doubao, bei Projekten außerhalb Chinas OpenAI, Claude, Gemini und Llama. Häufig teilen sich auch zwei oder drei Modelle in einem System die Arbeit.
Wie wir mit Daten umgehen
- Wir setzen bevorzugt auf Enterprise-APIs, die nicht mit Kundendaten trainieren
- Bei sensiblen Daten betreiben wir offene Modelle auf den eigenen Servern des Kunden oder auf lokalen Geräten
- Wir bitten nur um die Zugriffsrechte, die wir wirklich brauchen, und wofür die Daten verwendet werden dürfen, steht im Vertrag
- Was sich lokal verarbeiten lässt, wird nicht hochgeladen
Spielraum für später
Was ein Modellwechsel kostet, bedenken wir schon beim Entwurf des Systems. Kommt später ein besseres Modell heraus, setzen wir es ein und testen es mit denselben Beispielen. Passt alles, kann es in Betrieb gehen.