Modell-Konfiguration: Ein Blick in die Zukunft

Kennst du das? Du jonglierst mit verschiedenen API-Keys für private Projekte und die Arbeit, aber die Konfiguration fühlt sich jedes Mal wie ein Puzzle an. Wenn dann ein Modell ausfällt, bricht oft das ganze System zusammen, weil die Fallback-Logik zu kompliziert oder gar nicht vorhanden ist.

Wir arbeiten an einer Lösung, die diese Reibungspunkte beseitigt. Das Ziel ist eine Struktur, die sich natürlich anfühlt und dir die volle Kontrolle über deine Provider gibt.

Voraussetzungen

Bevor du dich mit den neuen Konzepten beschäftigst, solltest du mit dem aktuellen Stand vertraut sein:

• Models
• Model failover
• OAuth + profiles

Schnellstart

Die zukünftige Konfiguration setzt auf Einfachheit und Vorhersehbarkeit. Hier ist der empfohlene Weg, wie Modelle und Profile in Zukunft strukturiert werden:

1. Einfache Auswahl: Nutze das Format provider/model für eine klare Zuweisung.
2. Auth-Profile: Hinterlege mehrere Profile pro Provider (z. B. “Personal” und “Work”) mit einer expliziten Reihenfolge.
3. Globale Fallbacks: Definiere eine konsistente Liste für Failover, damit alle Sessions stabil bleiben.
4. Spezialisierte Routen: Trenne Text-Modelle klar von Image-Modellen, um Fehlkonfigurationen zu vermeiden.

Fehlerbehebung

Da sich diese Funktionen noch in der Explorations-Phase befinden, gibt es einige Punkte, die du beachten solltest:

• Profil-Rotation: Es ist noch offen, ob die Rotation pro Provider oder pro Modell erfolgen sollte.
• UI-Integration: Die Darstellung der Profil-Auswahl innerhalb einer Session wird noch optimiert.
• Migration: Der sicherste Weg, um von alten Config-Keys zu migrieren, wird derzeit noch definiert.
• Image Routing: Überschreibungen beim Routing von Bildern greifen nur, wenn sie explizit konfiguriert wurden.

Hast du Fragen zur Einrichtung oder brauchst Hilfe bei der aktuellen Konfiguration? Nutze den AI Setup Assistant.

Nächste Schritte

• Model failover: Erfahre, wie du Ausfälle heute schon abfängst.
• OAuth + profiles: Details zur aktuellen Handhabung von Authentifizierungen.