Modell-Verwaltung
Die Modell-Verwaltung bietet eine übersichtliche Oberfläche zur Konfiguration von KI-Modellen für Chat und Embedding-Anwendungen.Neue Modelle erstellen
1
Modell-Liste öffnen
Navigieren Sie zur Modell-Verwaltung in der Admin-Oberfläche und wählen Sie zwischen “Chat Modelle” und “Embedding Modelle”.
2
Neues Modell hinzufügen
Klicken Sie auf den “Neues Modell” Button in der oberen rechten Ecke.
3
Grunddaten eingeben
Füllen Sie die Felder aus:
- Bild: Wählen Sie ein aussagekräftiges Bild für das Modell
- Titel: Ein beschreibender Name für das Modell
4
API-Konfiguration
Konfigurieren Sie die API-Einstellungen:
- API: Wählen Sie den entsprechenden API-Typ aus
- Zugangsdaten: Wählen Sie die zugehörigen Zugangsdaten
- Modell Name: Der spezifische Modellname
5
Kosten und Limits konfigurieren
Setzen Sie die Tokenkosten und Kontext-Limits:
- Kosten Input-Tokens: Kosten pro Input-Token
- Kosten Output-Tokens: Kosten pro Output-Token
- Maximale Tokens pro Kontext: Maximale Anzahl Tokens im Kontext
6
Verhaltenseinstellungen
Konfigurieren Sie das Modell-Verhalten:
- Temperature: Kreativität des Modells (0-2)
- Top P: Nucleus Sampling Parameter (0-1)
- Denkaufwand: Kognitive Anstrengung des Modells
- Streaming: Unterstützung für Streaming-Responses
7
Sicherheitseinstellungen
Konfigurieren Sie DLP (Data Loss Prevention) Einstellungen:
- Benutzer-Identifikation: Fügt der API-Request einen eindeutigen Bezeichner hinzu
- Erlaubte MIME-Typen: Schutz vor bestimmten Dateitypen (Kopierbar)
- GDPR Protection: Schutz personenbezogener Daten
- Sensitive File Protection: Schutz vertraulicher Dokumente
- Enterprise DLP: ICAP-Server Integration
8
Speichern
Klicken Sie auf “Speichern” um das Modell zu erstellen.
Verfügbare API-Typen
OpenAI Chat API (/chat/completions)
Standard OpenAI Chat Completions API für Textgenerierung.OpenAI Assistant API (/assistants)
OpenAI Assistant API für strukturierte Assistenten-Funktionalität.OpenAI Responses API (/responses)
OpenAI Responses API für spezielle Response-Formate.IONOS API (/chat/completions)
IONOS-kompatible Chat Completions API.OpenAI Chat API ohne HTTP Proxy
OpenAI API ohne Proxy-Unterstützung für direkte Verbindungen.DLP-Sicherheitseinstellungen
Basis DLP Einstellungen
GDPR Protection
Erkennt personenbezogene Daten im Chat und verschlüsselt diese vor dem Transfer zur KI. Schutzstufe für GDPR-konforme Datenverarbeitung. Verfügbare Optionen- aktiviert: GDPR-Schutz ist immer aktiviert und kann nicht deaktiviert werden.
- optional: GDPR-Schutz ist standardmäßig aktiviert, kann aber vom Benutzer deaktiviert werden
- deaktiviert: GDPR-Schutz ist deaktiviert und wird nicht angewendet.
Sensitive File Protection
Blockiert den Upload von Dokumenten, welche eine vertrauliche Klassifizierung haben. Schutzstufe für vertrauliche Dokumente. Verfügbare Optionen- aktiviert: Upload vertraulicher Dokumente wird blockiert.
- deaktiviert: Upload vertraulicher Dokumente ist erlaubt.
Enterprise DLP Einstellungen
DLP Interface (ICAP)
Sendet Texte und Dateien zur Überprüfung an den konfigurierten ICAP Server. Aktivierung der Enterprise DLP-Funktionalität. Verfügbare Optionen- aktiviert: ICAP-Server wird für alle Inhalte verwendet.
- deaktiviert: ICAP-Server wird nicht verwendet.
Modell verwalten
Liste der Modelle
Die Übersicht zeigt alle konfigurierten Modelle mit:- Icon: Visueller Identifier des Modells
- Name: Der angegebene Name des Modells
- Typ: Chat oder Embedding Modell
- Aktionen:
- Bearbeiten (Stift-Button)
- Löschen (Papierkorb-Button)
Modell-Typen
Chat Modelle
Modelle für Textgenerierung und Konversationen.Embedding Modelle
Modelle für Text-Vektorisierung und semantische Suche.Best Practices
1
Modell-Auswahl
Wählen Sie das passende Modell basierend auf Ihren Anforderungen und Budget.
2
Kosten-Optimierung
Konfigurieren Sie realistische Token-Kosten für präzise Kostenverfolgung.
3
Sicherheit
Aktivieren Sie DLP-Schutz für sensible Daten und Compliance-Anforderungen.
4
Performance
Setzen Sie angemessene Token-Limits für optimale Performance.
5
Testing
Testen Sie neue Modell-Konfigurationen in einer sicheren Umgebung.
Info: Modelle können nur mit Zugangsdaten des entsprechenden Provider-Typs
verwendet werden.
Hinweis: Felder mit einem Stern (*) sind Pflichtfelder und müssen
ausgefüllt werden.