Zum Hauptinhalt springen
Diese Anleitung beschreibt die Installation von VARIOS AI auf einem eigenen Linux-Server. VARIOS AI läuft als Docker-Compose-Installation; die Installationsdateien docker-compose.yml, .env, varios.sh und update_version erhalten Sie vom VARIOS-AI-Team. Prüfen Sie vorab die Systemvoraussetzungen.
Rechnen Sie für die technische Installation mit einem halben Arbeitstag. Die meiste Zeit entfällt auf Abstimmungen mit DNS-, Firewall- und Identitätsteam, planen Sie diese vorab ein.

Installation

1

Server vorbereiten

Spielen Sie die aktuellen Updates Ihrer Distribution ein, aktivieren Sie die Zeitsynchronisation und richten Sie die Firewall nach den Systemvoraussetzungen ein. Eine korrekte Uhrzeit ist für Anmeldung und Zertifikate zwingend.
2

Docker installieren

Installieren Sie Docker Engine und Docker Compose v2 nach der Anleitung Ihrer Distribution oder mit dem offiziellen Skript, und aktivieren Sie den Autostart.
3

gVisor installieren (optional, empfohlen)

Der Code Interpreter führt Code in einer Sandbox aus. Mit gVisor ist diese Sandbox zusätzlich vom Kernel des Servers abgeschirmt. Installieren Sie runsc nach der offiziellen Anleitung und registrieren Sie es als Docker-Runtime: Installation und Docker Quick Start.
4

Installationsverzeichnis anlegen

Legen Sie ein Verzeichnis an, zum Beispiel /docker/variosai, und kopieren Sie die vier Installationsdateien hinein. In diesem Verzeichnis entstehen später auch Datenbank, Dateien und Backups, sichern Sie es entsprechend.
5

.env anpassen

Die gelieferte .env enthält Vorgaben. Passen Sie mindestens diese Werte an:Die beiden Tokens erzeugen Sie direkt in der .env:
Die .env enthält Passwörter und Geheimnisse. Geben Sie sie nicht weiter und nehmen Sie sie in jedes Backup auf.
6

HTTPS festlegen

Standardmäßig holt VARIOS AI das Zertifikat automatisch über Let’s Encrypt. Dafür müssen PROJECT_DOMAIN auf den Server zeigen und die Ports 80 und 443 aus dem Internet erreichbar sein. Weitere Vorbereitungen sind nicht nötig, die Zertifikatsdateien werden beim ersten Start automatisch angelegt.Soll stattdessen ein eigenes Zertifikat verwendet werden, folgen Sie Eigenes HTTPS-Zertifikat konfigurieren. Soll VARIOS AI über einen vorhandenen Reverse Proxy Ihres Unternehmens erreichbar sein, folgen Sie VARIOS AI hinter einem Reverse Proxy betreiben.
7

An der Container-Registry anmelden

Die Zugangsdaten erhalten Sie vom VARIOS-AI-Team. Die Anmeldung bleibt auf dem Server gespeichert und ist nach einem Serverwechsel zu wiederholen. Melden Sie sich mit sudo an, denn der Update-Helfer varios.sh läuft als systemd-Dienst unter root und verwendet die Anmeldung von root. Wenn Sie docker auch als eigener Benutzer ohne sudo aufrufen, melden Sie sich zusätzlich ohne sudo an.
8

Dienste starten

Der erste Start lädt alle Images und dauert einige Minuten. Anschließend sollten alle Dienste als running oder healthy gelistet sein.
9

Datenbank einrichten

Das Skript legt die Datenbank an, lädt die Vorlagenbibliothek und bereitet die Anwendung vor. Beim ersten Lauf kann das 15 bis 60 Minuten dauern, brechen Sie es nicht ab. Es prüft dabei auch, ob der Prozessor AVX2 unterstützt.
Danach ist VARIOS AI unter https://<PROJECT_DOMAIN> erreichbar.
10

Anmelden und Lizenz eintragen

Melden Sie sich mit einem Konto an, das im Identitätsanbieter die Rolle aus SUPERADMIN_GROUP_NAME trägt. Tragen Sie den Lizenzschlüssel vom VARIOS-AI-Team unter Administration → Einstellungen → Systeminformationen ein.
11

Update-Helfer einrichten

varios.sh führt die Updates aus, die Sie in der Oberfläche anstoßen. Richten Sie ihn als systemd-Dienst ein, damit er nach einem Neustart weiterläuft, siehe systemd-Dienst.
Der Update-Helfer entfernt nach jedem Update ungenutzte Docker-Images und -Volumes des gesamten Servers. Betreiben Sie keine weiteren Docker-Anwendungen auf demselben Server.

Grenzen des Code Interpreters anpassen

Für Eingabe- und Ergebnisdateien des Code Interpreters gelten Standardwerte. Um sie zu ändern, tragen Sie die Variablen in die .env ein. Die docker-compose.yml reicht sie an alle betroffenen Dienste weiter. VARIOS AI nennt dem Assistenten die eingestellten Grenzen, damit er Ausführungen danach planen kann. Übernehmen Sie die Änderung anschließend im Installationsverzeichnis. VARIOS AI ist dabei kurz nicht erreichbar.

Auswahl der Eingabedateien

Vor jeder Ausführung stellt VARIOS AI die Dateien des Chats und die Dateien zusammen, die dem Assistenten hinterlegt sind. Haben zwei Dateien denselben Pfad, wird nur die Datei des Chats verwendet. Die Dateien werden nach dem Zeitpunkt ihrer letzten Änderung sortiert, die neueste zuerst, und in dieser Reihenfolge übernommen:
  • Ist CODE_INTERPRETER_MAX_WORKSPACE_FILES erreicht, bleiben alle weiteren Dateien unberücksichtigt.
  • Passt eine Datei nicht mehr in das verbleibende Volumen von CODE_INTERPRETER_MAX_WORKSPACE_RAW_BYTES, wird sie übersprungen. Kleinere, ältere Dateien können danach noch übernommen werden.
Welche Dateien übersprungen wurden und warum, teilt VARIOS AI dem Assistenten im Ergebnis der Ausführung mit. Im System-Log erscheint dazu die Meldung Sandbox projection skipped files over the byte or file-count budget.

Rückkopie der Ergebnisdateien

Nach der Ausführung kopiert VARIOS AI alle Dateien aus dem Arbeitsverzeichnis der Sandbox zurück. Dazu gehören auch die mitgegebenen Eingabedateien: Unveränderte Dateien erzeugen keine neue Version, zählen aber gegen CODE_INTERPRETER_MAX_ARCHIVE_FILES. Wählen Sie diesen Wert deshalb größer als CODE_INTERPRETER_MAX_WORKSPACE_FILES. Eine Ergebnisdatei, die größer als CODE_INTERPRETER_MAX_OUTPUT_FILE_BYTES ist, wird nicht gespeichert und erscheint nicht als Download in der Antwort. Der Assistent erhält dazu einen Hinweis. Unabhängig davon werden je Ausführung insgesamt höchstens 64 MiB zurückkopiert.
Die Eingabedateien werden Base64-kodiert an den Code Interpreter übertragen und dabei um rund ein Drittel größer. Deshalb gelten zusätzlich diese Grenzen, die Sie ebenfalls in der .env setzen:
  • CODE_INTERPRETER_MAX_REQUEST_BYTES (Standard 20000000) begrenzt die gesamte Anfrage einschließlich aller Eingabedateien.
  • CODE_INTERPRETER_MAX_WORKSPACE_FILE_B64_CHARS (Standard 18000000) begrenzt eine einzelne Eingabedatei auf ca. 13,5 MB.
  • CODE_INTERPRETER_WORKSPACE_TMPFS_MB (Standard 128) begrenzt das Arbeitsverzeichnis der Sandbox, in dem Eingabe- und Ergebnisdateien zusammen Platz finden müssen.
Erhöhen Sie CODE_INTERPRETER_MAX_WORKSPACE_RAW_BYTES über ca. 14 MB, passen Sie diese Werte entsprechend an. Andernfalls lehnt der Code Interpreter die Anfrage ab und die Ausführung schlägt fehl.

Updates

Updates stoßen Sie unter Administration → Einstellungen → Systeminformationen an. Dort sehen Sie, ob eine neue Version verfügbar ist, und wählen die Zielversion; der Update-Helfer varios.sh führt das Update aus. Planen Sie dafür ein Wartungsfenster, während des Updates ist VARIOS AI einige Minuten nicht erreichbar. Erstellen Sie vor jedem Update einen Snapshot oder ein Backup, siehe Backup und Wiederherstellung.

Prüfung nach der Installation

  • https://<PROJECT_DOMAIN> öffnet ohne Zertifikatswarnung.
  • Anmeldung mit einem normalen Konto und mit einem Administratorkonto funktioniert, das Menü Administration ist sichtbar.
  • Lizenzschlüssel eingetragen, keine Lizenzmeldung.
  • Ein Testchat wird beantwortet.
  • Ein Testchat mit Code Interpreter funktioniert: „Berechne mit Python die ersten 20 Primzahlen und speichere sie als primzahlen.txt.“ Die Datei erscheint im Chat.
  • Update-Helfer läuft als systemd-Dienst, tägliche Datenbank-Sicherungen erscheinen unter PostgresBackups.

Fehlersuche