Skip to main content
Diese Seite beschreibt Risiken, die beim bestimmungsgemäßen Einsatz von VARIOS AI oder bei vorhersehbarer Fehlbedienung entstehen können, und die Maßnahmen, mit denen Sie sie begrenzen.

​
Weitergabe von Daten an KI-Anbieter

Eingaben, hochgeladene Dokumente und Inhalte aus Wissensdatenbanken gehen an das Sprachmodell, das für einen Assistenten konfiguriert ist. Bei externen Anbietern verlassen diese Daten Ihre Infrastruktur.
  • Wählen Sie Anbieter und Rechenzentrumsregion bewusst aus, oder setzen Sie für sensible Anwendungsfälle selbst betriebene Modelle ein.
  • Aktivieren Sie die GDPR Protection für jedes externe Modell.
  • Sperren Sie klassifizierte Dateien über Vertraulichkeitsbezeichnungen.
  • Beschränken Sie über Gruppen, wer welche Modelle nutzen darf.

​
Grenzen der automatischen Erkennung personenbezogener Daten

Die DLP-Erkennung arbeitet automatisch und kann personenbezogene Daten übersehen oder harmlose Begriffe als solche einstufen. Im Modus Optional entscheiden Nutzer selbst, ob erkannte Daten unverändert gesendet werden.
  • Ergänzen Sie unternehmensspezifische Muster in der Deny-List.
  • Nehmen Sie in die Allow-List nur Begriffe auf, die nie schutzbedürftig sind.
  • Regeln Sie den Umgang mit vertraulichen Daten zusätzlich organisatorisch, etwa in einer Nutzungsrichtlinie.

​
Manipulierte Inhalte (Prompt Injection)

Webseiten, Dokumente, Inhalte von Wissensdatenbanken und Antworten von Konnektoren können versteckte Anweisungen enthalten. Das Sprachmodell kann solchen Anweisungen folgen, etwa Daten an Dritte weitergeben oder unerwünschte Aktionen auslösen.
  • Aktivieren Sie Human in the Loop für jeden Konnektor, der Daten verändert oder versendet. Nutzer prüfen dann jeden Aufruf vor der Ausführung.
  • Binden Sie Konnektoren und Internetsuche nur in Assistenten ein, die sie tatsächlich benötigen.
  • Nehmen Sie nur vertrauenswürdige Quellen in Wissensdatenbanken auf.

​
Konnektoren mit weitreichenden Berechtigungen

Konnektoren handeln mit den Berechtigungen, die ihnen erteilt wurden: über hinterlegte Zugangsdaten oder über die Anmeldung des jeweiligen Nutzers, etwa bei Microsoft 365 oder MCP-Servern mit OAuth.
  • Erteilen Sie nur die Berechtigungen, die der Anwendungsfall benötigt.
  • Verbinden Sie nur MCP-Server, deren Betreiber Sie vertrauen.
  • Erneuern Sie die Schlüssel unter Zugangsdaten regelmäßig.

​
Netzwerkexposition des Servers

In der docker-compose.yml dieser Version sind neben den Ports 80 und 443 auch die Ports der Datenbank (POSTGRES_PORT) und des Zwischenspeichers (REDIS_PORT) freigegeben. Docker veröffentlicht Ports an der Firewall des Hostsystems vorbei; ein freigegebener Port kann daher erreichbar sein, obwohl die Host-Firewall ihn sperrt.
  • Entfernen Sie bei den Diensten postgres und redis den Abschnitt ports. Alle Dienste kommunizieren über ein internes Netz und benötigen keinen freigegebenen Port.
  • Setzen Sie POSTGRES_PASSWORD und REDIS_PASSWORD auf lange, zufällige Passwörter, siehe Installationsanleitung.
  • Prüfen Sie die erreichbaren Ports von einem anderen System aus, zum Beispiel mit nmap.

​
Ausführung von Code

Der Code-Interpreter führt vom Sprachmodell erzeugten Code in isolierten Containern aus. Dafür startet VARIOS AI Container auf dem Hostsystem.
  • Betreiben Sie VARIOS AI auf einem eigenen Server ohne weitere Anwendungen.
  • Erlauben Sie die Codeausführung nur in Assistenten, die sie benötigen.

​
Administrative Zugänge

Wer Administratorrechte hat, kann Modelle, Konnektoren und Datenschutzeinstellungen ändern.
  • Schützen Sie die Anmeldung über Ihren Identitätsanbieter mit Mehrfaktor-Authentifizierung.
  • Vergeben Sie Administratorrechte nur an wenige Personen.
  • Aktivieren Sie den Supportzugang nur für die Dauer eines Support-Falls.

​
Veraltete Versionen

Sicherheitsupdates erscheinen nur für die jeweils aktuelle Version eines Release-Zweigs. Eine ältere Version kann bekannte Schwachstellen enthalten.