Das hängt von den tatsächlichen Zugriffskontrollen ab. RAG oder ein bekanntes Modell garantieren diese Abgrenzung nicht. Beginnt mit einem freigegebenen Ablauf, klaren Nutzern und den dafür notwendigen Informationen.
Die Datengrenze vereinbaren Benennt Quellsysteme, Nutzergruppen und ausgeschlossene Inhalte. Klärt, welches Konto jede Quelle liest und ob die Rechte der fragenden Person geprüft werden. Suchindex, gespeicherte Antworten und Gesprächsverlauf dürfen diese Grenze nicht unbemerkt umgehen.
Lasst Euch unter anderem zeigen: - Eine erlaubte Frage mit gültiger Quelle. - Dieselbe Frage von einer Person ohne Zugriff. - Entzogene Rechte sowie geänderte oder gelöschte Quellen. - Fehlende oder widersprüchliche Belege und einen hilfreichen Ausweichweg. - Ein Dokument mit Anweisungen, die den Assistenten umlenken sollen.
Das ist ein Prüfplan für Eure Konfiguration und kein Beweis, dass jeder Angriff ausgeschlossen ist. Verarbeitungsorte, Anbieter, Aufbewahrung, Protokollierung und erforderliche Auftragsverarbeitung müssen zum tatsächlichen Aufbau passen.
Interne KI-Assistenten behandeln abgegrenzte Datenanbindung und Piloten. Ein eigener KI-Sicherheitsreview braucht einen gesondert vereinbarten Umfang. Produktentwicklung, Sicherheitsprüfung und rechtliche Freigabe sind unterschiedliche Aufgaben.
Für den Einstieg: Dokumentarten, Nutzer, gewünschte Antwort und ausgeschlossene Informationen. Lade hier keine vertraulichen Originaldokumente hoch; vereinbare Kanal und Zugriffsrechte mit dem Team.