Alle artikelen
Uitleg2 min lezen

Een eigen AI-chat: waar blijven je gegevens?

Een chat op je eigen domein verwerkt niet vanzelf alles lokaal. Kijk naar het model, de documenten en de verbindingen erachter.

Een chat met je eigen logo en een adres op je eigen domein voelt als een interne omgeving. Toch zegt dat nog weinig over waar de vragen en documenten worden verwerkt. Dat hangt af van de onderdelen die je aansluit.

Het scherm en het model zijn verschillende onderdelen

Open WebUI is een voorbeeld van een chatomgeving die je zelf kunt beheren. De documentatie beschrijft verbindingen met onder meer Ollama en externe modelaanbieders. Je kunt dus een eigen interface hebben terwijl een model elders de antwoorden maakt.

Daarnaast kunnen documentverwerking, zoeken op internet of andere functies hun eigen verbindingen gebruiken. Alleen vaststellen waar de website draait is daarom onvoldoende.

Breng de route van een vraag in kaart

Neem een medewerker die iets vraagt over een interne handleiding. Waar wordt het bestand opgeslagen? Welk onderdeel zoekt relevante passages? Waar wordt het antwoord gemaakt? En wat wordt achteraf in de gespreksgeschiedenis of logboeken bewaard?

Ik zou dit eerst voor één voorbeeld uitwerken. Dat maakt het gesprek over privacy en beheer een stuk concreter. Een architectuurplaat hoeft daarvoor niet ingewikkeld te zijn; je wilt vooral zien welke informatie waar terechtkomt.

Lokaal draaien vraagt ook beheer

Een lokaal model kan een optie zijn als de gegevens binnen een eigen omgeving moeten blijven. Je moet dan beoordelen of de beschikbare hardware voldoende is en of de antwoorden bruikbaar zijn. Ook toegang, updates en back-ups moeten geregeld worden.

De Open WebUI-handleiding benoemt bijvoorbeeld dat gesprekken, gebruikers en instellingen in blijvende opslag horen. Dat zijn gegevens waar iemand verantwoordelijkheid voor moet nemen, ook bij een kleine proef.

Begin met documenten die dezelfde doelgroep hebben

Voor een eerste test zou ik een kleine groep gebruikers en een afgebakende documentverzameling kiezen. Spreek af wie die informatie mag zien en test ook vragen waarop geen antwoord in de documenten staat.

Een privacyvriendelijke inrichting ontstaat door keuzes over de hele verwerking. Ik zou daarom eerst die keuzes vastleggen en daarna pas een chatomgeving installeren.

Bronnen en verder lezen

Uitleg en eigen beoordeling op basis van onderstaande bronnen. Genoemde voorbeelden zijn illustratief.