Open WebUI — die Arbeitsoberfläche vor Deiner lokalen KI
LM Studio rechnet. Open WebUI ist das, was man bedient: Konten, gespeicherte Unterhaltungen, eigene Dokumente mit Fundstellen, Assistenten, Rollen. Dasselbe Modell, ein anderer Arbeitsplatz. Diese Schulung baut auf LM Studio auf und geht davon aus, dass dort ein Modell läuft.
▶ Das ganze Video
Rund achtzehn Minuten am Stück, oder unten Stufe für Stufe mit Text daneben.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Worum geht's?
Am Ende der LM-Studio-Schulung steht ein Satz: man könne eine Oberfläche davorhängen, mit Nutzern und gespeicherten Unterhaltungen. Diese Schulung macht genau das.
Open WebUI ist kein Modell und rechnet nichts. Es ist die Schicht darüber — die, in der ein Team arbeitet: jeder mit eigenem Konto, Unterhaltungen bleiben erhalten, eigene Handbücher lassen sich befragen, und wer welches Modell sehen darf, entscheidet eine Rolle.
Der ehrliche Teil kommt in den Stufen 7 und 8. Eigene Dokumente zu befragen klingt nach einer gelösten Sache, und es ist keine. Wir schauen uns an einem echten Durchlauf an, wo es schiefgeht — mit Antworten, die vorbildlich aussehen und trotzdem falsch sind.
Selbstlern-Kurs zum Durchklicken. Dein Fortschritt wird lokal gespeichert.
? Für wen ist das interessant?
↗ Was Du vorher brauchst
- Ein laufendes Modell. Diese Schulung setzt LM Studio voraus — inklusive des lokalen Servers aus dessen Stufe 7. Ollama geht genauso, siehe Lokale KI.
- Docker. Ein einziger Befehl reicht. Wenn Dir Container nichts sagen, lohnt vorher die Docker-Schulung.
- Etwas Platz. Das Abbild ist gut 7 GB groß — mehr als man für eine Weboberfläche erwartet.
📚 Die zwölf Stufen
ℹ Stand der Dinge
Open WebUI entwickelt sich schnell. Alles hier ist an Open WebUI 0.11.3 aufgenommen, September 2026, unter Windows 11 mit Docker Desktop. Dahinter läuft LM Studio 0.4.24 mit Qwen3.8 27B in Q4 und bge-m3 als Embedding-Modell, auf einer RTX 3090 mit 24 GB.
Menüpunkte können in neueren Fassungen anders heißen. Was sich selten ändert, sind die Begriffe: Verbindung, Wissenssammlung, Embedding-Modell, Rolle. Danach suchen, nicht nach dem Wortlaut im Video.
Was das ist
Eine Oberfläche ist kein Modell. Der Unterschied klingt selbstverständlich und wird trotzdem dauernd verwechselt.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
In LM Studio hast Du beides in einem Fenster: das Modell und die Bedienung. Das ist bequem und es ist genau eine Person, ein Rechner, ein Programm.
Open WebUI trennt das auf. Unten bleibt LM Studio und rechnet. Darüber liegt eine Weboberfläche, die im Browser läuft und über eine Adresse erreichbar ist. Damit ändert sich nicht, wie gut die Antworten sind — es ist dasselbe Modell, das dieselben Wörter erzeugt.
Was sich ändert, ist alles drumherum. Unterhaltungen werden gespeichert und gehören einem Konto. Mehrere Leute können denselben Rechner benutzen, ohne sich in die Quere zu kommen. Eigene Dokumente lassen sich hinterlegen und befragen. Und wer welches Modell sieht, lässt sich festlegen.
Merk Dir die Trennung, sie hilft beim Fehlersuchen: Wenn die Antwort schlecht ist, liegt es am Modell. Wenn gar keine Antwort kommt, liegt es an der Oberfläche oder an der Verbindung dazwischen.
1 Zwei Schichten, zwei Zuständigkeiten
Lädt das Modell in den Grafikspeicher und rechnet. Kennt keine Nutzer, keine Rechte, keine Dokumente. Spricht über eine offene Schnittstelle auf Port 1234.
Zuständig für: Tempo, Qualität der Antwort, Speicherbedarf.
Läuft im Browser, speichert Unterhaltungen, verwaltet Konten und Wissenssammlungen. Rechnet selbst nichts — es reicht Deine Frage nach unten durch.
Zuständig für: Bedienung, Gedächtnis, Zugriff, Dokumente.
2 Was dazukommt
3 Was nicht dazukommt
Die Oberfläche macht die KI nicht klüger. Ein 27-Milliarden-Modell antwortet in Open WebUI genauso gut oder schlecht wie in LM Studio, mit denselben Grenzen aus der LM-Studio-Stufe 9.
Sie macht auch nichts automatisch datenschutzkonform. Dass eine Oberfläche im eigenen Haus läuft, sagt nichts darüber, wohin die Dienste telefonieren, die man darin einschaltet. Websuche ist so ein Fall, und der kommt in Stufe 10 ausdrücklich zur Sprache.
4 Warum Open WebUI und nicht etwas anderes
Es gibt mehrere solcher Oberflächen. LibreChat ist die bekannteste Alternative und kann vieles davon ebenfalls. Open WebUI ist hier aus zwei Gründen drin: Es deckt mehr Fläche ab — Wissenssammlungen, Werkzeuge, Rollen, Websuche in einem Paket — und es startet mit einem einzigen Container, ohne Datenbank daneben.
Das ist keine Wahl gegen LibreChat. Wer dort schon eingerichtet ist, verliert nichts. Die Begriffe in dieser Schulung — Verbindung, Wissenssammlung, Embedding-Modell — heißen dort ähnlich und meinen dasselbe.
✓ Kurz geprüft
Mit Docker starten
Eine Datei mit acht Zeilen, ein Befehl, ein Konto. Danach läuft es.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im ersten Video gesagt wird
Open WebUI läuft in einem Container. Wir legen dafür einen Ordner an und darin eine Datei namens docker-compose Punkt yml. Darin steht, welches Abbild benutzt wird, welcher Port nach außen geht und wo die Daten bleiben.
Innen lauscht Open WebUI immer auf Port achttausendachtzig. Nach außen legt die offizielle Anleitung Port dreitausend. Auf diesem Rechner ist der schon belegt, deshalb steht hier außen derselbe Port wie innen. Wenn beim Start eine Meldung kommt, der Port sei vergeben, ist das der Grund — dann nimmt man einen anderen.
Der Befehl zum Starten ist docker compose up minus d. Das minus d heißt: im Hintergrund. Beim ersten Mal lädt Docker gut sieben Gigabyte herunter, das dauert.
Docker compose p s zeigt, dass der Container läuft. Damit ist der Dienst da, gesehen haben wir ihn noch nicht.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im zweiten Video gesagt wird
Der Container läuft, also in den Browser: localhost, Doppelpunkt, achttausendachtzig. Die Datenbank dahinter ist leer, es gibt noch kein einziges Konto.
Wir legen eins an. Wichtig ist der erste: Wer sich zuerst registriert, wird automatisch Administrator. Alle weiteren sind normale Nutzer und müssen freigeschaltet werden.
Das Konto liegt in der eigenen Datenbank im Container, nicht bei einem Anbieter. Es geht nichts nach draußen.
1 Die Compose-Datei
Leg einen Ordner an, zum Beispiel open-webui, und darin eine Datei docker-compose.yml:
services:
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: unless-stopped
ports:
- "8080:8080"
volumes:
- open-webui-data:/app/backend/data
volumes:
open-webui-data:
- image ist das fertige Abbild, das Docker aus dem Netz holt.
:mainist die laufende Fassung. - ports heißt „außen zu innen". Links der Port auf Deinem Rechner, rechts der im Container. Innen ist es immer 8080.
- volumes ist der Ort, an dem alles bleibt, was Open WebUI behält: Konten, Unterhaltungen, Wissenssammlungen. Löscht Du den Container, sind die Daten trotzdem noch da.
- restart: unless-stopped startet den Dienst nach einem Neustart des Rechners wieder mit.
2 Starten
docker compose up -d
Prüfen, ob er läuft:
docker compose ps docker compose logs -f # mitlesen, Strg+C beendet das Mitlesen (nicht den Dienst)
Dann im Browser auf http://localhost:8080.
3 Wenn der Port belegt ist
3000:8080. Port 3000 ist der Standardport unzähliger Entwicklungswerkzeuge — auf dem Rechner in diesem Video hielt ihn ein anderer Dienst, und der Start brach ab mit „port is already allocated".Das ist kein Fehler in Open WebUI, sondern eine Belegung. Nimm links einfach eine andere Zahl:
ports:
- "8080:8080" # oder 3010:8080, 8081:8080 …
docker compose up -d erneut.4 Das erste Konto
Beim ersten Aufruf fragt Open WebUI nach Name, Mailadresse und Passwort. Die Mailadresse wird nicht geprüft und nicht verschickt, sie ist nur der Anmeldename.
Alle weiteren Registrierungen landen in einer Warteschlange und müssen freigeschaltet werden. Wie das aussieht, steht in Stufe 11.
5 Stoppen, ohne etwas zu verlieren
docker compose down # stoppt den Dienst, Daten bleiben im Volume docker compose up -d # startet ihn wieder docker compose down -v # ⚠ loescht auch das Volume: alles weg
-v ist der einzige der drei, der wehtut. Es entfernt das Volume mit Konten, Unterhaltungen und Wissenssammlungen.✓ Kurz geprüft
LM Studio anbinden
Ein Verbindungsplatz, zwei Felder, ein Prüfknopf. Und eine Adresse, die anders lautet, als man denkt.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
Frisch installiert kennt Open WebUI kein einziges Modell. Einen Verbindungsplatz bringt es trotzdem mit, und der zeigt ab Werk auf den Dienst von OpenAI. Ohne Schlüssel, also ohne Funktion, aber mit einem Fehler bei jedem Modellabruf. Genau diesen Platz überschreiben wir jetzt.
Wir gehen in die Einstellungen, dort in den Abschnitt für Administratoren. Die Liste ist länger als das Fenster, deshalb tippen wir ins Suchfeld statt zu scrollen. Das Suchfeld versteht übrigens nur Englisch, auch wenn die Oberfläche deutsch ist: Wir tippen connect, und übrig bleiben Integrationen und Verbindungen. Wir nehmen die Verbindungen. Ein Klick auf das Zahnrad öffnet den vorhandenen Eintrag.
In die Adresse kommt nicht das, was man erwartet. In LM Studio steht der Server unter hundertsiebenundzwanzig Punkt null Punkt null Punkt eins, und genau das funktioniert hier nicht. Denn diese Adresse bedeutet innerhalb des Containers: der Container selbst. Und dort läuft kein Modell.
Aus einem Container heraus heißt der Rechner, auf dem Docker läuft, host Punkt docker Punkt internal. Die vollständige Adresse ist also host Punkt docker Punkt internal, Doppelpunkt, der Port von LM Studio, Schrägstrich v eins.
Der Schlüssel darunter ist beliebig. LM Studio prüft ihn nicht, das Feld darf aber nicht leer bleiben. Wir schreiben einfach lm-studio hinein.
Bevor wir speichern, der Knopf daneben: Verbindung prüfen. Der fragt die Adresse sofort ab und sagt, ob sie trägt. Das erspart die Suche an der falschen Stelle, falls etwas nicht stimmt.
Speichern, und die Modellliste füllt sich. Wenn nicht: Open WebUI merkt sich diese Liste eine Weile. Nach einem Wechsel in LM Studio hilft ein Klick auf Aktualisieren.
1 Der Weg in den Einstellungen
- Unten links auf Deinen Namen klicken, dann Einstellungen.
- Im Dialog nach unten zum Abschnitt Administrator wechseln. Den sieht nur, wer selbst einer ist.
- Ins Suchfeld des Dialogs
connecttippen. Die Einstellungsliste ist länger als das Fenster; scrollen geht auch, tippen ist schneller. ⚠️ Ja, englisch — siehe den Kasten unten. - Verbindungen öffnen. Es gibt zwei Blöcke: Ollama und OpenAI-kompatibel. LM Studio gehört in den zweiten.
- Am vorhandenen Eintrag auf das Zahnrad klicken — nicht auf das Plus daneben. Warum, steht gleich unten.
verbind ergibt „Keine Treffer", connect lässt Verbindungen und Integrationen stehen. Genauso document für Dokumente, audio für Audio, web search für Websuche, interface für Benutzeroberfläche. Wer das nicht weiß, hält den Bereich für verschwunden und fängt an zu scrollen.2 Was hineingehört
URL: http://host.docker.internal:1234/v1 Schlüssel: lm-studio (beliebig, darf nur nicht leer sein)
Der Port 1234 ist LM Studios Vorgabe. Wenn Du ihn dort geändert hast, gilt hier Deine Zahl. Das /v1 am Ende gehört dazu.
Im Adressfeld steht schon etwas, nämlich die Werksadresse zu OpenAI. Markiere sie mit Strg+A, bevor Du tippst, sonst hängt Deine Adresse hinten an der alten. Das Schlüsselfeld ist leer.
3 Warum nicht localhost
Das ist die Falle, an der fast jeder einmal hängt. In LM Studio steht die Adresse http://127.0.0.1:1234, und die trägt man reflexhaft ein. Sie funktioniert nicht, und die Fehlermeldung sagt nur, die Verbindung sei fehlgeschlagen.
Der Grund ist die Abschottung von Containern. localhost und 127.0.0.1 bedeuten immer „dieses Gerät hier". Innerhalb des Containers ist „dieses Gerät hier" der Container — nicht Dein Rechner. Und im Container läuft kein Sprachmodell.
host.docker.internal ist der Name, den Docker Desktop für den umgebenden Rechner bereitstellt. Er funktioniert unter Windows und macOS ohne weiteres Zutun.extra_hosts: ["host.docker.internal:host-gateway"] in die Compose-Datei ein — oder man nimmt gleich die IP-Adresse des Rechners im Netz. Unter Docker Desktop darf man diesen Eintrag ausdrücklich nicht setzen: er überschreibt die eingebaute Auflösung und zerstört genau die Verbindung, die man reparieren wollte.4 Warum überschreiben und nicht neu anlegen
Der Platz, den Du gerade ausgefüllt hast, war nicht leer. Ab Werk steht dort https://api.openai.com/v1 mit leerem Schlüssel — aktiv, ohne dass jemand das eingerichtet hätte.
Das stört auf zwei Arten: Jeder Modellabruf läuft in einen Fehler, weil der Schlüssel fehlt, und es ist ein offener Kanal nach draußen. Man könnte daneben eine zweite Verbindung anlegen und die erste abschalten. Überschreiben ist weniger Arbeit und gründlicher: Danach gibt es keinen Eintrag mehr, der nach draußen zeigt, auch keinen abgeschalteten.
5 Wenn die Modellliste leer bleibt
Drei Ursachen, in dieser Reihenfolge prüfen:
- Läuft der Server in LM Studio? Im Entwickler-Bereich muss der Schalter an sein. Ein geladenes Modell allein reicht nicht.
- Stimmt die Adresse? Der häufigste Fehler ist
localhoststatthost.docker.internal. - Ist die Liste veraltet? Open WebUI merkt sich die Modellliste zwischen. Wer in LM Studio gerade ein Modell geladen oder umbenannt hat, sieht es nicht sofort — einmal aktualisieren, dann ist es da.
Wenn Du der Sache auf den Grund gehen willst, frag den Container selbst:
docker exec open-webui curl -s http://host.docker.internal:1234/v1/models
6 Was jetzt in der Liste steht
Nach dem Speichern erscheinen alle Modelle, die LM Studio kennt. Zwei Dinge fallen auf:
Erstens stehen die Embedding-Modelle mit in der Auswahl — Namen wie text-embedding-bge-m3. Die kann man nicht zum Chatten benutzen; sie gehören zu den Dokumenten aus Stufe 6. In Stufe 11 blenden wir sie aus.
Zweitens steht dort ein Eintrag namens arena-model, den LM Studio gar nicht liefert. Der kommt von Open WebUI selbst und ist der Modellvergleich — der Gegenstand der nächsten Stufe.
✓ Kurz geprüft
Der erste Chat
Sieht aus wie jedes Chatfenster. Die Unterschiede stecken an den Rändern.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
Oben links wählen wir das Modell. Ich nehme Qwen3.8 27B, dasselbe, das in der LM-Studio-Schulung lief. Dann eine Frage ins Feld, abschicken, und die Antwort entsteht — auf der Grafikkarte dieses Rechners.
Bis hierhin ist nichts neu. Interessant wird es an drei Stellen.
Erstens links: Jede Unterhaltung bleibt stehen. Sie bekommt automatisch einen Titel, den man ändern kann, und lässt sich in Ordner einsortieren. Bei vielen Gesprächen ist das der Unterschied zwischen Wiederfinden und Neuanfangen.
Zweitens unter jeder Antwort: Man kann sie neu erzeugen lassen, kopieren, bewerten — und sogar die eigene Frage nachträglich ändern. Dann rechnet das Modell ab dieser Stelle neu, und die alte Fassung bleibt als Abzweigung erhalten.
Drittens die Kennzahlen. Open WebUI zeigt sie dezenter als LM Studio, aber sie sind da: wie viele Token, wie schnell.
Was Open WebUI nicht ändert: die Antwort selbst. Dieselbe Frage an dasselbe Modell gibt hier dasselbe wie dort.
1 Modell wählen und loslegen
Oben in der Mitte steht die Modellauswahl. Sie zeigt alles, was über die Verbindung aus Stufe 3 erreichbar ist. Ein Klick, ein Modell, fertig — Open WebUI merkt sich die Wahl je Unterhaltung.
Unter dem Eingabefeld stehen ein paar Beispielfragen. Die sind ab Werk englisch und bleiben es auch auf einer deutschen Oberfläche — sie laufen als einzige Stelle nicht über die Übersetzung. Ersetzen kannst Du sie in den Einstellungen des Administrators unter Benutzeroberfläche (Suchwort interface), Abschnitt Standard-Prompt-Vorschläge. Für ein Team lohnt es sich, dort drei Fragen aus dem eigenen Alltag hinzuschreiben — sie sind das Erste, was jeder sieht.
2 Was hier anders ist als in LM Studio
In LM Studio gehören die Unterhaltungen dem Rechner. Hier gehören sie Dir. Wer sich an einem anderen Gerät anmeldet, findet sie wieder; wer sich als jemand anders anmeldet, sieht sie nicht.
Unterhaltungen lassen sich in Ordner legen, anheften und durchsuchen. Bei zwanzig Gesprächen egal, bei zweihundert der Punkt, an dem man es nicht mehr missen will.
3 Antworten bearbeiten
Unter jeder Antwort sitzt eine Reihe kleiner Symbole. Die drei, die im Alltag zählen:
- Neu erzeugen. Dieselbe Frage nochmal. Weil Sprachmodelle nicht jedes Mal dasselbe sagen, kommt oft eine bessere Fassung heraus — ohne dass Du etwas umformulierst.
- Frage bearbeiten. Du änderst nachträglich, was Du gefragt hast. Das Modell rechnet ab dort neu. Die alte Fassung ist nicht weg, sondern wird zu einer Abzweigung, zwischen denen Du hin- und herblättern kannst.
- Kopieren. Holt die Antwort als Text heraus, ohne die Formatierung zu zerlegen.
Die Abzweigungen sind das eigentlich Nützliche: Man kann eine Frage in drei Formulierungen ausprobieren und die Ergebnisse nebeneinander behalten, statt drei Unterhaltungen anzulegen.
4 Was gleich bleibt
Die Antwortqualität. Das Tempo. Der Speicherbedarf. Die Grenzen aus der LM-Studio-Schulung.
Wenn eine Antwort hier schlecht ist, hilft kein Knopf in der Oberfläche — dann ist das Modell zu klein, die Frage zu vage oder die Aufgabe zu lang. Open WebUI reicht nur durch.
✓ Kurz geprüft
Zwei Modelle nebeneinander
Dieselbe Frage, zwei Antworten, eine Bildschirmhälfte für jede. Der schnellste Weg zu einem ehrlichen Urteil.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
In der Modellauswahl lässt sich mehr als ein Modell anklicken. Ich nehme zwei: Qwen3.8 mit 27 Milliarden Parametern und Nemotron 3 Nano mit vier.
Jetzt eine Frage, und beide antworten gleichzeitig, nebeneinander. Das kleine ist deutlich schneller fertig — auf diesem Rechner rund hundertfünfzig Token pro Sekunde gegen rund fünfunddreißig.
Und man sieht sofort, was der Unterschied kostet. Die kleine Antwort ist kürzer, oberflächlicher, bei Fachbegriffen ungenauer. Für eine schnelle Umformulierung reicht sie. Für etwas, das stimmen muss, nicht.
Ein Hinweis zum Speicher: Wenn beide Modelle gleichzeitig antworten sollen, müssen auch beide gleichzeitig im Grafikspeicher liegen. Auf einer Karte mit vierundzwanzig Gigabyte geht das mit einem großen und einem kleinen gut. Zwei große gehen nicht.
Neben der Mehrfachauswahl gibt es noch die Arena. Dort antworten zwei zufällig gewählte Modelle anonym, und Du stimmst ab, welche Antwort besser war. Erst danach wird aufgelöst, wer was gesagt hat — das nimmt dem Urteil die Voreingenommenheit.
1 Mehrere Modelle anklicken
In der Modellauswahl oben lässt sich mehr als ein Eintrag wählen. Ab dem zweiten teilt sich das Fenster: jede Antwort bekommt eine Spalte, beide laufen parallel.
Praktisch für drei Fragen, die man sonst nur ahnt:
- Reicht das kleine Modell? Oft ja — und dann spart man bei jeder Anfrage Zeit und Strom.
- Wo genau ist das große besser? Meist bei langen Zusammenhängen, Fachsprache und mehrschrittigen Aufgaben, nicht bei einfachen Umformulierungen.
- Halluziniert eines von beiden? Wenn zwei Modelle bei einer Faktenfrage verschiedene Zahlen nennen, weißt Du sofort, dass mindestens eines rät.
2 Was auf diesem Rechner herauskam
| Modell | Größe auf der Platte | Tempo | Wofür |
|---|---|---|---|
| Qwen3.8 27B (Q4_K_M) | 16,5 GB | rund 35 Token/s | alles, was stimmen muss |
| Nemotron 3 Nano 4B | 2,6 GB | rund 155 Token/s | umformulieren, kürzen, sortieren |
Gemessen auf einer RTX 3090 mit 24 GB, September 2026. Auf anderer Hardware sind die absoluten Zahlen andere; das Verhältnis bleibt ähnlich.
Der Faktor vier beim Tempo ist die eine Hälfte der Geschichte. Die andere: Das kleine Modell schreibt kürzer und flacher. Bei einer Frage nach einem Fachbegriff kommt eine Antwort, die plausibel klingt und Details danebenlegt.
3 Der Speicher setzt die Grenze
Ein sinnvolles Paar ist deshalb fast immer ein großes und ein kleines. Genau die Frage, die man beantworten will, lässt sich damit auch beantworten.
4 Die Arena
In der Modellliste steht ein Eintrag, den LM Studio nicht geliefert hat: arena-model. Der kommt von Open WebUI selbst.
Wählst Du ihn, antworten zwei zufällig gewählte Modelle — aber anonym. Du siehst zwei Antworten ohne Namen daneben und stimmst ab, welche besser war. Erst danach wird aufgelöst.
✓ Kurz geprüft
Eigene Dokumente
Handbücher hinterlegen und befragen. Eine Einstellung muss vorher stimmen, sonst fängt man von vorn an.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
Bevor das erste Dokument hineingeht, eine Einstellung. Unter Admin, Dokumente, steht das Embedding-Modell. Ab Werk nimmt Open WebUI ein eigenes, kleines Modell mit dem Namen all-MiniLM-L6-v2. Das ist englischsprachig.
Für deutsche Handbücher ist das der falsche Startpunkt. Wir stellen deshalb auf die OpenAI-kompatible Schnittstelle um und nehmen bge-m3 aus LM Studio — ein mehrsprachiges Modell, dasselbe, das die Ollama-Schulung im RAG-Kapitel empfiehlt.
Warum das vorher passieren muss: Ein Embedding-Modell übersetzt Text in Zahlenreihen, und zwei verschiedene Modelle erzeugen Zahlenreihen, die nichts miteinander zu tun haben. Wechselt man später, sind alle eingelesenen Dokumente wertlos und müssen neu eingelesen werden. Open WebUI hat dafür einen Knopf, aber bei vielen Dokumenten dauert das.
Jetzt die Sammlung. Arbeitsbereich, Wissen, Erstellen. Name und eine kurze Beschreibung. Ich lege drei Dateien der fiktiven Nordwerk GmbH hinein: das Mitarbeiterhandbuch von Januar sechsundzwanzig, eine Hausordnung von vierundzwanzig und ein IT-Blatt von Juni sechsundzwanzig.
Und im Chat rufe ich die Sammlung mit dem Rautezeichen auf. Frage stellen — und die Antwort kommt aus den Dokumenten, mit Fundstellen darunter.
1 Zuerst das Embedding-Modell
Ein Sprachmodell liest keine Dokumente. Was wirklich passiert: Jedes Dokument wird in Stücke geschnitten, jedes Stück von einem Embedding-Modell in eine lange Zahlenreihe übersetzt, und bei einer Frage wird die Frage genauso übersetzt und mit allen Stücken verglichen. Die ähnlichsten kommen als Kontext ins Sprachmodell. Ausführlich steht das in der Schwester-Schulung Lokale KI.
Open WebUI bringt ab Werk sentence-transformers/all-MiniLM-L6-v2 mit. Das läuft im Container, ist klein und schnell — und auf englischem Text trainiert.
Umstellen unter Einstellungen → Administrator → Dokumente:
Engine: OpenAI URL: http://host.docker.internal:1234/v1 Schlüssel: lm-studio Modell: text-embedding-bge-m3
localhost.Damit rechnet auch das Einlesen auf der Grafikkarte, nicht auf der CPU des Containers. Das Modell muss dafür in LM Studio geladen sein.
bge-m3 ist zwar nur 634 MB groß, belegt im Betrieb aber rund 2,8 GB. Neben einem 27-B-Modell wird es auf 24 GB eng. Lade das Chat-Modell mit 32 768 Kontext statt mit dem Maximum, dann passt beides nebeneinander.2 Warum das eine Einmal-Entscheidung ist
Zwei Embedding-Modelle erzeugen Zahlenreihen verschiedener Länge und verschiedener Bedeutung. Eine Frage, die mit Modell B übersetzt wurde, lässt sich nicht mit Stücken vergleichen, die Modell A erzeugt hat.
Wechselt man das Modell nachträglich, ist alles Eingelesene wertlos. Open WebUI hat dafür einen Neu-Indizieren-Knopf, der jedes Dokument noch einmal durchrechnet. Bei drei Dateien eine Sache von Sekunden, bei dreihundert ein Abend.
3 Die Sammlung anlegen
- Links auf Arbeitsbereich, dann Wissen.
- Erstellen, Name und Beschreibung eintragen. Die Beschreibung ist kein Schmuck — bei mehreren Sammlungen findet man danach.
- In der Sammlung Inhalt hinzufügen. PDF, Word, Text, Markdown, Tabellen und Quelltext werden gelesen.
Zum Mitmachen liegen die Übungsdateien dieser Schulung bereit: drei Dokumente der fiktiven Nordwerk GmbH, derselben Firma, die in der Ollama-Schulung als sechs Sätze auftaucht.
| Datei | Stand | Was drinsteht |
|---|---|---|
| mitarbeiterhandbuch-2026.md | Januar 2026 | Arbeitszeit, Urlaub, Kantine, Fuhrpark, IT |
| hausordnung-2024.md | März 2024 | Parkplätze, Rauchen, Besuch — und einige überholte Angaben |
| it-kurzanleitung.md | Juni 2026 | Drucker, Passwörter, wen man anruft |
Die drei sind mit Absicht so gebaut, wie echte Ablagen aussehen: Eine alte Fassung liegt noch herum, und zwei aktuelle Dokumente widersprechen sich. Was daraus folgt, steht in Stufe 8.
4 Im Chat benutzen
Zwei Wege:
# im EingabefeldTippe # und den Namen der Sammlung, wähle sie aus, dann die Frage. Gilt für diese eine Nachricht. Gut zum Ausprobieren.
Unter Arbeitsbereich → Modelle lässt sich die Sammlung dauerhaft anhängen. Dann ist sie immer dabei, ohne dass jemand daran denken muss. Das ist Stufe 9.
Unter der Antwort erscheinen jetzt Fundstellen — welche Dokumente herangezogen wurden. Was die wirklich bedeuten, ist das Thema der nächsten Stufe.
✓ Kurz geprüft
Fundstellen prüfen
Unter der Antwort stehen Quellen. Sie sind nützlich — und sie bedeuten etwas anderes, als die meisten annehmen.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
Unter jeder Antwort aus einer Wissenssammlung steht eine Zeile mit den Quellen. Klickt man sie auf, sieht man die Textstücke, die tatsächlich ins Modell gegangen sind — nicht das ganze Dokument, sondern genau die Schnipsel.
Das ist die nützlichste Funktion der ganzen Oberfläche, weil man damit nachsehen kann, ob die Antwort wirklich im Dokument steht.
Jetzt der Haken. Ich frage nach dem WLAN-Passwort. In den Fundstellen steht auch das IT-Blatt — in dem kein einziges Mal WLAN vorkommt.
Der Grund ist eine Einstellung namens Top K, und die steht ab Werk auf drei. Es werden immer drei Textstücke geholt, die ähnlichsten. Ob sie zur Frage passen, prüft niemand. Gibt es nur ein passendes Stück, füllen zwei unpassende die Liste auf.
Eine Fundstelle ist also kein Beleg. Sie ist eine Behauptung darüber, welcher Text am ähnlichsten war. Was daraus wird, sieht man in der nächsten Stufe.
1 Was die Quellen zeigen
Klick die Quellenzeile unter einer Antwort auf. Du siehst nicht die Dokumente, sondern die Textstücke, die tatsächlich als Kontext ins Sprachmodell gegangen sind — dazu der Dateiname und ein Ähnlichkeitswert.
Damit lässt sich in Sekunden prüfen, was sonst Vertrauenssache wäre:
- Steht es wirklich da? Wenn die Antwort eine Zahl nennt, muss die Zahl in einem der Schnipsel stehen. Tut sie es nicht, hat das Modell sie erfunden.
- Aus welchem Dokument? Bei mehreren Fassungen entscheidend — und der Kern von Stufe 8.
- Wurde genug geholt? Wenn die Antwort halb ist, liegt die andere Hälfte oft in einem Stück, das nicht mitkam.
2 Die drei Stellschrauben
Unter Administrator → Dokumente, mit den Werten, die Open WebUI 0.11.3 ab Werk mitbringt:
| Einstellung | Ab Werk | Was sie tut |
|---|---|---|
| Chunk-Größe | 1000 | Wie groß ein Textstück ist. Kleiner heißt genauer getroffen, aber weniger Zusammenhang. |
| Chunk-Überlappung | 100 | Wie viel zwei benachbarte Stücke gemeinsam haben. Verhindert, dass ein Satz genau an der Schnittkante zerfällt. |
| Top K | 3 | Wie viele Stücke geholt werden. Immer so viele — nicht „bis zu". |
Dazu kommt die hybride Suche, ab Werk aus. Eingeschaltet sucht Open WebUI zusätzlich nach wörtlichen Treffern statt nur nach Bedeutungsähnlichkeit. Das hilft bei Artikelnummern, Eigennamen und Abkürzungen, die ein Embedding-Modell nicht auseinanderhält — kostet aber Zeit bei jeder Frage.
3 Warum eine Fundstelle kein Beleg ist
Ein echter Durchlauf mit den drei Nordwerk-Dokumenten. Die Frage:
Wie lautet das WLAN-Passwort für Gäste?
Die Antwort war richtig. Bei den Fundstellen standen alle drei Dateien — auch die IT-Kurzanleitung, in der das Wort WLAN kein einziges Mal vorkommt.
Für die Praxis heißt das: Die Anzahl der Fundstellen sagt nichts über die Güte der Antwort. Drei Quellen sind nicht besser als eine — es sind einfach immer drei. Wer prüfen will, klickt auf und liest, was in den Schnipseln steht.
4 Der andere Modus: alles mitgeben
Neben der Stückchen-Suche gibt es Full Context. Damit wird nicht gesucht, sondern das vollständige Dokument in jede Anfrage gelegt.
Funktioniert bei vielen und großen Dokumenten. Risiko: Das entscheidende Stück ist nicht dabei, und die Antwort ist trotzdem selbstbewusst.
Bei einem überschaubaren Dokument oft besser — das Modell sieht alles, nichts kann übersehen werden. Bei mehr als ein paar Seiten sprengt es das Kontextfenster.
Umschalten lässt sich das je Unterhaltung in den Chat-Einstellungen. Ein kurzes Handbuch komplett mitzugeben ist oft die ehrlichere Lösung als eine Suche, die vielleicht daneben greift.
✓ Kurz geprüft
Wo es schiefgeht
Drei echte Antworten aus dem Durchlauf für dieses Video. Eine ist vorbildlich, zwei sind gefährlich — und alle drei sehen gleich gut aus.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
Die drei Nordwerk-Dokumente sind mit Absicht so gebaut, wie echte Ablagen aussehen. Eine alte Fassung liegt noch herum, und zwei aktuelle Dokumente widersprechen sich. Jetzt stellen wir drei Fragen.
Erste Frage: Wie viele Mitarbeitende hat Nordwerk? Die Antwort ist vorbildlich. Das Modell merkt, dass es zwei Angaben gibt, nennt beide, und sagt, dass sich daraus keine eindeutige Zahl ableiten lässt. So soll es sein.
Zweite Frage: Unter welcher Durchwahl erreiche ich die IT? Die Antwort lautet fünfhundertfünfundfünfzig, mit Quellenangabe, und als Fußnote der Hinweis, dass an anderer Stelle fünfhunderteins steht. Das sieht sauber aus. Es ist trotzdem vermutlich falsch.
Denn die fünfhundertfünfundfünfzig steht im Handbuch von Januar. Die fünfhunderteins im IT-Blatt von Juni. Das Modell hat die ältere Angabe zur Antwort gemacht und die neuere zur Fußnote. Es konnte nicht anders: Es hat keine Vorstellung davon, welches Dokument neuer ist. Ein Mensch sieht das Datum, das Modell sieht Text.
Dritte Frage: Wie viele Urlaubstage habe ich? Das steht in keinem der Dokumente, und das Modell sagt das auch. Dann hängt es aber etwas an: in Deutschland seien es mindestens zwanzig Werktage. Das ist nicht falsch, es steht nur nicht in den Unterlagen. Wer schnell liest, nimmt die Zwanzig als Nordwerk-Zahl mit.
Drei Fragen, drei ordentlich aussehende Antworten. Eine trägt, zwei nicht.
1 Der Fall, der funktioniert
Wie viele Mitarbeitende hat die Nordwerk GmbH?
Die Antwort, gekürzt, aber nicht geglättet:
Das ist genau richtig. Beide Zahlen genannt, keine erfunden, die Unsicherheit ausgesprochen. Wer so etwas liest, weiß, dass er nachsehen muss.
Warum es hier klappt: Die beiden Zahlen stehen nah beieinander im selben Kontext und widersprechen sich offensichtlich. Das fällt auf.
2 Der Fall, der gefährlich ist
Unter welcher Durchwahl erreiche ich die IT-Hotline?
Diese Antwort sieht besser aus als die erste. Sie ist entschieden, nennt eine Zahl, belegt sie und weist sogar auf die Abweichung hin. Genau das macht sie gefährlich.
| Angabe | Steht in | Stand | Rolle in der Antwort |
|---|---|---|---|
| 555 | Mitarbeiterhandbuch | Januar 2026 | die Antwort |
| 501 | IT-Kurzanleitung | Juni 2026 | eine Fußnote |
Ein Mensch, der beide Dokumente aufschlägt, entscheidet in zwei Sekunden richtig: Juni schlägt Januar. Die Maschine kann das nicht, weil die Reihenfolge nirgends als Regel hinterlegt ist. Sie nimmt, was ähnlicher zur Frage war — und „IT-Hotline … Durchwahl 555" ist der Formulierung der Frage nun einmal ähnlicher als „Die IT erreicht Ihr unter der Durchwahl 501".
3 Der Fall, den man leicht übersieht
Wie viele Urlaubstage habe ich pro Jahr?
Der erste Satz ist vorbildlich: Es steht nicht drin, und das wird gesagt. Danach kippt es. Das Modell antwortet aus seinem Training weiter, und plötzlich steht eine Zahl da.
Die Zahl ist für sich genommen nicht falsch. Sie hat nur nichts mit Nordwerk zu tun. Wer die Antwort überfliegt und die Zwanzig mitnimmt, hat eine Auskunft über sein Unternehmen bekommen, die das Unternehmen nie gegeben hat.
4 Was hilft
Nichts davon lässt sich wegkonfigurieren. Was hilft, ist eine Mischung aus Aufräumen, Anweisen und Nachsehen:
- Alte Fassungen raus. Der wirksamste Schritt und der unbeliebteste. Was nicht in der Sammlung liegt, kann nicht falsch zitiert werden. Eine Sammlung ist kein Archiv.
- Das Datum in den Text schreiben. Nicht nur in den Dateinamen — das Embedding sieht den Dateinamen nicht. Ein „Stand: Januar 2026" in der ersten Zeile jedes Dokuments landet mit im Textstück und gibt dem Modell überhaupt erst die Chance, es zu bemerken.
- Eine Regel im Systemprompt. „Antworte ausschließlich aus den Unterlagen. Steht etwas nicht drin, sag das und rate nicht." Das bremst den dritten Fall spürbar. Wie das geht, steht in Stufe 9.
- Fundstellen aufklappen, bevor es zählt. Bei allem, was eine Entscheidung trägt: hinsehen, nicht vertrauen.
✓ Kurz geprüft
Ein eigener Assistent
Systemprompt plus Wissenssammlung, einmal eingerichtet. Aus Stufe 8 wird damit ein Werkzeug, dem man eher trauen kann.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
Bisher mussten wir die Sammlung bei jeder Frage mit dem Rautezeichen aufrufen, und das Modell hat geantwortet, wie es wollte. Beides lässt sich festschreiben.
Unter Arbeitsbereich, Modelle, legen wir ein neues an. Es bekommt einen Namen, ein Basismodell — unser Qwen — und zwei Dinge dazu: eine Anweisung und die Wissenssammlung.
Die Anweisung ist der interessante Teil. Ich schreibe hinein: Antworte ausschließlich auf Grundlage der bereitgestellten Unterlagen. Steht etwas nicht darin, sag genau das und rate nicht. Ergänze kein Allgemeinwissen. Widersprechen sich zwei Unterlagen, nenne beide Angaben und sag, dass die Sache zu klären ist.
Jetzt dieselben Fragen wie in Stufe 8. Die Urlaubsfrage: In den bereitgestellten Unterlagen ist die Anzahl der Urlaubstage nicht angegeben. Punkt. Kein angehängtes Urlaubsrecht mehr.
Und die IT-Durchwahl: Jetzt nennt es beide Zahlen nebeneinander und sagt, die Sache sei zu klären. Es entscheidet sich nicht mehr für die falsche.
Ein Detail dabei ist lehrreich. Das Modell schreibt, in beiden Quellen sei kein Stand angegeben. Dabei steht in beiden Dokumenten ein Datum — ganz oben. Nur ist es beim Zerschneiden in einem anderen Stück gelandet als die Telefonnummer, und mitgeschickt wurde nur das Stück mit der Nummer. Das Datum gehört also nicht nur ins Dokument, sondern in die Nähe der Angabe.
1 Ein Modell anlegen
- Arbeitsbereich → Modelle → Erstellen.
- Basismodell wählen — eines aus Deiner LM-Studio-Liste.
- Name und Beschreibung. Der Name taucht in der Modellauswahl auf, für alle sichtbar, die das Modell sehen dürfen.
- Den System-Prompt eintragen (gleich mehr dazu).
- Wissen anhängen: die Sammlung aus Stufe 6.
Das Ergebnis ist kein neues Modell im technischen Sinn. Es ist dasselbe Modell mit fest verdrahtetem Auftrag und fest verdrahteten Unterlagen — und es steht in der Auswahl neben den anderen.
2 Die Anweisung, die den Unterschied macht
Du bist die Auskunft der Nordwerk GmbH. Antworte ausschließlich auf Grundlage der bereitgestellten Unterlagen. Steht etwas nicht darin, sage genau das und rate nicht. Ergänze kein Allgemeinwissen. Wenn zwei Unterlagen sich widersprechen, nenne beide Angaben mit ihrem jeweiligen Stand und sage, dass die Sache zu klären ist.
Der Unterschied ist messbar. Dieselben Fragen wie in Stufe 8, einmal ohne und einmal mit dieser Anweisung:
| Frage | Ohne Anweisung | Mit Anweisung |
|---|---|---|
| Urlaubstage? | „steht nicht drin" plus zwanzig Werktage aus dem Gesetz | „In den bereitgestellten Unterlagen ist die Anzahl der Urlaubstage nicht angegeben." Sonst nichts. |
| IT-Durchwahl? | 555 als Antwort, 501 als Fußnote — die ältere gewinnt | beide Zahlen nebeneinander, „die Sache ist daher zu klären" |
3 Ein Nachschlag, den erst der Assistent zeigt
In der neuen Antwort steht ein Satz, der zuerst wie ein Fehler aussieht: „In beiden Quellen ist kein Stand bzw. Datum angegeben."
Beide Dokumente tragen ein Datum. Es steht ganz oben, in der zweiten Zeile. Nur ist es beim Zerschneiden in ein anderes Textstück gerutscht als die Telefonnummer — und geholt wurde das Stück mit der Nummer.
Daraus folgt eine sehr praktische Regel für alles, was man in eine Wissenssammlung legt:
- Stand und Geltungsbereich in jeden Abschnitt, nicht nur in den Kopf. Eine Zeile „Stand: Juni 2026" pro Kapitel wirkt mehr als ein schönes Deckblatt.
- Antworten zusammenhalten. Was zusammengehört, gehört in denselben Absatz — sonst trennt es die Chunk-Grenze.
- Sprechende Überschriften. „Wen anrufen" ist besser als „Sonstiges", weil die Überschrift oft mit im Schnipsel landet.
4 Wofür sich das lohnt
In Stufe 11 kommt dazu, wer den Assistenten überhaupt sehen darf — für ein Team ist das der Punkt, an dem aus einer Spielerei ein Arbeitsmittel wird.
✓ Kurz geprüft
Werkzeuge und Websuche
Die KI kann mehr, wenn sie Hilfsmittel bekommt. Jedes davon ist auch eine Tür nach draußen.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
Ein lokales Modell weiß nur, was in seinem Training stand. Es kennt keine heutige Nachricht und keinen aktuellen Preis. Die Websuche ändert das.
Einschalten lässt sie sich unter Admin, Websuche. Als Anbieter nehme ich DuckDuckGo, weil das ohne Schlüssel und ohne Konto funktioniert.
Im Chat gibt es dann einen Schalter am Eingabefeld. Ist er an, sucht Open WebUI zuerst im Netz, holt die Treffer, und gibt sie dem Modell als Kontext mit — genau wie bei den eigenen Dokumenten, nur dass die Quelle diesmal das Internet ist.
Und hier gehört ein Satz gesagt, der in vielen Anleitungen fehlt. Bis zu dieser Stufe verließ nichts diesen Rechner. Mit der Websuche verlässt ihn etwas: Deine Suchbegriffe gehen an eine Suchmaschine, und die Seiten, die zurückkommen, werden abgerufen.
Deine Unterhaltung geht nicht mit. Aber die Suchbegriffe erzeugt das Modell aus Deiner Frage — was Du gefragt hast, steht also sinngemäß in der Suchanfrage.
Das ist kein Grund, es nicht zu tun. Es ist ein Grund, es zu wissen und je Frage zu entscheiden.
1 Websuche einschalten
Unter Einstellungen → Administrator → Websuche. Es gibt eine ganze Reihe Anbieter; die meisten wollen einen Schlüssel und ein Konto.
Danach erscheint im Chat ein Schalter am Eingabefeld. Er gilt je Nachricht, nicht dauerhaft — Du entscheidest bei jeder Frage neu.
2 Was dabei hinausgeht
Bis hierhin war diese Schulung eine geschlossene Sache: Modell lokal, Oberfläche lokal, Dokumente lokal. Die Websuche ist der erste Punkt, an dem das nicht mehr stimmt.
Die Suchbegriffe, die das Modell aus Deiner Frage bildet. Und der Abruf der gefundenen Seiten — die Betreiber sehen, dass jemand von Deiner Adresse liest.
Die Unterhaltung selbst, Deine Dokumente, die Antwort. Das Modell rechnet weiter auf Deiner Grafikkarte.
Wer mit personenbezogenen Daten arbeitet, trifft die Entscheidung deshalb je Frage, nicht einmal für immer. Ein Assistent nach Stufe 9, der nur die eigenen Unterlagen befragt, braucht die Websuche nicht — und sollte sie nicht bekommen.
3 Werkzeuge
Neben der Websuche gibt es Werkzeuge: kleine Programmstücke, die das Modell bei Bedarf aufrufen kann — rechnen, eine Datei lesen, eine Schnittstelle abfragen. Sie liegen unter Arbeitsbereich → Werkzeuge und lassen sich je Modell freigeben.
Zwei Dinge sind dabei wichtiger als die Technik:
- Ein Werkzeug ist Code, der auf Deinem Server läuft. Nicht das Modell führt es aus, sondern Open WebUI. Was Du aus einer Sammlung im Netz übernimmst, prüfst Du vorher — oder Du lässt es.
- Kleine Modelle rufen Werkzeuge unzuverlässig auf. Die Entscheidung „hier brauche ich den Taschenrechner" ist selbst eine Denkleistung. Ein 4-B-Modell trifft sie oft nicht; ein 27-B-Modell meistens.
4 Was diese Schulung auslässt
Open WebUI kann außerdem Sprache — diktieren und vorlesen — und über eine angebundene Bildgenerierung auch Bilder erzeugen.
Beides ist hier bewusst nicht dabei. Die Bildgenerierung braucht ein zweites großes Modell auf derselben Grafikkarte; neben einem 27-B-Sprachmodell ist auf 24 GB kein Platz dafür. Wer es ausprobieren will, entlädt vorher das Chat-Modell.
✓ Kurz geprüft
Für mehrere Leute
Ab hier lohnt sich der ganze Aufwand: ein Rechner mit Grafikkarte, und ein Team, das ihn benutzt.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
Im Admin-Bereich gibt es die Nutzerverwaltung. Wer sich neu registriert, landet dort erst einmal als wartend und kommt nicht hinein — das ist die Voreinstellung, und sie ist richtig so. Freigeschaltet wird von Hand.
Es gibt drei Rollen. Wartend heißt: angelegt, aber kein Zugang. Nutzer heißt: chatten, eigene Unterhaltungen, freigegebene Modelle. Administrator heißt: alles, inklusive der Einstellungen.
Für die meisten Häuser reicht: ein Administrator, alle anderen Nutzer.
Der zweite Punkt ist die Modellsichtbarkeit. Ab Werk sieht jeder alles — auch die Embedding-Modelle, die man gar nicht anchatten kann. Das ist der häufigste Anfängerfehler, den man sich sparen kann: unter Modelle lassen sie sich auf privat stellen, und schon ist die Auswahl übersichtlich.
Und dann die Gruppen. Damit lässt sich ein Assistent samt seiner Unterlagen für eine Abteilung freigeben und für andere nicht. Das ist der Punkt, an dem das hier von einem Werkzeug zu einer Einrichtung wird.
Eine Sache noch, die schnell übersehen wird: Alle teilen sich dieselbe Grafikkarte. Zehn Leute können hier Konten haben, aber nicht zehn gleichzeitig eine lange Antwort erzeugen lassen. Die Anfragen stellen sich an.
1 Nutzer und Rollen
Die Benutzerverwaltung liegt nicht im Einstellungsdialog, sondern auf einer eigenen Seite: unten links auf Deinen Namen, dann Admin-Bereich und dort der Reiter Benutzer. Drei Rollen, mehr braucht es nicht:
| Rolle | Darf | Darf nicht |
|---|---|---|
pending | nichts — das Konto existiert, der Zugang nicht | sich anmelden |
user | chatten, eigene Verläufe, freigegebene Modelle und Sammlungen | Einstellungen ändern, fremde Verläufe sehen |
admin | alles, inklusive Verbindungen, Dokumente, Benutzer | — |
pending, user, admin — auch wenn der Rest der Seite deutsch ist. Ein Klick auf die Rolle ändert sie.2 Aufräumen in der Modellliste
Ab Werk sieht jeder Nutzer jedes Modell aus der Verbindung. Darunter sind zwei Sorten, die dort nichts zu suchen haben:
- Die Embedding-Modelle (
text-embedding-…). Sie erzeugen keine Antworten. Wer sie versehentlich auswählt, bekommt eine Fehlermeldung und sucht den Fehler bei sich. - Modelle, die auf dieser Hardware nicht laufen. Ein 120-B-Modell steht in der Liste, auch wenn die Karte es nicht trägt — und wer es wählt, wartet ewig.
Unter Arbeitsbereich → Modelle lässt sich jeder Eintrag auf privat stellen oder ganz ausblenden. Übrig bleiben zwei, drei Modelle mit verständlichen Namen. Für ein Team ist das der Unterschied zwischen „benutzbar" und „was soll ich hier nehmen".
3 Gruppen
Gruppen bündeln Nutzer, und Freigaben hängen an Gruppen statt an Personen. Damit lässt sich sauber trennen:
Ohne Gruppen endet man dabei, jede Freigabe einzeln zu setzen — und beim nächsten neuen Kollegen fehlt die Hälfte.
4 Eine Grafikkarte, viele Leute
In der Praxis fällt das lange nicht auf, weil die wenigsten gleichzeitig tippen. Ein realistischer Wert für ein kleines Büro: Von zehn Leuten sind selten mehr als ein oder zwei zur selben Sekunde am Warten.
Wenn es doch eng wird, hilft in dieser Reihenfolge: ein kleineres Modell als Standard freigeben, das große nur für die, die es brauchen — und erst danach über zweite Hardware nachdenken.
5 Bevor andere darauf zugreifen
Solange die Oberfläche nur auf Deinem Rechner läuft, ist sie über localhost erreichbar und sonst nirgends. Sobald Kollegen darauf sollen, wird daraus ein Dienst im Netz — mit allem, was dazugehört:
- HTTPS. Ohne Verschlüsselung gehen Anmeldedaten im Klartext über das Netz. Ein Reverse Proxy davor löst das; wie, steht in der Self-Hosting-Schulung.
- Nicht ins offene Internet, solange es nicht sein muss. Im Firmennetz oder über ein VPN ist die Angriffsfläche um Größenordnungen kleiner.
- Anmeldung zentral, wenn es schon eine gibt. Open WebUI spricht OIDC — wer Keycloak betreibt, hängt es dort an, statt Passwörter doppelt zu pflegen.
✓ Kurz geprüft
Betrieb und Grenzen
Sichern, aktualisieren, umziehen. Und der ehrliche Teil: was das hier nicht leistet.
Sprecherstimme synthetisch erzeugt (Text-to-Speech).
Was im Video gesagt wird
Alles, was Open WebUI behält, liegt in einem einzigen Volume: Konten, Unterhaltungen, Wissenssammlungen und die eingelesenen Textstücke. Sichern heißt deshalb, dieses eine Verzeichnis zu sichern. Ein kurzer Hilfscontainer hängt es ein und legt ein Archiv daneben.
Vorher den Dienst herunterfahren. Im Volume steckt eine Datenbankdatei, und wer sie kopiert, während geschrieben wird, bekommt womöglich ein halbes Abbild.
Aktualisieren sind zwei Befehle: docker compose pull, dann docker compose up minus d. Auch hier vorher sichern, und zwar ernsthaft. Beim ersten Start einer neuen Fassung wandert die Datenbank auf das neue Format, automatisch und ohne Rückweg. Die alte Fassung startet danach mit diesen Daten nicht mehr.
Bleiben die Grenzen. Vier Stück, und sie sind der Grund, warum diese Schulung nicht mit einem Loblied endet.
Erstens: Open WebUI ist kein besseres Modell. Die Antwortqualität hängt an der Schicht darunter. Wer damit unzufrieden ist, wechselt das Modell oder die Hardware, nicht die Oberfläche.
Zweitens: Eine Wissenssammlung ist keine Suchmaschine für die Ablage. Sie funktioniert mit wenigen, gepflegten Dokumenten und wird schlechter, je mehr Altlasten dazukommen. Stufe acht hat gezeigt, wie das aussieht.
Drittens: Dass die Oberfläche im eigenen Haus läuft, ist die Voraussetzung dafür, personenbezogene Daten damit zu verarbeiten. Der Nachweis ist es nicht. Was die Werkzeuge aus Stufe zehn nach draußen geben, muss man selbst beurteilen.
Und viertens: Das Prüfen nimmt einem das hier nicht ab. Bei allem, was eine Entscheidung trägt, gilt weiter: Fundstellen aufklappen und nachlesen.
1 Wo die Daten liegen
Alles, was Open WebUI behält — Konten, Unterhaltungen, Wissenssammlungen und die eingelesenen Textstücke — liegt in einem Volume. Das ist die gute Nachricht: Sichern heißt, dieses eine Verzeichnis zu sichern.
docker run --rm \ -v open-webui_open-webui-data:/daten \ -v "$PWD":/backup alpine \ tar czf /backup/open-webui-daten.tar.gz -C /daten .
docker volume ls.docker compose down, danach wieder hoch.2 Aktualisieren
docker compose pull docker compose up -d
Open WebUI entwickelt sich schnell. Menüpunkte wandern, Einstellungen bekommen neue Namen. Deshalb steht auf der Übersichtsseite dieser Schulung, welche Fassung aufgenommen wurde: 0.11.3, September 2026.
3 Auf einen Server umziehen
Bisher lief alles auf einem Arbeitsplatzrechner. Für ein Team gehört es auf eine Maschine, die immer an ist. Zwei Wege:
Oberfläche und Modell auf derselben Maschine — die braucht dann eine Grafikkarte. Einfachster Aufbau, nichts geht über das Netz.
Oberfläche auf einem kleinen Server, Modell auf dem Rechner mit der Karte. Dann zeigt die Verbindung aus Stufe 3 nicht mehr auf host.docker.internal, sondern auf dessen Adresse im Netz — und LM Studio muss dort im Netz lauschen, nicht nur auf sich selbst.
Für beides gilt: Reverse Proxy davor, HTTPS, nicht offen ins Internet. Das ist genau der Stoff der Self-Hosting-Schulung; hier wiederholen wir ihn nicht.
4 Was Open WebUI nicht ist
- Kein besseres Modell. Die Antwortqualität hängt an der Schicht darunter. Wer mit den Antworten unzufrieden ist, wechselt das Modell oder die Hardware, nicht die Oberfläche.
- Keine Suchmaschine für Deine Ablage. Eine Wissenssammlung ist kein Archiv. Sie funktioniert, wenn wenige, gepflegte, aktuelle Dokumente darin liegen — und wird schlechter, je mehr Altlasten dazukommen. Stufe 8 zeigt, warum.
- Keine Zusicherung über Datenschutz. Dass die Oberfläche im eigenen Haus läuft, ist die Voraussetzung dafür, personenbezogene Daten damit zu verarbeiten — nicht der Nachweis. Was die Werkzeuge aus Stufe 10 nach draußen geben, musst Du selbst beurteilen.
- Kein Ersatz für Prüfen. Das Ding formuliert überzeugend, auch wenn es danebenliegt. Bei allem, was eine Entscheidung trägt: Fundstellen aufklappen und nachlesen.
5 Wie es weitergeht
Wer tiefer in die Technik darunter will: Lokale KI erklärt Embeddings und RAG von Grund auf, mit einem Mini-RAG in fünfundvierzig Zeilen zum Selbernachbauen.
Wer den Betrieb ernsthaft aufsetzen will: Docker für Volumes, Netze und Compose, Self-Hosting & VPS für Server, Proxy und Backups, Keycloak für eine gemeinsame Anmeldung.
Und wer das Modell darunter wechseln will, findet in LM Studio den Weg dorthin.
✓ Kurz geprüft
Befehle zum Kopieren
Alles auf einer Seite, damit Du beim Nachbauen nicht durch zwölf Stufen blättern musst.
1 Die Compose-Datei
services:
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: unless-stopped
ports:
- "8080:8080"
environment:
ENABLE_OLLAMA_API: "false"
ANONYMIZED_TELEMETRY: "false"
DO_NOT_TRACK: "true"
volumes:
- open-webui-data:/app/backend/data
volumes:
open-webui-data:
environment-Zeilen sind optional: Die erste spart einen Timeout, wenn kein Ollama läuft; die anderen beiden schalten die Nutzungsstatistik ab.2 Docker
docker compose up -d # starten (beim ersten Mal ~7 GB Download) docker compose ps # laeuft es? docker compose logs -f # mitlesen, Strg+C beendet nur das Mitlesen docker compose down # stoppen, Daten bleiben docker compose pull # neue Fassung holen docker compose down -v # ACHTUNG: loescht auch die Daten
3 Die Verbindung zu LM Studio
URL: http://host.docker.internal:1234/v1 Schlüssel: lm-studio
Strg+A zuerst), nicht daneben eine zweite Verbindung anlegen. Vor dem Speichern Verbindung prüfen drücken. Nicht localhost. Unter Linux gibt es host.docker.internal nicht von Haus aus — dort entweder extra_hosts setzen oder die Netzadresse des Rechners nehmen. Unter Docker Desktop kein extra_hosts eintragen, das macht es kaputt.docker exec open-webui curl -s http://host.docker.internal:1234/v1/models
4 Einstellungen für eigene Dokumente
Engine: OpenAI URL: http://host.docker.internal:1234/v1 Schlüssel: lm-studio Modell: text-embedding-bge-m3 Chunk-Größe: 1000 (Werkseinstellung) Chunk-Überlappung: 100 (Werkseinstellung) Top K: 3 (Werkseinstellung — es werden IMMER drei geholt) Hybride Suche: aus (anschalten bei Artikelnummern und Eigennamen)
# Chat-Modell mit kleinerem Kontext, damit der Embedder daneben passt lms load qwen/qwen3.8-27b --context-length 32768 # Embedder — 8192 ist das Maximum von bge-m3 lms load text-embedding-bge-m3 --context-length 8192
5 Der Systemprompt aus Stufe 9
Du bist die Auskunft der <Firma>. Antworte ausschließlich auf Grundlage der bereitgestellten Unterlagen. Steht etwas nicht darin, sage genau das und rate nicht. Ergänze kein Allgemeinwissen. Wenn zwei Unterlagen sich widersprechen, nenne beide Angaben mit ihrem jeweiligen Stand und sage, dass die Sache zu klären ist.
6 Sichern
docker compose down # sauberer Stand, die Datenbank schreibt nicht mehr docker run --rm \ -v open-webui_open-webui-data:/daten \ -v "$PWD":/backup alpine \ tar czf /backup/open-webui-daten.tar.gz -C /daten . docker compose up -d
docker volume ls.7 Die Übungsdateien
Die drei Nordwerk-Dokumente aus den Stufen 6 bis 9 liegen im Ordner demo/ neben dieser Schulung:
mitarbeiterhandbuch-2026.md— die aktuelle Fassunghausordnung-2024.md— absichtlich veraltetit-kurzanleitung.md— widerspricht dem Handbuch bei der Telefonnummer
Drei Fragen zum Nachstellen: Wie viele Mitarbeitende hat Nordwerk? · Unter welcher Durchwahl erreiche ich die IT? · Wie viele Urlaubstage habe ich?
Quiz
7 Fragen quer durch die Stufen. Ab 6 richtigen Antworten schaltest du dein Zertifikat frei.
Dein Zertifikat
Glückwunsch! Trage deinen Namen ein und drucke das Zertifikat (oder speichere als PDF).