Open-Source KI-Assistent für Software-Support
Für ein Schweizer Dienstleistungsunternehmen im Umfeld von Praxismanagement und Praxisadministration konzipierte RealizationZone einen MVP für einen wissensbasierten KI-Assistenten. Dieser macht vorhandene Wissensdokumente als fachliche Grundlage für die Beantwortung häufiger Fragen zur Nutzung bestehender Software zugänglich.
Dify bildet in der Zielarchitektur die self-hosted Open-Source-Plattform für Wissensbasis, Chatlogik und Konfiguration. Externe KI-Modelle werden flexibel über APIs angebunden. Bei fehlendem Wissen, Unsicherheit, technischen Problemen oder dem Wunsch nach persönlicher Unterstützung sieht das Konzept eine kontrollierte Übergabe an den Helpdesk vor.
Ausgangslage
Das Unternehmen betrieb mehrere bestehende Softwareversionen beziehungsweise Webapplikationen, deren Nutzer regelmässig Unterstützung bei der Bedienung benötigten.
Viele dieser Supportfragen waren wiederkehrend und entsprechend zeitintensiv für den Helpdesk. Gleichzeitig war das notwendige Fachwissen bereits teilweise vorhanden. Bestehende PDF-Dokumente und weitere Dokumentationsquellen enthielten Anleitungen und Antworten, mussten von Nutzern oder Supportmitarbeitenden jedoch zuerst gefunden und interpretiert werden.
Die vorhandene Dokumentation bildete damit eine wertvolle Wissensgrundlage, war aber noch nicht als unmittelbarer dialogorientierter Self-Service innerhalb der Software verfügbar.
Herausforderung
Die Herausforderung bestand nicht einzig darin, einen Chatbot bereitzustellen. Für einen produktionsnahen Assistenten müssen Wissensverwaltung, KI-Modell, bestehende Anwendungen, Eskalationslogik und Betrieb sinnvoll zusammenspielen.
Die Konzeption berücksichtigte folgende Anforderungen:
- mehrere bestehende Webapplikationen mit einem zentralen Assistenten bedienen
- vorhandene Dokumente als kontrollierte Wissensgrundlage aufbereiten
- Antworten möglichst verständlich und auf das definierte Wissensgebiet begrenzen
- verhindern, dass fehlendes Wissen durch beliebige Antworten ersetzt wird
- bei Unsicherheit oder technischen Problemen einen klaren Übergang zum menschlichen Support schaffen
- die spätere inhaltliche Pflege durch das Unternehmen ermöglichen
- Anpassungen vor der Veröffentlichung kontrolliert testen
- spätere Erweiterungen architektonisch offenhalten
- Hosting, Datenflüsse und externe KI-Provider klar voneinander abgrenzen
Gerade im Umfeld des Gesundheitswesens war zudem wichtig, den Assistenten nicht als System für medizinische oder andere verbindliche fachliche Einzelfallentscheidungen zu konzipieren. Auch die Eingabe besonders schützenswerter Personendaten war für den vorgesehenen Anwendungsfall nicht vorgesehen.
Zielsetzung
Ziel des MVP war ein KI-Assistent, der Nutzer bei Fragen zur Bedienung der bestehenden Software unmittelbar unterstützt und dabei auf freigegebenes Unternehmenswissen zurückgreift.
Das definierte Zielbild umfasst:
- Supportfragen auf Basis vorhandener Dokumentation beantworten
- möglichst präzise und verständliche Antworten ausgeben
- den Assistenten auf den vorgesehenen Wissensbereich begrenzen
- bei fehlender Wissensgrundlage oder Unsicherheit kontrolliert eskalieren
- den Assistenten direkt innerhalb bestehender Webapplikationen bereitstellen
- dieselbe Wissensbasis für mehrere Anwendungen nutzen
- neue und aktualisierte Wissensdokumente aufnehmen
- die inhaltliche Pflege durch das Unternehmen ermöglichen
- Änderungen vor der Live-Schaltung kontrolliert testen
- unterschiedliche KI-Modelle über Schnittstellen anbinden
- mit einem klar begrenzten MVP starten und spätere Ausbaustufen offenhalten
Der Assistent ist im Konzept ausdrücklich als unterstützendes Self-Service-System eingeordnet. Fachliche Verantwortung und komplexe Supportfälle verbleiben beim menschlichen Helpdesk.
Umsetzung
Für den MVP wurde ein schrittweises Vorgehen mit Dify als zentraler KI-Plattform ausgearbeitet.
Analyse und MVP-Abgrenzung
Die Konzeption definierte eine strukturierte Aufnahme der Anforderungen, bestehenden Anwendungen, Wissensquellen und Projektgrenzen als ersten Schritt des MVP.
Die geplante Analyse fokussiert auf folgende Fragen:
- Welche Supportfragen beantwortet der Assistent?
- Welche Themen liegen ausserhalb seines Zuständigkeitsbereichs?
- Welche Dokumente dienen als Wissensgrundlage?
- Wie spielen Dify, Hosting und Modellprovider zusammen?
- Wie wird der Chat in bestehende Anwendungen integriert?
- Wann eskaliert eine Anfrage an den Helpdesk?
Damit wurde der konzipierte MVP bewusst auf den erforderlichen Funktionsumfang begrenzt und unnötige Anfangskomplexität vermieden.
Aufbau der Wissensbasis
Das Konzept sieht vor, die vorhandenen Dokumente zu sichten, thematisch zu strukturieren und in Dify als Wissensbasis aufzubereiten.
Der definierte Umfang umfasst:
- Sichtung vorhandener Wissensdokumente
- Import geeigneter Startdokumente
- thematische Gliederung
- erste Optimierung der Dokumentaufbereitung
- Aufbau einer Struktur für die spätere eigenständige Pflege
Der Assistent erhält dadurch eine klar definierte Wissensgrundlage, statt ausschliesslich auf allgemeines Modellwissen zurückzugreifen. Fachlich lässt sich dieser Ansatz als RAG-basierter Wissensassistent einordnen. RealizationZone beschreibt solche Systeme auch auf der Seite zu KI-Beratung und Integration.
Konfiguration der Chatlogik
Die Konzeption definiert neben der Wissensbasis auch das gewünschte Antwortverhalten und die Eskalationslogik.
Die Chatlogik:
- begrenzt den Assistenten auf den vorgesehenen Wissensbereich
- unterstützt verständlich formulierte Antworten
- berücksichtigt Unsicherheit
- definiert einen Ersatzweg bei Systemfehlern
- kann bei Bedarf Telefonnummer, Ticketlink oder andere Supportkontakte anzeigen
- verweist auf Wunsch des Nutzers an den menschlichen Support
Damit ist die Eskalation ein fester Bestandteil der Lösungslogik und nicht erst eine nachträgliche Reaktion auf problematische Antworten.
Integration in bestehende Webapplikationen
Für den MVP wurde die Einbettung des Chat-Widgets in bis zu drei bestehende Webapplikationen vorgesehen.
Die Fachapplikationen dienen dabei als Zugangspunkt für die Nutzer. Wissensbasis, Konfiguration und grundlegende Chatlogik bleiben zentral organisiert.
So lässt sich derselbe KI-Assistent an mehreren Stellen bereitstellen, ohne für jede Webanwendung eine vollständig separate Wissenslösung aufbauen zu müssen.
Testen vor der Live-Schaltung
Das Konzept trennt Test und Live-Betrieb über eine separate Testumgebung beziehungsweise Testkonfiguration.
Typische Supportfragen werden in dieser Struktur zunächst realitätsnah geprüft. Freigegebene Änderungen können anschliessend kontrolliert in die Live-Konfiguration übernommen werden.
Gerade bei KI-Anwendungen ist diese Trennung relevant, weil neue Dokumente, veränderte Instruktionen oder ein anderes Modell das Antwortverhalten beeinflussen können.
Vorbereitung des laufenden Betriebs
Für einen späteren produktiven Betrieb konzipierte RealizationZone ergänzend ein separates Wartungs- und Supportmodell. Dieses umfasst als vorgesehenen Leistungsrahmen technische Pflege, Fehleranalyse, kleinere Optimierungen, Monitoring im vereinbarten Umfang und Unterstützung bei Änderungen.
Die langfristige Betreuung einer KI-Lösung passt zum Leistungsbereich Wartung und Support, der Updates, Monitoring, Fehlerbehebung und Weiterentwicklung digitaler Systeme umfasst.
Technische Lösung
Die Zielarchitektur trennt Wissensverwaltung, KI-Orchestrierung, Modellprovider, bestehende Anwendungen und Hosting bewusst voneinander.
Dify als zentrale Open-Source-Plattform
Dify wurde als zentrale Plattform für den KI-Assistenten vorgesehen.
In der Zielarchitektur übernimmt die Plattform folgendes:
- Wissensbasis
- Chatlogik
- Konfiguration des Assistenten
- Anbindung der KI-Modelle
- Bereitstellung der Chat-Oberfläche
Damit müssen zentrale Komponenten eines KI-Assistenten nicht vollständig individuell neu entwickelt werden.
Gegenüber einer proprietären Komplettplattform bietet die Open-Source-Basis zusätzliche Kontrolle über Betrieb und Weiterentwicklung. Gleichzeitig bleibt der Aufwand für einen MVP geringer als bei einer vollständig individuellen KI-Plattform.
Diese Abwägung zwischen Eigenkontrolle und sinnvoller Nutzung bestehender Komponenten entspricht auch dem Ansatz von RealizationZone bei Open-Source-Technologien und Betriebsmodellen.
Self-Hosted Betrieb
Die Zielarchitektur sieht den Self-Hosted-Betrieb der Dify-Instanz auf einer Hostingumgebung des Unternehmens beziehungsweise dessen Hostingpartners vor.
Self-Hosting ermöglicht mehr Kontrolle über die zentrale Plattform und deren Konfiguration. Es bedeutet jedoch nicht automatisch, dass sämtliche Daten ausschliesslich innerhalb dieser Infrastruktur verarbeitet werden.
Wenn externe KI-Modelle über APIs angesprochen werden, müssen die entsprechenden Datenflüsse und Anforderungen des jeweiligen Providers separat beurteilt werden.
Wissensgestützte Antwortlogik
Die bestehenden Wissensdokumente bilden die fachliche Grundlage der Antworten.
Vereinfacht ergibt sich folgender Ablauf:
Nutzerfrage → Dify → relevante Wissensinhalte → KI-Modell → Antwort
Dadurch erhält das Modell gezielt Informationen aus der vorgesehenen Wissensbasis, anstatt die Antwort ausschliesslich aus allgemeinem Modellwissen zu erzeugen.
Flexible Modellanbindung
Für die eigentliche KI-Verarbeitung wurden externe Modelle wie Gemini oder Modelle von OpenAI als mögliche Provider vorgesehen.
Die Modellanbindung erfolgt in der Zielarchitektur über APIs. Dify und das verwendete Sprachmodell bleiben dadurch als technische Komponenten grundsätzlich voneinander getrennt.
Die Architektur reduziert damit die Bindung an einen einzelnen Modellanbieter. Ein späterer Wechsel bleibt grundsätzlich möglich, muss jedoch hinsichtlich Antwortqualität, Konfiguration, Kosten und Datenschutz erneut geprüft werden.
Zentrale Integration in mehrere Anwendungen
Der KI-Assistent ist als Chat-Widget in mehrere bestehende Webapplikationen eingebunden. Jede Anwendung stellt einen eigenen Zugang zum Assistenten bereit:
- Webapplikation 1 → Chat-Widget → Dify → Wissensbasis + KI-Modell
- Webapplikation 2 → Chat-Widget → ...
- Webapplikation 3 → Chat-Widget → ...
Alle Chat-Widgets greifen auf dieselbe zentrale Dify-Instanz zu. Dort werden Wissensbasis, Chatlogik und Konfiguration zentral verwaltet. Für die eigentliche KI-Verarbeitung bindet Dify das gewählte KI-Modell über eine API an.
Dadurch lassen sich Wissen und grundlegendes Antwortverhalten konsistent über mehrere Anwendungen hinweg pflegen, ohne für jede Webapplikation eine separate KI-Lösung aufzubauen.
Kontrollierte Eskalationslogik
Nicht jede Anfrage muss zwingend von der KI beantwortet werden.
Für definierte Situationen sieht die Lösungslogik eine Eskalation vor:
- Fehlendes Wissen / Unsicherheit / Systemfehler / Supportwunsch → Helpdesk
Dieses Prinzip ist auch für umfassendere KI-Workflows und Prozessautomatisierungen relevant. Produktive KI-Prozesse benötigen neben dem gewünschten Normalfall definierte Ausnahmen, Verantwortlichkeiten und menschliche Kontrollpunkte.
Getrennte Test- und Live-Struktur
Die Zielarchitektur trennt Test und produktiven Betrieb.
Neue Dokumente, Änderungen am Prompting oder andere Anpassungen lassen sich dadurch zuerst fachlich und technisch überprüfen. Erst nach erfolgreicher Kontrolle werden sie für Endnutzer freigegeben.
Bewusst begrenzter MVP
Nicht Bestandteil des definierten MVP waren unter anderem:
- Ticketsystem-Integration
- SSO oder IAM-Anbindung
- individuelle Fachworkflows pro Praxis oder Kunde
- Französisch und Italienisch
- bildgestützte Antworten aus Screenshots
- umfassende Enterprise-Funktionen
- individuelle Backend-Schnittstellen tief in die bestehenden Fachapplikationen
Diese Funktionen wurden teilweise bereits als mögliche spätere Ausbaustufen berücksichtigt.
Ergebnis und Nutzen
Der erwartbare Nutzen ergibt sich aus der konzipierten Architektur und dem vorgesehenen Einsatzszenario.
Nutzen für Endnutzer
- unmittelbare Unterstützung direkt innerhalb der verwendeten Software
- dialogorientierter Zugriff auf bestehende Dokumentation
- weniger Suche in umfangreichen Handbüchern oder Hilfedokumenten
- verständlich aufbereitete Antworten auf typische Softwarefragen
- klarer Übergang zum persönlichen Support, wenn die KI nicht weiterhelfen kann
Nutzen für Support und Organisation
- wiederkehrende dokumentationsbasierte Fragen lassen sich automatisiert abfangen
- Supportmitarbeitende können sich stärker auf komplexere Anfragen konzentrieren
- vorhandenes Wissen wird über einen zusätzlichen Self-Service-Kanal nutzbar
- neue Informationen können über aktualisierte oder zusätzliche Wissensdokumente in den Assistenten einfliessen
- dieselbe Wissensbasis kann mehrere Anwendungen unterstützen
- die fachliche Pflege bleibt grundsätzlich innerhalb des Unternehmens möglich
Technischer und strategischer Nutzen
- zentrale Plattform statt separater Chatbot-Lösungen pro Webapplikation
- Open-Source-Grundlage mit geringerer Abhängigkeit von einer geschlossenen Komplettplattform
- Self-Hosting der zentralen KI-Plattform möglich
- KI-Modelle werden über klar definierte Schnittstellen angebunden
- ein späterer Modellwechsel bleibt grundsätzlich möglich
- die Test- und Live-Struktur unterstützt kontrollierte Änderungen
- der klar abgegrenzte MVP reduziert unnötige Anfangskomplexität
- spätere Erweiterungen lassen sich schrittweise ergänzen
Mögliche spätere Ausbaustufen
Im Konzept wurden bereits verschiedene Erweiterungen berücksichtigt:
- Französisch und Italienisch
- strukturierte Freigabeprozesse für neues Wissen
- Qualitätsmonitoring anhand realer Fragen und Antwortmuster
- bildgestützte Antworten mit ausgewählten Screenshots
- SSO oder Benutzerkontext
- Ticketsystem- und Drittsystemintegrationen
Damit ist der konzipierte MVP nicht als technische Sackgasse angelegt, sondern als kontrollierter Einstieg in eine weiterentwickelbare KI-Supportlösung.
Fazit
Das Lösungskonzept zeigt, wie vorhandene Softwaredokumentation mit einem KI-Assistenten direkt innerhalb bestehender Webapplikationen nutzbar gemacht werden kann.
Dify bildet dafür eine offene und self-hosted betreibbare Grundlage für Wissensbasis, Chatlogik und Konfiguration. Externe KI-Modelle werden über APIs angebunden. Dadurch bleiben Plattform, Modellprovider und bestehende Anwendungen technisch voneinander getrennt.
Entscheidend ist jedoch nicht allein die Wahl des KI-Modells. Ein belastbarer Assistent benötigt eine geeignete Wissensbasis, klar begrenzte Aufgaben, kontrollierte Eskalationswege sowie einen geregelten Test- und Betriebsprozess.
Für Unternehmen mit umfangreicher Dokumentation und zahlreichen wiederkehrenden Supportfragen kann ein solcher MVP deshalb ein sinnvoller Weg sein, den praktischen Nutzen eines KI-Assistenten kontrolliert zu prüfen, bevor weitere Integrationen und Automatisierungen umgesetzt werden.
Häufige Fragen (FAQ) zum KI-Assistenten für Software-Support
Grundsätzlich ja. Für gute Antworten müssen die Dokumente jedoch auf Aktualität, Struktur und Eignung geprüft werden.
Veraltete, widersprüchliche oder unklare Dokumentationen beeinflussen auch die Qualität eines KI-Assistenten. Die Wissensbasis sollte deshalb als gepflegter Bestandteil der Lösung betrachtet werden und nicht lediglich als einmaliger Dokumentenimport.
Ja. Genau dieser Ansatz ist im beschriebenen MVP-Konzept vorgesehen. Eine zentrale Dify-Instanz verwaltet Wissensbasis und grundlegende Chatlogik, während Chat-Widgets den Assistenten in mehreren Anwendungen zugänglich machen.
Ob einzelne Anwendungen unterschiedliche Wissensbereiche, Benutzerrechte oder individuelle Konfigurationen benötigen, muss im konkreten Projekt separat beurteilt werden.
Nicht automatisch. Dify selbst kann auf einer kontrollierten eigenen Hostingumgebung betrieben werden. Wird für die eigentliche KI-Verarbeitung jedoch ein externer Modellprovider verwendet, können dafür Informationen über dessen API übertragen werden.
Die konkreten Datenflüsse, Verarbeitungsorte, Vertragsbedingungen und technischen Schutzmassnahmen müssen deshalb vor einem produktiven Einsatz geprüft werden. Der Praxisleitfaden zur KI-Integration in Schweizer Unternehmen behandelt solche Fragestellungen ausführlicher.
Vollständig ausschliessen lassen sich fehlerhafte KI-Ausgaben nicht. Das Risiko lässt sich aber gezielt reduzieren, beispielsweise durch eine klar abgegrenzte Wissensbasis, gute Quelldokumente, definierte Instruktionen, realistische Tests und eine Eskalationslogik für unsichere Fälle.
Bei sensiblen oder verbindlichen fachlichen Entscheidungen sollte ein KI-Assistent unterstützen, aber nicht ohne entsprechende Absicherung die verantwortliche menschliche Beurteilung ersetzen.
Die vorgesehene Architektur bindet KI-Modelle über APIs an Dify an. Dadurch besteht grundsätzlich mehr Flexibilität bei der Modellwahl als bei einer vollständig geschlossenen Komplettplattform.
Ein Anbieterwechsel ist trotzdem kein rein technischer Schalter. Modelle unterscheiden sich bei Qualität, Kontextverarbeitung, Kosten, Datenschutz und Verhalten. Ein Wechsel sollte deshalb getestet und fachlich validiert werden.
Für einen ersten produktionsnahen Test ist eine klare Begrenzung häufig sinnvoll. Im vorliegenden Konzept sind beispielsweise Mehrsprachigkeit, SSO, Ticketsystem-Integrationen, bildgestützte Antworten und erweiterte Freigabeprozesse als mögliche spätere Ausbaustufen vorgesehen.
Welche Erweiterungen tatsächlich Mehrwert bringen, lässt sich nach einem MVP besser anhand realer Fragen, Nutzungsmuster und betrieblicher Anforderungen beurteilen.
Zusammenarbeit mit RealizationZone
RealizationZone erarbeitete für dieses Szenario die technische Zielarchitektur und einen möglichen MVP für einen KI-Assistenten im Software-Support. Im Zentrum standen nicht möglichst viele KI-Funktionen, sondern ein klar abgegrenzter Anwendungsfall, vorhandene Wissensquellen, kontrollierte Eskalationen und eine langfristig erweiterbare Open-Source-Basis.
Bei vergleichbaren Projekten kann RealizationZone von der Analyse des Anwendungsfalls über die Auswahl von Plattform und KI-Modellen bis zur Integration in bestehende Software unterstützen. Die Leistungsseite zu KI-Beratung und Integration beschreibt diesen Ansatz von der Potenzialanalyse über MVP und Integration bis zum laufenden Betrieb.
Ähnlichen KI-Assistenten prüfen lassen
Sie möchten wiederkehrende Supportfragen mit vorhandenem Unternehmenswissen beantworten oder einen KI-Assistenten in bestehende Software integrieren?
RealizationZone prüft gemeinsam mit Ihnen Wissensgrundlage, Systemlandschaft, Datenschutzanforderungen, Integrationsmöglichkeiten und einen realistischen MVP-Umfang.