Gen AI – Gespräch führen
Der Schritt Gespräch führen ist ein promptgesteuerter AI-Baustein, der dynamische, natürliche Dialoge ermöglicht.
Gespräch führen gehört zusammen mit Prompt ausführen und Entitätserkennung zur Gruppe der dynamischen KI-Schritte.
Bei allen KI-Schritten gilt: KI-Modelle können Fehler machen.
Der Schritt „Gespräch führen" ist ein promptgesteuerter KI-Schritt, der das Führen dynamischer Gespräche ermöglicht. Er eignet sich für komplexe Konversationen mit klaren Zielen – im Gegensatz zu statischen Block-Schritten reagiert er flexibel auf die Nutzereingabe und kann dabei gezielt auf hinterlegtes Wissen sowie den Gesprächskontext zugreifen.
Aufbau des Schritts
Der Schritt ist in verschiedene Bereiche unterteilt, die eine präzise Steuerung der KI ermöglichen.
Kern-Komponenten
Name und Beschreibung: Interne Bezeichnung zur Organisation im Flow Builder.
Prompt-Eingabe: Ein Prompt-Editor für die Hauptinstruktionen an die KI.
Ausgänge: Bedingungen, die erfüllt sein müssen, damit der AI Agent den Schritt verlässt. Sie können mit nachfolgenden Schritten verbunden werden, um den Flow fortzusetzen.
Standard-Ausgang: Greift automatisch, sobald die maximale Anzahl an Interaktionen erreicht ist. Greift auch, wenn der Schritt eine Ausführungszeit von 10 Sekunden überschreitet.
Selbstdefinierte Ausgänge: Ermöglichen das Verlassen des Schritts basierend auf eigener Logik. Jeder Ausgang erhält einen Namen und eine spezifische Ausgangsbedingung (eigener Prompt).
Tool-Calling: Ermöglicht der KI den Aufruf von Apps, um während des Gesprächs Aktionen auszuführen.
Einstellungen
Mit den Einstellungen definierst du die Rahmenbedingungen der KI-Interaktion.
Verzögerung aktivieren: Die KI wartet mit dem Ausspielen der Antwort, um eine natürlichere Interaktion zu simulieren. Dabei wird ein zufälliger Wert zwischen einem festgelegten Minimal- und Maximalwert (in Sekunden) gewählt.
Gesprächsverlauf als Kontext nutzen
Diese Einstellung legt fest, wie viel vom bisherigen Gesprächsverlauf der KI als Kontext übergeben wird. Es stehen drei Optionen zur Auswahl:
Letzte Eingabe (Standard): Es wird ausschließlich die letzte Benutzereingabe an die KI übergeben. Nachrichten des AI Agents, die zwischen den Benutzereingaben liegen, werden dabei nicht berücksichtigt. Diese Option eignet sich für die meisten Anwendungsfälle, bei denen der Prompt nur auf eine einzelne Eingabe reagieren soll.
Gesamter Gesprächsverlauf: Der komplette bisherige Gesprächsverlauf – also alle Benutzereingaben und AI Agent-Nachrichten – wird der KI als Kontext übergeben. Verwende diese Option, wenn der Prompt Informationen aus dem gesamten Gespräch benötigt, z. B. für eine Zusammenfassung am Ende eines Dialogs.
Benutzerdefiniert: Hier kannst du in einem zusätzlichen Eingabefeld eine konkrete Anzahl an Benutzereingaben festlegen, die als Kontext berücksichtigt werden sollen. Dabei werden auch alle AI Agent-Nachrichten, die zwischen diesen Benutzereingaben liegen, mit einbezogen. Bei einem Wert von
0wird kein Gesprächsverlauf übergeben.
Der Unterschied zwischen „Letzte Eingabe (Standard)" und „Benutzerdefiniert" mit dem Wert 1 ist folgender: Bei „Letzte Eingabe" wird nur die reine Benutzereingabe übergeben – ohne Nachrichten des AI Agents dazwischen. Bei „Benutzerdefiniert = 1" wird die letzte Benutzereingabe inklusive aller dazwischenliegenden AI Agent-Nachrichten übergeben.
Zugriff auf Wissen aktivieren (RAG): Erlaubt der KI den Zugriff auf im Bereich „Wissen" hinterlegte Dokumente und Informationen.
Vergangene Nutzereingaben RAG: Bestimmt die Anzahl der vergangenen Nutzereingaben, die beim Zugriff auf hinterlegtes Wissen berücksichtigt werden sollen.
Wissensgruppen: Standardmäßig wird Zugriff auf das gesamte hinterlegte Wissen gewährt. Um diesen einzuschränken, können gezielt Wissensgruppen ausgewählt werden.
Maximale Nutzereingaben: Begrenzt, wie oft der Nutzer innerhalb dieses Schritts antworten darf, bevor der Standard-Ausgang gewählt wird.
Funktionsweise und Logik
Verhältnis von Haupt-Prompt und Ausgang
Der Haupt-Prompt und die Ausgangs-Prompts agieren isoliert voneinander. Das bedeutet:
Der Haupt-Prompt kann einen Ausgang nicht aktiv aufrufen.
Der Ausgangs-Prompt sieht lediglich den bisherigen Gesprächsverlauf und bewertet, ob die Bedingung für einen Ausstieg erfüllt ist.
Ist ein Ausgang nicht mit einem nachfolgenden Schritt verbunden, wird automatisch der Fallback getriggert.
Der KI-Schritt reagiert – auch mit deaktiviertem Gesprächsverlauf – immer auf die letzte Nutzereingabe.
Die KI antwortet immer zuerst. Ein Ausstieg erfolgt stets nach einer KI-Antwort, niemals direkt nach einer Nutzereingabe.
RAG-Suche (Wissenszugriff)
Die Suche im hinterlegten Wissen erfolgt automatisiert. Sie kann nicht explizit über den Prompt gestartet oder gelenkt werden. Im Prompt kannst du jedoch festlegen, wie die gefundenen Informationen verarbeitet und wie ausführlich sie ausgegeben werden sollen.
Nutzung von Variablen
Variablen können im Haupt-Prompt verwendet und referenziert werden. Das Setzen und Füllen von Variablen innerhalb dieses Schritts ist allerdings nicht möglich.
Tool-Calling (App-Anbindung)
Tool-Calling ermöglicht der KI, während des Gesprächs externe Apps aufzurufen und so Aktionen auszuführen – zum Beispiel eine Sendungsverfolgung abfragen oder einen Anruf auslösen.
Voraussetzung
Apps müssen vorab installiert worden sein.
Tool hinzufügen
Öffne den Schritt „Gespräch führen" im Flow Builder.
Klicke im Bereich „Tools" auf „Tool hinzufügen".
Wähle im Dropdown „App Modul auswählen" das gewünschte Modul aus.
Vergib einen Namen für das Tool. Dieser Name dient der internen Organisation.
Hinterlege im Feld „Beschreibung, wann dieses Tool genutzt werden soll…" eine klare Anweisung, wann und unter welchen Bedingungen die KI das Tool einsetzen soll.
Funktionsweise
Der AI Agent entscheidet während der Konversation automatisch, ob und wann er das eingebundene Tool aufruft. Die Entscheidung basiert auf der hinterlegten Beschreibung sowie dem Gesprächskontext. Die Verarbeitung der Antworten erfolgt ebenfalls automatisch.
Maximal 5 Tools können in einer Interaktion direkt nacheinander ausgeführt werden.
Beispiel: Sendungsverfolgung als Tool
Du möchtest, dass der AI Agent während eines Support-Gesprächs selbstständig den Sendungsstatus abfragt.
Füge über „Tool hinzufügen" das App-Modul „Versanddienstleister – Abfrage Sendestatus" hinzu.
Vergib den Namen „Sendungsstatus abfragen".
Trage als Beschreibung ein: „Nutze dieses Tool, wenn der Kunde nach dem Status seiner Bestellung oder Lieferung fragt und eine Trackingnummer genannt hat."
Referenziere das Modul im Haupt-Prompt über den Variablen-Picker, damit die KI weiß, welches Tool zur Verfügung steht und wann genau es benutzt werden soll.
Der AI Agent erkennt nun im Gespräch automatisch, wann eine Sendungsverfolgung relevant ist, ruft das Tool auf und verarbeitet das Ergebnis in seiner Antwort.
Best Practices und Prompting-Strategien
Empfohlene Struktur
Ein bewährter Haupt-Prompt folgt meist diesem Aufbau.
Rolle: Wer ist die KI? Beispiel: "Du bist ein erfahrener Support-Mitarbeiter."
Ziel: Was soll erreicht werden? Beispiel: "Hilf dem Kunden bei der Aufnahme seiner Reklamation."
Gesprächsregeln: Constraints wie das One-Turn-Principle (nur eine Frage/Antwort pro Schritt). Beispiel: "Sieze den Kunden."
Gesprächsablauf: Definiert den Gesprächsablauf. Dieser kann starr – etwa mit Nummerierungen – oder dynamisch und offen gestaltet werden.
Beispiele: Liefere am Ende oder in den einzelnen Sektionen vielfältige Beispiele anhand derer die KI Muster für erfolgreiche Gespräche erkennen kann (Few-Shot).
Tipps für präzise Ausgänge
Um sicherzustellen, dass die KI den Schritt zum richtigen Zeitpunkt verlässt, kannst du verschiedene Strategien verfolgen.
Strategie 1 – Trigger-Satz definieren: Definiere im Haupt-Prompt einen Trigger-Satz, dessen Vorkommen vom Ausgangs-Prompt überwacht wird.
Haupt-Prompt: „Wenn das Problem gelöst ist, sage: ‚Vielen Dank, ich leite Sie nun weiter.'"
Ausgangs-Prompt: „Sobald der Gesprächsverlauf ‚Vielen Dank, ich leite Sie nun weiter.' enthält."
Strategie 2 – Bedingungen im Ausgangs-Prompt: Definiere im Ausgangs-Prompt die genauen Bedingungen, die erfüllt sein müssen.
Ausgangs-Prompt: „Prüfe, ob der Nutzer eine Frage zur Sendungsverfolgung hat, deren Aktualisierung länger als 7 Tage zurückliegt, UND ob er bereits seine E-Mail-Adresse genannt hat. Die Bedingung ist nur erfüllt, wenn beide Informationen (Dauer > 7 Tage + E-Mail) im Verlauf enthalten sind."
Häufige Fallstricke
Widersprüche: Vermeide gegensätzliche Anweisungen innerhalb eines Prompts.
Unschärfe: Nutze Begriffe konsistent. Wird von einer „Kundennummer" gesprochen, bezeichne diese später nicht als „Identifikationsnummer".
Testen: Experimentiere kontinuierlich im Debug-Chat. KI-Output variiert – robuste Prompts benötigen mehrere Testläufe.
Experten-Prompts: Umfasst ein Prompt zu viele verschiedene Themen und Anliegen, kann es empfehlenswert sein, diese auf mehrere Gespräch-führen-Schritte aufzuteilen und diese miteinander zu verbinden. Tipp: Nutze für den Übergang einen leeren Block-Schritt mit aktivierter Benutzereingabe erwartet.
Weiterführende Ressourcen zum Prompting
Last updated