RAG-Chatbot auf Ihren Daten bauen

An zwei Tagen bauen Sie einen Chatbot, der Fragen mit Retrieval-Augmented Generation aus Ihren eigenen Dokumenten beantwortet. Sie behandeln Dokumentenaufnahme, Chunking, Embeddings, Retrieval, Antwortgenerierung mit Quellenangaben und systematische Evaluation. Auch Zugriffskontrolle und Datenschutz gehören dazu, denn ein Chatbot auf Unternehmensdaten bringt echte Verantwortung mit sich.

Unverbindlich anfragen

English version

Dauer
2 Tage
Level
Fortgeschritten
Format
Remote oder vor Ort, Deutsch oder Englisch
Gruppengröße
Bis zu 12 Teilnehmende pro Trainer

Für wen der Workshop ist

  • Entwickler, die Wissensassistenten und Support-Bots bauen
  • Data und ML Engineers, die Prototypen in Richtung Produktion bringen
  • Tech Leads, die interne Chatbot-Projekte bewerten
  • Architekten, die solche Projekte mit Sicherheitsanforderungen abstimmen müssen

Was Ihr Team danach kann

  • Erklären, wie Retrieval-Augmented Generation funktioniert und wo sie scheitert
  • Dokumente aus typischen Quellen einlesen und in Chunks aufteilen
  • Retrieval mit Embeddings aufbauen und mit Metadaten und Re-Ranking-Ansätzen verbessern
  • Antworten mit Quellenverweisen erzeugen, die bei fehlender Evidenz verzichten
  • Ein Evaluationsset aufbauen und Retrieval- sowie Antwortqualität messen
  • Berechtigungen respektieren, sodass Nutzer nur sehen, was sie sehen dürfen

Agenda

  1. RAG-GrundlagenSie verstehen die Pipeline von Dokumenten bis zur Antwort und die typischen Fehlerbilder.
  2. Ingestion und ChunkingSie laden Ihre Dokumente, bereinigen sie und probieren verschiedene Chunking-Strategien aus.
  3. RetrievalSie bauen eine Vektorsuche, ergänzen Metadatenfilter und prüfen Suchergebnisse kritisch.
  4. AntwortgenerierungSie formulieren Prompts mit Kontext, liefern Quellenverweise und behandeln Fragen ohne belastbare Evidenz.
  5. EvaluationSie erstellen Testfragen und messen die Wirkung jeder Änderung auf die Qualität.
  6. Zugriffskontrolle und DatenschutzSie setzen Berechtigungen auf Dokumentebene um, besprechen Datenschutz und planen Logging verantwortungsvoll.
  7. DeploymentSie verpacken das System in eine API und eine einfache Oberfläche und legen Monitoring und Aktualisierungsroutinen fest.

Voraussetzungen

  • Solide Programmiererfahrung, vorzugsweise in Python oder TypeScript
  • Grundkenntnisse zu REST-APIs
  • Ein Satz nicht vertraulicher Beispieldokumente oder ein Sandbox-Korpus

Warum Workshops von apprat.io

  • Geleitet von praktizierenden AI Code Engineers
  • Mit Ihren Repositories oder einem Sandbox-Projekt
  • KI-Tempo, menschliche Verantwortung: Review, Sicherheit und Governance inklusive
  • Zertifizierte Prozesse nach ISO 9001 & ISO/IEC 27001
  • Follow-up-Sprechstunde nach 30 Tagen

Unverbindlich anfragen

Erzählen Sie uns von Ihrem Team und Ihren Zielen. Sie erhalten innerhalb eines Werktags eine passende Agenda und ein Angebot – kostenlos und unverbindlich.

24/7-Telefonsupport auf Deutsch & Englisch:
+49 761 519 751 50

Häufige Fragen

Brauchen wir eigene Dokumente?

Beispieldokumente, die Sie teilen dürfen, sind ideal. Falls keine vorhanden sind, bereiten wir einen neutralen Sandbox-Korpus vor.

Welche Vektordatenbank verwenden wir?

Wir wählen eine gängige Option, die zu Ihrem Stack passt. Die Konzepte lassen sich auf andere Speicher übertragen.

Ist das Ergebnis produktionsreif?

Sie erhalten eine funktionierende, evaluierte Referenzimplementierung. Für den Produktivbetrieb sind zusätzlich Ihre Prüfungen zu Sicherheit, Datenschutz und Betrieb nötig.

Mit * markierte Felder sind Pflichtfelder.