Ein Logistikunternehmen mit 80 Mitarbeitern in Wien bearbeitet t\u00e4glich 150 Support-Tickets. Davon sind 40 Prozent Routineanfragen: Sendungsverfolgung, Schadensmeldungen, Zollabfertigung. Die Support-Mitarbeiter verbringen 60 Prozent ihrer Zeit mit der Suche in Confluence und Notion, statt die Tickets zu l\u00f6sen. Die Durchlaufzeit pro Ticket liegt bei 45 Minuten, die Fehlerquote bei 12 Prozent. Das Problem ist nicht mangelnde Kompetenz, sondern fehlende Kontextverf\u00fcgbarkeit. Die relevanten Informationen sind in 3.200 Confluence-Seiten und 800 Notion-Dokumenten verstreut, ohne einheitliche Struktur. Ein RAG-System kann diese L\u00fccke schlie\u00dfen, indem es die Wissensbasis in einen durchsuchbaren Vektorindex \u00fcberf\u00fchrt und die Antwortgenerierung an die LLM-API delegiert. Der Pilot zielt darauf ab, die Durchlaufzeit auf 25 Minuten zu senken und die Fehlerquote auf unter 5 Prozent zu reduzieren.<\/p>\n
Die Architektur besteht aus vier Komponenten: (1) einem Ingest-Pipeline, die \u00fcber die Confluence und Notion REST-APIs Inhalte abruft, in Chunks von 512 Token aufteilt und mit dem Embedding-Modell text-embedding-3-small in Vektoren konvertiert; (2) einem Vektordatenbank-Backend (Qdrant oder Weaviate) mit HNSW-Indexierung f\u00fcr sub-100-ms-Suche; (3) einem LangGraph-Workflow, der die Anfrage klassifiziert, die Top-5-Ergebnisse abruft und ein Prompt mit Kontext an die LLM-API sendet; (4) einem Human-in-the-Loop-Interventionspunkt, bei dem der Support-Mitarbeiter den Vorschlag vor der Kundenantwort freigibt. Die API-Endpunkte sind \u00fcber FastAPI exponiert, mit Rate-Limiting auf 10 Requests pro Minute pro Benutzer. Die Latenz liegt bei 1.200 ms f\u00fcr die Gesamtantwort, davon 800 ms f\u00fcr die LLM-Generierung.<\/p>\n
Die Chunk-Gr\u00f6\u00dfe ist der kritischste Parameter. Zu kleine Chunks (unter 256 Token) verlieren Kontext, zu gro\u00dfe (\u00fcber 1.024 Token) reduzieren die Suchpr\u00e4zision. F\u00fcr Logistik-Dokumentation mit vielen Tabellen und Aufz\u00e4hlungen empfiehlt sich eine semantische Chunking-Strategie, die Abs\u00e4tze und Tabellen als eigene Einheiten behandelt. Die Embedding-Modell-Wahl ist ein Trade-off zwischen Kosten und Qualit\u00e4t: text-embedding-3-small kostet 0,02 USD pro 1.000 Token und reicht f\u00fcr die meisten F\u00e4lle. Wenn die Genauigkeit unter 80 Prozent liegt, lohnt sich der Wechsel zu text-embedding-3-large (0,13 USD pro 1.000 Token). Die Vektordatenbank-Wahl h\u00e4ngt von der Skalierbarkeit ab: Qdrant ist f\u00fcr unter 100.000 Vektoren ausreichend, Weaviate bietet bessere Filterung f\u00fcr strukturierte Metadaten.<\/p>\n
F\u00fcr ein 51-200-Mitarbeiter-Unternehmen in der Logistik mit Confluence und Notion als Wissensbasis empfiehlt sich folgender 4-Wochen-Plan: Woche 1: Prozessanalyse und Auswahl der 20 h\u00e4ufigsten Ticket-Typen, Einrichtung des Vektordatenbank-Backends, Implementierung der Ingest-Pipeline. Woche 2: LangGraph-Workflow mit Human-in-the-Loop, Integration der LLM-API, Latenz-Optimierung. Woche 3: Pilotbetrieb mit 5 Support-Mitarbeitern, Messung der Antwortgenauigkeit und Latenz, Iteration an den Prompts. Woche 4: Auswertung der Metriken, Dokumentation, \u00dcbergabe an das Support-Team. Die wichtigsten Erfolgskriterien sind: Antwortgenauigkeit \u00fcber 85 Prozent, P95-Latenz unter 2 Sekunden, Mitarbeiter-Zufriedenheit \u00fcber 4\/5. Wenn diese Kriterien nicht erf\u00fcllt sind, sollte der Pilot nicht in den Produktivbetrieb \u00fcberf\u00fchrt werden.<\/p>\n
Die h\u00e4ufigsten Fehler bei RAG-Piloten in der Logistik sind: (1) unstrukturierte Quelldaten \u2013 Confluence-Seiten mit veralteten Informationen oder widerspr\u00fcchlichen Anweisungen; (2) fehlende Metadaten \u2013 ohne Tags wie \u2018Zoll\u2019, \u2018Schaden\u2019, \u2018Versicherung\u2019 kann die Suche nicht filtern; (3) zu aggressive Automatisierung \u2013 wenn die KI ohne menschliche Freigabe antwortet, steigt das Risiko von Fehlinformationen; (4) mangelnde Messung \u2013 ohne Baseline vor dem Piloten kann man den Erfolg nicht belegen. Die L\u00f6sung ist eine strenge Scope-Definition: Nur die 20 h\u00e4ufigsten Ticket-Typen werden im Piloten abgedeckt, alle anderen gehen weiterhin manuell. Die menschliche Freigabe bleibt f\u00fcr alle Antworten, die Kunden betreffen.<\/p>\n","protected":false},"excerpt":{"rendered":"
Wie ein Logistikunternehmen in \u00d6sterreich mit LangGraph und Notion einen RAG-Piloten f\u00fcr den Support in 4 Wochen baut \u2013 inklusive Architektur, Kosten und Messkriterien.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"rank_math_title":"RAG-Pilot f\u00fcr den Support: LangGraph mit Notion in 4 Wochen","rank_math_description":"Wie ein Logistikunternehmen in \u00d6sterreich mit LangGraph und Notion einen RAG-Piloten f\u00fcr den Support in 4 Wochen baut \u2013 inklusive Architektur, Kosten und Messkriterien.","rank_math_focus_keyword":"free senior staff from routine work internal knowledge search","_yoast_wpseo_title":"","_yoast_wpseo_metadesc":"","_yoast_wpseo_focuskw":"","pll_lang":"de","geo_jsonld":"{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@id\":\"https:\/\/blog.forfis.com\/blog\/rag-pilot-logistik-support-langgraph-notion-4-wochen\/#article\",\"@type\":\"Article\",\"author\":{\"@id\":\"https:\/\/blog.forfis.com#org\"},\"dateModified\":\"2026-10-05T23:50:42.906638150+00:00\",\"datePublished\":\"2026-10-05T23:50:42.906638150+00:00\",\"description\":\"Wie ein Logistikunternehmen in \u00d6sterreich mit LangGraph und Notion einen RAG-Piloten f\u00fcr den Support in 4 Wochen baut \u2013 inklusive Architektur, Kosten und Messkriterien.\",\"headline\":\"RAG-Pilot f\u00fcr den Support: LangGraph mit Notion in 4 Wochen\",\"inLanguage\":\"en\",\"keywords\":[\"AI-Native Operations\",\"LangChain and LangGraph\",\"Predictive Scoring\",\"Customer Support\",\"51-200\",\"None\",\"Integration Sprint\",\"Logistics and Supply Chain\",\"Notion or Confluence\",\"German\",\"Free Senior Staff from Routine Work\",\"Austria\",\"4 weeks\",\"Internal Knowledge Search\"],\"mainEntityOfPage\":\"https:\/\/blog.forfis.com\/blog\/rag-pilot-logistik-support-langgraph-notion-4-wochen\/\",\"publisher\":{\"@id\":\"https:\/\/blog.forfis.com#org\"}},{\"@id\":\"https:\/\/blog.forfis.com\/blog\/rag-pilot-logistik-support-langgraph-notion-4-wochen\/#faq\",\"@type\":\"FAQPage\",\"mainEntity\":[{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Ein 51-200-Mitarbeiter-Unternehmen in der Logistik ben\u00f6tigt f\u00fcr einen produktiven RAG-Piloten mit LangGraph und Notion-Anbindung typischerweise 15.000 bis 25.000 Euro. Davon entfallen 40 Prozent auf die technische Implementierung, 30 Prozent auf die Prozessanalyse und 30 Prozent auf die Schulung der Support-Teams. Die laufenden Kosten f\u00fcr die LLM-APIs liegen bei 200 bis 500 Euro monatlich, abh\u00e4ngig von der Ticket-Volumen.\"},\"name\":\"Was kostet ein RAG-Pilot f\u00fcr 50 Mitarbeiter in der Logistik?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Nein. Bei der Integration von Notion oder Confluence werden die Inhalte nicht dauerhaft kopiert, sondern \u00fcber die jeweiligen REST-APIs abgerufen und in einem tempor\u00e4ren Vektorindex abgelegt. Die Originaldaten bleiben in der Quelldatei. Bei der Beendigung des Projekts wird der Vektorindex gel\u00f6scht. Die API-Schl\u00fcssel werden in einem Secrets-Manager wie HashiCorp Vault oder AWS Secrets Manager gespeichert und nicht im Code-Repository.\"},\"name\":\"M\u00fcssen wir unsere Notion-Daten f\u00fcr den RAG-Piloten exportieren?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"LangGraph eignet sich f\u00fcr Support-Workflows, weil es Zustandsmaschinen mit expliziten \u00dcberg\u00e4ngen und menschlichen Interventionspunkten (Human-in-the-Loop) unterst\u00fctzt. Im Gegensatz zu reinen Prompt-Ketten kann LangGraph bei Unsicherheit den Prozess anhalten, einen Mitarbeiter um Freigabe bitten und den Kontext beibehalten. Das ist essenziell, wenn die KI Vorschl\u00e4ge f\u00fcr Kundenanfragen macht, die sp\u00e4ter von einem Menschen gepr\u00fcft werden.\"},\"name\":\"Warum LangGraph statt einer einfachen Prompt-Kette?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Die Latenz setzt sich aus drei Komponenten zusammen: Embedding-Generierung (ca. 50 ms), Vektorsuche (ca. 20 ms) und LLM-Generierung (ca. 800-1200 ms). F\u00fcr interne Wissenssuche ist eine Gesamtantwortzeit unter 2 Sekunden akzeptabel. Wenn die Latenz zu hoch ist, kann man die Top-K-Ergebnisse auf 3 statt 5 reduzieren oder ein kleineres Modell f\u00fcr die Erstklassifizierung verwenden.\"},\"name\":\"Wie schnell muss der RAG-Endpunkt antworten?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Ja, aber mit Einschr\u00e4nkungen. Die Notion-API erlaubt nur Lesezugriff auf \u00f6ffentliche oder geteilte Seiten. Private Seiten erfordern explizite Berechtigungen. Confluence bietet eine robustere API mit granularer Berechtigungssteuerung. In der Praxis empfiehlt es sich, einen dedizierten Service-Account mit Lesezugriff auf die relevanten Spaces anzulegen, um Berechtigungsprobleme zu vermeiden.\"},\"name\":\"Kann der RAG-Agent auf alle Notion-Seiten zugreifen?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Die wichtigsten Metriken sind: Antwortgenauigkeit (Anteil korrekter Zitate), Latenz (P95 unter 2 Sekunden), Mitarbeiter-Zufriedenheit (NPS nach 4 Wochen) und Reduktion der Durchlaufzeit pro Ticket. F\u00fcr die Genauigkeit empfiehlt sich eine manuelle Bewertung von 50 zuf\u00e4llig ausgew\u00e4hlten Anfragen durch zwei unabh\u00e4ngige Pr\u00fcfer mit Kappa-Koeffizient \u00fcber 0.7.\"},\"name\":\"Welche Metriken sollten wir im Piloten messen?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Ein 51-200-Mitarbeiter-Unternehmen in der Logistik hat typischerweise 3-5 Support-Mitarbeiter, die 200-400 Tickets pro Woche bearbeiten. Ein RAG-Pilot kann 30-40 Prozent dieser Routineanfragen (z. B. 'Wo ist meine Sendung?', 'Wie melde ich einen Schaden?') automatisieren. Das spart 10-15 Stunden pro Woche an manueller Recherche und erm\u00f6glicht es den Mitarbeitern, sich auf komplexe F\u00e4lle zu konzentrieren.\"},\"name\":\"Wie viele Support-Mitarbeiter werden im Piloten entlastet?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Die Notion-API hat eine Rate Limit von 3 Requests pro Sekunde pro Workspace. F\u00fcr einen RAG-Piloten mit 50 Mitarbeitern und 200 Tickets pro Woche ist das ausreichend. Bei Confluence liegt die Rate Limit bei 100 Requests pro Minute. Wenn die Datenmenge gro\u00df ist (\u00fcber 10.000 Seiten), empfiehlt sich eine inkrementelle Synchronisation statt eines vollst\u00e4ndigen Re-Indexings bei jedem Aufruf.\"},\"name\":\"Wie viele API-Requests sind f\u00fcr den Piloten n\u00f6tig?\"}]},{\"@id\":\"https:\/\/blog.forfis.com\/blog\/rag-pilot-logistik-support-langgraph-notion-4-wochen\/#breadcrumbs\",\"@type\":\"BreadcrumbList\",\"itemListElement\":[{\"@type\":\"ListItem\",\"item\":\"https:\/\/blog.forfis.com\",\"name\":\"Home\",\"position\":1},{\"@type\":\"ListItem\",\"item\":\"https:\/\/blog.forfis.com\/blog\/\",\"name\":\"Blog\",\"position\":2},{\"@type\":\"ListItem\",\"item\":\"https:\/\/blog.forfis.com\/blog\/rag-pilot-logistik-support-langgraph-notion-4-wochen\/\",\"name\":\"RAG-Pilot f\u00fcr den Support: LangGraph mit Notion in 4 Wochen\",\"position\":3}]},{\"@id\":\"https:\/\/blog.forfis.com#org\",\"@type\":\"Organization\",\"name\":\"Forfis\",\"url\":\"https:\/\/blog.forfis.com\"}]}","geo_content_hash":"56c1b83212d514db0be19e8e6451401bca13e6f1ba49c4d65e973147badeab5b","footnotes":""},"categories":[29],"tags":[35,41,47],"class_list":["post-218","post","type-post","status-publish","format-standard","hentry","category-logistics-and-supply-chain","tag-austria","tag-free-senior-staff-from-routine-work","tag-internal-knowledge-search"],"_links":{"self":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/posts\/218","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/comments?post=218"}],"version-history":[{"count":0,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/posts\/218\/revisions"}],"wp:attachment":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/media?parent=218"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/categories?post=218"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/tags?post=218"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}