In der \u00f6sterreichischen Medtech-Branche stagniert die operative Effizienz oft bei der Informationsbeschaffung. Mitarbeiter in HR und Recruiting verbringen bis zu 30 Prozent ihrer Arbeitszeit damit, relevante Informationen aus verstreuten Quellen wie Google Drive, Confluence oder alten E-Mail-Threads zu extrahieren. Bei einer Unternehmensgr\u00f6\u00dfe von 201 bis 500 Mitarbeitern fehlt h\u00e4ufig die Skalierung, um diese manuelle Recherche durch zus\u00e4tzliche Headcount zu kompensieren, ohne die Kostenstruktur zu sprengen.<\/p>\n
Der Kern des Problems ist nicht das Fehlen von Daten, sondern die fehlende semantische Verkn\u00fcpfung. Dokumente liegen in siloartigen Strukturen vor, und die Suche basiert auf exakten Schl\u00fcsselwort-Treffern. Ein RAG-System (Retrieval-Augmented Generation) l\u00f6st dieses Problem, indem es die semantische \u00c4hnlichkeit zwischen einer nat\u00fcrlichen Sprachfrage und dem Dokumentenkorpus berechnet. Der folgende Abschnitt beschreibt die technische Architektur, die es erm\u00f6glicht, diese Suche in einem 8-Wochen-Piloten produktiv zu betreiben, ohne bestehende Systeme zu ersetzen.<\/p>\n
Die Architektur basiert auf einer drei-schichtigen Pipeline: Ingestion, Retrieval und Generation. Bei der Ingestion werden Dokumente aus Google Workspace (Docs, Sheets, Mail) \u00fcber die Google Workspace API abgerufen. Die Texte werden in Chunks von 512 Token aufgeteilt und mit einem Multilingual-Embedding-Modell (z. B. BGE-M3) in 1024-dimensionale Vektoren transformiert. Diese Vektoren werden in einer PostgreSQL-Instanz mit dem pgvector-Extension gespeichert.<\/p>\n
[Query] -> [Embedding] -> [pgvector Search] -> [Top-K Chunks] -> [LLM Prompt] -> [Answer]\n<\/code><\/pre>\nDas Retrieval nutzt den HNSW-Index (Hierarchical Navigable Small World) in pgvector f\u00fcr eine Suche in unter 50 ms bei 100.000 Vektoren. Die Top-5-Chunks werden zusammen mit der User-Frage an ein LLM (z. B. GPT-4o oder ein lokales Llama-3-8B) \u00fcbergeben. Das Modell generiert die Antwort und zitiert die Quellen. F\u00fcr die Dokumentenextraktion aus PDFs wird ein OCR-Pipeline mit Tesseract und einem Layout-Analyse-Modell eingesetzt, um Tabellen und Metadaten strukturiert zu extrahieren.<\/p>\n
Trade-offs: Cloud-APIs versus On-Premise-Modelle<\/h2>\n
Die zentrale architektonische Entscheidung ist die Modell-Agnostik. F\u00fcr die Generierung von Antworten auf interne HR-Fragen, die keine sensiblen Gesundheitsdaten enthalten, ist die Nutzung von OpenAI- oder Anthropic-APIs wirtschaftlich sinnvoll, da die Latenz unter 200 ms liegt und die Qualit\u00e4t hoch ist. Sobald jedoch Patientendaten oder vertrauliche Medtech-Spezifikationen verarbeitet werden, muss das System auf Open-Weight-Modelle (z. B. Mistral-7B oder Llama-3) auf eigener Hardware umschalten, um die Datenhoheit zu wahren.<\/p>\n
Ein weiterer Trade-off betrifft die Chunk-Gr\u00f6\u00dfe. Kleine Chunks (256 Token) liefern pr\u00e4zisere Treffer, erh\u00f6hen aber die Wahrscheinlichkeit, dass Kontext verloren geht. Gro\u00dfe Chunks (1024 Token) erhalten mehr Kontext, f\u00fchren aber zu verrauschten Retrieval-Ergebnissen. In der Praxis hat sich eine hybride Strategie bew\u00e4hrt: 512 Token mit 50 Token Overlap. Die Kosten f\u00fcr die Vektorisierung liegen bei ca. 0,001 EUR pro 1.000 Token, was f\u00fcr einen Korpus von 10.000 Dokumenten eine einmalige Kosten von ca. 50 EUR ergibt.<\/p>\n
Empfehlung: Gestaffelter Rollout f\u00fcr den 8-Wochen-Piloten<\/h2>\n
F\u00fcr Unternehmen in der beschriebenen Konstellation empfiehlt sich ein gestaffelter Ansatz. Der 8-Wochen-Pilot sollte sich auf die interne Wissenssuche beschr\u00e4nken, da dieser Use Case die geringste Compliance-H\u00fcrde hat und den schnellsten ROI liefert. Die Integration in Google Workspace erfolgt \u00fcber eine Chrome-Extension oder ein Sidebar-Plugin, das die Frage direkt im Browser beantwortet, ohne den Workflow zu unterbrechen.<\/p>\n
Die Messung des Erfolgs basiert auf zwei Metriken: der Reduktion der Suchzeit (Baseline: 12 Minuten pro Anfrage, Ziel: unter 2 Minuten) und der Fehlerquote bei der Dokumentenextraktion (Baseline: 8 %, Ziel: unter 2 %). Nach dem Piloten wird das System in den Managed-Service \u00fcberf\u00fchrt, der f\u00fcr Updates der Embeddings, Monitoring der Latenz und Anpassung der Prompts verantwortlich ist. Dieser Ansatz erm\u00f6glicht es, die operativen Skalierungseffekte zu nutzen, ohne neue Headcount in der IT zu schaffen.<\/p>\n","protected":false},"excerpt":{"rendered":"
Wie ein Medtech-Unternehmen in \u00d6sterreich mit pgvector und RAG interne Wissenssuche automatisiert. Technisches Deep Dive zu Architektur, EU AI Act und 8-Wochen-Pilot.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"rank_math_title":"RAG-Pipeline f\u00fcr Medtech: Interne Wissenssuche mit pgvector in 8 Wochen","rank_math_description":"Wie ein Medtech-Unternehmen in \u00d6sterreich mit pgvector und RAG interne Wissenssuche automatisiert. Technisches Deep Dive zu Architektur, EU AI Act und 8-Wochen-Pilot.","rank_math_focus_keyword":"multilingual support coverage internal knowledge search","_yoast_wpseo_title":"","_yoast_wpseo_metadesc":"","_yoast_wpseo_focuskw":"","pll_lang":"de","geo_jsonld":"{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@id\":\"https:\/\/blog.forfis.com\/blog\/rag-pipeline-medtech-osterrreich-pgvector\/#article\",\"@type\":\"Article\",\"author\":{\"@id\":\"https:\/\/blog.forfis.com#org\"},\"dateModified\":\"2026-10-05T23:57:26.073666496+00:00\",\"datePublished\":\"2026-10-05T23:57:26.073666496+00:00\",\"description\":\"Wie ein Medtech-Unternehmen in \u00d6sterreich mit pgvector und RAG interne Wissenssuche automatisiert. Technisches Deep Dive zu Architektur, EU AI Act und 8-Wochen-Pilot.\",\"headline\":\"RAG-Pipeline f\u00fcr Medtech: Interne Wissenssuche mit pgvector in 8 Wochen\",\"inLanguage\":\"en\",\"keywords\":[\"Running Isolated Pilots\",\"pgvector Embeddings Search\",\"Document Extraction\",\"HR and Recruiting\",\"201-500\",\"EU AI Act\",\"Managed AI Operations\",\"Healthcare and Medtech\",\"Google Workspace\",\"German\",\"Multilingual Support Coverage\",\"Austria\",\"8 weeks\",\"Internal Knowledge Search\"],\"mainEntityOfPage\":\"https:\/\/blog.forfis.com\/blog\/rag-pipeline-medtech-osterrreich-pgvector\/\",\"publisher\":{\"@id\":\"https:\/\/blog.forfis.com#org\"}},{\"@id\":\"https:\/\/blog.forfis.com\/blog\/rag-pipeline-medtech-osterrreich-pgvector\/#faq\",\"@type\":\"FAQPage\",\"mainEntity\":[{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Ja, sofern die Datenverarbeitung in der EU stattfindet und keine sensiblen Gesundheitsdaten (Art. 9 DSGVO) ohne explizite Einwilligung verarbeitet werden. F\u00fcr interne HR-Dokumente wie Stellenbeschreibungen oder Onboarding-Guides ist die H\u00fcrde niedrig. Bei Patientendaten oder \u00e4rztlichen Vermerken ist ein On-Premise-Deployment mit Open-Weight-Modellen und vollst\u00e4ndiger Datenhoheit zwingend erforderlich, um die EU AI Act-Konformit\u00e4t und DSGVO-Vorgaben zu erf\u00fcllen.\"},\"name\":\"Darf ich mit einem RAG-System auf HR-Daten zugreifen, ohne gegen die DSGVO zu versto\u00dfen?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Ein 8-Wochen-Zeitplan ist f\u00fcr einen produktiven Piloten realistisch, wenn der Scope auf einen einzigen Use Case (z. B. interne Wissenssuche) begrenzt ist. Woche 1-2: Prozess-Audit und Datenbereinigung. Woche 3-4: RAG-Pipeline-Setup und Modell-Finetuning. Woche 5-6: Integration in Google Workspace und User-Acceptance-Testing. Woche 7-8: Messung der Baseline-Metriken und \u00dcbergabe an den Managed-Service. Jede Woche Verz\u00f6gerung bei der Datenbereitstellung durch den Kunden verschiebt den Go-Live-Termin um mindestens 5 Werktage.\"},\"name\":\"Wie realistisch ist ein 8-Wochen-Zeitplan f\u00fcr den Piloten?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Der EU AI Act klassifiziert interne HR-Tools als 'Limited Risk', was Transparenzpflichten und die Offenlegung der KI-Nutzung gegen\u00fcber den Besch\u00e4ftigten erfordert. Bei der Verarbeitung von Gesundheitsdaten im Medtech-Bereich kann die Klassifikation als 'High Risk' greifen, was eine Risikobewertung, technische Dokumentation und menschliche Aufsicht (Human-in-the-Loop) zwingend vorschreibt. Die technische Umsetzung muss diese Anforderungen durch Audit-Logs und Approval-Workflows abbilden.\"},\"name\":\"Welche Compliance-Anforderungen stellt der EU AI Act an interne KI-Systeme?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"pgvector ist f\u00fcr Datenbest\u00e4nde bis zu 10 Millionen Vektoren performant und einfach zu betreiben. Bei gr\u00f6\u00dferen Skalierungen oder komplexen Filterungen (z. B. nach Abteilung oder Dokumenttyp) lohnt sich der Wechsel zu spezialisierten Vektor-Datenbanken wie Weaviate oder Qdrant. F\u00fcr die beschriebene Unternehmensgr\u00f6\u00dfe (201-500 Mitarbeiter) ist pgvector jedoch die wirtschaftlich sinnvollste Wahl, da es keine zus\u00e4tzliche Infrastruktur erfordert und direkt in der bestehenden PostgreSQL-Instanz l\u00e4uft.\"},\"name\":\"Ist pgvector f\u00fcr die Skalierung auf mehrere Standorte geeignet?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Die Kosten setzen sich aus der Lizenzgeb\u00fchr f\u00fcr das Managed-Service-Modell (typischerweise 1.500\u20133.000 EUR\/Monat f\u00fcr eine kleine bis mittlere Implementierung) und den API-Kosten zusammen. Bei OpenAI GPT-4o liegen die Kosten f\u00fcr 10.000 Abfragen bei ca. 15 EUR. Bei lokalen Open-Weight-Modellen entfallen die API-Kosten, aber die Hardware-Investition (z. B. eine NVIDIA A100-GPU f\u00fcr ca. 10.000 EUR) muss amortisiert werden. Der ROI ergibt sich aus der Einsparung von 20\u201330 Stunden manueller Recherche pro Woche.\"},\"name\":\"Wie hoch sind die laufenden Kosten f\u00fcr ein Managed-AI-Operations-Setup?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Ja, durch die Verwendung von Multilingual-Embedding-Modellen wie BGE-M3 oder multilingual-e5-large. Diese Modelle mappen Texte aus verschiedenen Sprachen in denselben Vektorraum, sodass eine deutsche Frage auch auf englische Dokumente treffen kann. Die Qualit\u00e4t h\u00e4ngt von der Dichte der \u00dcbersetzungen im Trainingsdatensatz ab; f\u00fcr medizinische Fachbegriffe sollte ein kurzes Fine-Tuning auf dem eigenen Korpus durchgef\u00fchrt werden, um Synonyme und Abk\u00fcrzungen korrekt zu erfassen.\"},\"name\":\"Kann das System auch auf englische Dokumente antworten, wenn die Frage auf Deutsch gestellt wird?\"}]},{\"@id\":\"https:\/\/blog.forfis.com\/blog\/rag-pipeline-medtech-osterrreich-pgvector\/#breadcrumbs\",\"@type\":\"BreadcrumbList\",\"itemListElement\":[{\"@type\":\"ListItem\",\"item\":\"https:\/\/blog.forfis.com\",\"name\":\"Home\",\"position\":1},{\"@type\":\"ListItem\",\"item\":\"https:\/\/blog.forfis.com\/blog\/\",\"name\":\"Blog\",\"position\":2},{\"@type\":\"ListItem\",\"item\":\"https:\/\/blog.forfis.com\/blog\/rag-pipeline-medtech-osterrreich-pgvector\/\",\"name\":\"RAG-Pipeline f\u00fcr Medtech: Interne Wissenssuche mit pgvector in 8 Wochen\",\"position\":3}]},{\"@id\":\"https:\/\/blog.forfis.com#org\",\"@type\":\"Organization\",\"name\":\"Forfis\",\"url\":\"https:\/\/blog.forfis.com\"}]}","geo_content_hash":"760224a6fe0dd177f38b3127319739fd3cf824cac8a89b3a41601b3979d83e66","footnotes":""},"categories":[45],"tags":[35,47,33],"class_list":["post-387","post","type-post","status-publish","format-standard","hentry","category-healthcare-and-medtech","tag-austria","tag-internal-knowledge-search","tag-multilingual-support-coverage"],"_links":{"self":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/posts\/387","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/comments?post=387"}],"version-history":[{"count":0,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/posts\/387\/revisions"}],"wp:attachment":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/media?parent=387"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/categories?post=387"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/tags?post=387"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}