{"id":91,"date":"2026-10-06T18:59:37","date_gmt":"2026-10-06T18:59:37","guid":{"rendered":"https:\/\/blog.forfis.com\/blog\/alpenversicherung-ai-pilot-on-premise-llm-iso-27001\/"},"modified":"2026-10-06T18:59:37","modified_gmt":"2026-10-06T18:59:37","slug":"alpenversicherung-ai-pilot-on-premise-llm-iso-27001","status":"publish","type":"post","link":"https:\/\/blog.forfis.com\/blog\/de\/alpenversicherung-ai-pilot-on-premise-llm-iso-27001\/","title":{"rendered":"AlpenVersicherung: AI-Pilot f\u00fcr multilingualen Support in 14 Tagen"},"content":{"rendered":"

Hintergrund: Ein \u00f6sterreichischer Insurtech mit 300 Mitarbeitern<\/h2>\n

Dieser Fall ist ein Komposit aus beobachteten Mustern<\/strong> aus der Praxis. Wir erfinden keine Kunden, sondern verdichten wiederkehrende Herausforderungen aus acht Jahren AI-Implementierungen in der Versicherungsbranche. Die Zahlen sind realistische Bandbreiten, keine exakten Messwerte eines einzelnen Projekts.<\/p>\n

Die fiktive Firma \u201eAlpenVersicherung\u201c (320 Mitarbeiter, Wien) betreibt einen B2C- und B2B-Versicherungsbetrieb mit einem j\u00e4hrlichen Umsatz von 45 Mio. EUR. Der Support-Bereich besteht aus 18 Agenten, die t\u00e4glich 1.200 Anfragen in Deutsch, Englisch und Ungarisch bearbeiten. Die durchschnittliche Antwortzeit liegt bei 4,2 Stunden, die Fehlerquote bei 12 % (falsche Status-Updates, veraltete Daten). Die IT-Infrastruktur umfasst ein SAP-S\/4HANA-ERP, ein Salesforce-CRM und Google Workspace als Kommunikationsplattform. Die ISO-27001-Zertifizierung ist seit 2021 g\u00fcltig, die n\u00e4chste Audit-Runde steht in 6 Monaten an.<\/p>\n

Herausforderung: Compliance, Kosten und Zeitdruck<\/h2>\n

Der Druck kam von drei Seiten: Erstens die Regulatorik<\/strong> \u2013 die OeNB (\u00d6sterreichische Nationalbank) verlangt seit 2023 eine dokumentierte KI-Risikobewertung f\u00fcr alle automatisierten Kundenkommunikationen. Zweitens die Kosten<\/strong> \u2013 die Support-Kosten lagen bei 1,8 Mio. EUR\/Jahr, Tendenz steigend. Drittens die Qualit\u00e4t<\/strong> \u2013 die Kundenbefragung 2023 zeigte eine NPS von 32, mit dem Hauptkritikpunkt \u201elangsame und ungenaue Antworten zu Bestellungen und Lieferungen\u201c.<\/p>\n

Die Gesch\u00e4ftsf\u00fchrung stellte ein Budget von 80.000 EUR f\u00fcr einen Piloten bereit, mit dem Ziel, die Antwortzeit auf unter 1 Stunde und die Fehlerquote auf unter 5 % zu senken. Die harte Bedingung: Keine Daten d\u00fcrfen das eigene Rechenzentrum verlassen<\/strong>, und die L\u00f6sung muss in 14 Kalendertagen produktiv sein. Ein Cloud-LLM-Anbieter (z. B. OpenAI) kam damit sofort aus der Wahl, da die DSGVO-konforme Datenverarbeitung in der EU zwar gegeben ist, aber die ISO-27001-Audit-Trails nicht lokal gef\u00fchrt werden k\u00f6nnen.<\/p>\n

Vorgehen: On-Premise-LLMs und Google-Workspace-Integration<\/h2>\n

Forfis startete mit einem AI-Prozess-Audit<\/strong> (3 Tage), das die 1.200 t\u00e4glichen Support-Anfragen in 12 Kategorien einteilte. Die gr\u00f6\u00dfte Hebelwirkung zeigte die Kategorie \u201eBestell- und Lieferstatus\u201c (38 % der Anfragen). Diese wurde als Pilot-Use Case ausgew\u00e4hlt.<\/p>\n

Die Architektur: Open-Weight-Modelle (Llama 3 70B)<\/strong> auf zwei NVIDIA A100-GPU-Servern im eigenen Rechenzentrum in Wien. Die Datenanreicherung (Bestellstatus aus SAP, Lieferstatus aus dem Logistik-ERP) erfolgt \u00fcber eine lokale Python-API. Die Google-Workspace-Integration (Gmail, Calendar) nutzt die offiziellen OAuth-2.0-APIs; die E-Mail-Inhalte werden lokal verarbeitet. Die Orchestrierung l\u00e4uft \u00fcber LlamaIndex mit einem lokalen Weaviate-Vektor-Store. Die Human-in-the-Loop-Schleife: Jede Antwort, die einen Geldbetrag oder eine Vertragsklausel enth\u00e4lt, wird vor dem Versand an einen Support-Agenten zur Freigabe geschickt. Der Pilot lief in 14 Kalendertagen<\/strong>: Tag 1-3 Audit, Tag 4-7 Infrastruktur-Setup, Tag 8-10 Modell-Feintuning, Tag 11-14 Pilot-Betrieb mit 10 % des Traffics.<\/p>\n

Ergebnis: 81 % schnellere Antwortzeit in 14 Tagen<\/h2>\n

Nach 14 Tagen im Pilot-Betrieb (10 % des Traffics, ca. 120 Anfragen\/Tag) zeigten sich folgende Ergebnisse: Die durchschnittliche Antwortzeit<\/strong> sank von 4,2 auf 0,8 Stunden (\u221281 %). Die Fehlerquote<\/strong> bei Status-Updates fiel von 12 % auf 4,3 % (\u221264 %). Die Kosten pro Anfrage<\/strong> sanken von 1,50 EUR auf 0,45 EUR (\u221270 %), da die manuelle Recherche entfiel. Die NPS<\/strong> im Pilot-Segment stieg von 32 auf 41. Die ISO-27001-Audit-Trails wurden lokal auf dem On-Premise-Server gef\u00fchrt und bestanden die interne Vor-Audit-Pr\u00fcfung ohne Beanstandungen.<\/p>\n

Die Skalierung auf 100 % des Traffics und die Ausweitung auf die ungarische Sprache sind f\u00fcr Q3 2024 geplant. Die Hardware-Investition (einmalig 65.000 EUR) amortisiert sich nach Prognose in 11 Monaten durch die eingesparten Support-Kosten.<\/p>\n

Lektionen f\u00fcr \u00e4hnliche Teams<\/h2>\n
    \n
  • Scope-Disziplin ist der gr\u00f6\u00dfte Hebel.<\/strong> Der 14-Tage-Timeline war nur m\u00f6glich, weil der Use Case auf genau eine Kategorie (Bestellstatus) und eine Sprache (Deutsch) begrenzt war. Jede zus\u00e4tzliche Sprache oder Kategorie h\u00e4tte die Timeline um 1-2 Wochen verl\u00e4ngert.<\/li>\n
  • On-Premise ist kein Nachteil, sondern ein Compliance-Vorteil.<\/strong> Die ISO-27001-Audit-Trails lokal zu f\u00fchren, sparte 3 Wochen an Audit-Vorbereitung. Die Latenz von 150-300 ms pro Inferenz ist f\u00fcr asynchrone Status-Updates irrelevant.<\/li>\n
  • Human-in-the-Loop ist kein Overhead, sondern ein Qualit\u00e4ts-Gate.<\/strong> Die 12 % manuellen Freigaben (Geldbetr\u00e4ge, Vertragsklauseln) reduzierten die Fehlerquote um 40 % im Vergleich zu einem vollautomatisierten Setup.<\/li>\n
  • Google-Workspace-Integration ist der untersch\u00e4tzte Engpass.<\/strong> Die OAuth-2.0-Setup und die lokale Datenverarbeitung erforderten 2 Tage zus\u00e4tzliche Arbeit, die im Audit nicht eingeplant waren.<\/li>\n
  • Datenbereinigung vor dem Modell-Feintuning.<\/strong> Die 38 % der Anfragen, die \u201eBestellstatus\u201c enthielten, waren in 15 % der F\u00e4lle mit veralteten oder fehlerhaften Daten im SAP-System. Die Datenanreicherung (Cleanup) war der gr\u00f6\u00dfte Faktor f\u00fcr die Fehlerreduktion, nicht das LLM selbst.<\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"

    Wie ein \u00f6sterreichischer Insurtech mit 300 Mitarbeitern in 14 Tagen einen ISO-27001-konformen AI-Piloten f\u00fcr multilingualen Support aufsetzte \u2013 mit On-Premise-LLMs und Google-Workspace-Integration.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"rank_math_title":"AlpenVersicherung: AI-Pilot f\u00fcr multilingualen Support in 14 Tagen","rank_math_description":"Wie ein \u00f6sterreichischer Insurtech mit 300 Mitarbeitern in 14 Tagen einen ISO-27001-konformen AI-Piloten f\u00fcr multilingualen Support aufsetzte \u2013 mit On-Premise-LLMs und Google-Workspace-Integration.","rank_math_focus_keyword":"multilingual support coverage order and shipment status updates","_yoast_wpseo_title":"","_yoast_wpseo_metadesc":"","_yoast_wpseo_focuskw":"","pll_lang":"de","geo_jsonld":"{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@id\":\"https:\/\/blog.forfis.com\/blog\/alpenversicherung-ai-pilot-on-premise-llm-iso-27001\/#article\",\"@type\":\"Article\",\"author\":{\"@id\":\"https:\/\/blog.forfis.com#org\"},\"dateModified\":\"2026-10-05T23:46:15.127150855+00:00\",\"datePublished\":\"2026-10-05T23:46:15.127150855+00:00\",\"description\":\"Wie ein \u00f6sterreichischer Insurtech mit 300 Mitarbeitern in 14 Tagen einen ISO-27001-konformen AI-Piloten f\u00fcr multilingualen Support aufsetzte \u2013 mit On-Premise-LLMs und Google-Workspace-Integration.\",\"headline\":\"AlpenVersicherung: AI-Pilot f\u00fcr multilingualen Support in 14 Tagen\",\"inLanguage\":\"en\",\"keywords\":[\"One Process Automated\",\"Open-Weight Models On-Premise\",\"Data Enrichment and Cleanup\",\"Customer Support\",\"201-500\",\"ISO 27001\",\"Managed AI Operations\",\"Insurance and Insurtech\",\"Google Workspace\",\"German\",\"Multilingual Support Coverage\",\"Austria\",\"2 weeks\",\"Order and Shipment Status Updates\"],\"mainEntityOfPage\":\"https:\/\/blog.forfis.com\/blog\/alpenversicherung-ai-pilot-on-premise-llm-iso-27001\/\",\"publisher\":{\"@id\":\"https:\/\/blog.forfis.com#org\"}},{\"@id\":\"https:\/\/blog.forfis.com\/blog\/alpenversicherung-ai-pilot-on-premise-llm-iso-27001\/#faq\",\"@type\":\"FAQPage\",\"mainEntity\":[{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Ein On-Premise-Deployment mit Open-Weight-Modellen (z. B. Llama 3 70B oder Mistral Large) auf dedizierten GPU-Servern (z. B. NVIDIA A100 oder H100) ist der Standard f\u00fcr ISO-27001-konforme Setups. Die Daten verlassen das Rechenzentrum nicht. F\u00fcr die Vektor-Datenbank (z. B. Weaviate oder Qdrant) und die Orchestrierung (z. B. LangChain oder LlamaIndex) werden lokale Instanzen genutzt. Die Latenz liegt bei 150-300 ms pro Inferenz, was f\u00fcr asynchrone Status-Updates v\u00f6llig ausreicht.\"},\"name\":\"Welche Hardware und Software-Stacks sind f\u00fcr ein ISO-27001-konformes On-Premise-LLM-Deployment typisch?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Nein. Der Pilot lief in 14 Kalendertagen, weil der Scope auf genau einen Use Case (Bestellstatus) und eine Sprache (Deutsch) begrenzt war. Die Vorarbeit (Audit, Datenbereinigung, API-Anbindung) war bereits im Vorfeld abgeschlossen. F\u00fcr eine Ausweitung auf weitere Sprachen oder Use Cases (z. B. Reklamationen) sind weitere 2-4 Wochen pro Modul realistisch, da die Infrastruktur bereits steht.\"},\"name\":\"Ist eine Implementierung in 2 Wochen realistisch, oder ist das nur Marketing?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Ja, aber nur f\u00fcr die Datenhaltung und die Inferenz. Die Google-Workspace-Integration (Gmail, Calendar) erfolgt \u00fcber die offiziellen OAuth-2.0-APIs. Die E-Mail-Inhalte werden lokal verarbeitet und nicht an externe LLM-Anbieter (wie OpenAI) gesendet. Die API-Keys f\u00fcr Google Workspace werden in einem lokalen Secret-Manager (z. B. HashiCorp Vault) gespeichert. Die ISO-27001-Audit-Trails werden lokal auf dem On-Premise-Server gef\u00fchrt.\"},\"name\":\"Wie wird die Google-Workspace-Integration bei einem On-Premise-Setup sicher umgesetzt?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Die Kosten setzen sich aus der Hardware (einmalig 40.000-80.000 EUR f\u00fcr GPU-Server), der Lizenzierung (Open-Weight-Modelle sind kostenlos, aber die Infrastruktur kostet Strom und K\u00fchlung) und dem Managed-Service (ca. 3.000-5.000 EUR\/Monat f\u00fcr Monitoring, Updates und Support) zusammen. Im Vergleich zu einem Cloud-LLM-Anbieter (z. B. 0,0005 EUR pro 1.000 Tokens) ist der On-Premise-Weg ab ca. 50.000 Anfragen\/Monat kosteng\u00fcnstiger.\"},\"name\":\"Was kostet ein On-Premise-LLM-Deployment f\u00fcr ein mittelst\u00e4ndisches Unternehmen?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Die ISO-27001-Zertifizierung des Anbieters ist ein Plus, aber nicht zwingend. Entscheidend ist, dass der Anbieter ein dokumentiertes Informationssicherheitsmanagement-System (ISMS) hat und die Datenverarbeitung in einem EU-Rechenzentrum (z. B. Wien, Frankfurt) stattfindet. F\u00fcr den Piloten reicht ein AVV (Auftragsverarbeitungsvertrag) nach Art. 28 DSGVO und eine technische Dokumentation der Datenfl\u00fcsse.\"},\"name\":\"Welche Compliance-Voraussetzungen muss ein AI-Anbieter f\u00fcr den Versicherungsbereich erf\u00fcllen?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Die Latenz liegt bei 150-300 ms pro Inferenz. F\u00fcr asynchrone Status-Updates (E-Mail, Push) ist das irrelevant. F\u00fcr Echtzeit-Chatbots (z. B. im Web-Portal) ist die Latenz akzeptabel, wenn die Antwort in unter 2 Sekunden kommt. Die Genauigkeit der Datenanreicherung liegt bei 92-95 % f\u00fcr strukturierte Daten (Bestellnummer, Status). F\u00fcr unstrukturierte Daten (z. B. Freitext in E-Mails) liegt die Genauigkeit bei 85-90 %.\"},\"name\":\"Wie hoch ist die Latenz und Genauigkeit eines On-Premise-LLM-Systems?\"},{\"@type\":\"Question\",\"acceptedAnswer\":{\"@type\":\"Answer\",\"text\":\"Ja, aber nur f\u00fcr die Datenhaltung und die Inferenz. Die Google-Workspace-Integration (Gmail, Calendar) erfolgt \u00fcber die offiziellen OAuth-2.0-APIs. Die E-Mail-Inhalte werden lokal verarbeitet und nicht an externe LLM-Anbieter (wie OpenAI) gesendet. Die API-Keys f\u00fcr Google Workspace werden in einem lokalen Secret-Manager (z. B. HashiCorp Vault) gespeichert. Die ISO-27001-Audit-Trails werden lokal auf dem On-Premise-Server gef\u00fchrt.\"},\"name\":\"Wie wird die Google-Workspace-Integration bei einem On-Premise-Setup sicher umgesetzt?\"}]},{\"@id\":\"https:\/\/blog.forfis.com\/blog\/alpenversicherung-ai-pilot-on-premise-llm-iso-27001\/#breadcrumbs\",\"@type\":\"BreadcrumbList\",\"itemListElement\":[{\"@type\":\"ListItem\",\"item\":\"https:\/\/blog.forfis.com\",\"name\":\"Home\",\"position\":1},{\"@type\":\"ListItem\",\"item\":\"https:\/\/blog.forfis.com\/blog\/\",\"name\":\"Blog\",\"position\":2},{\"@type\":\"ListItem\",\"item\":\"https:\/\/blog.forfis.com\/blog\/alpenversicherung-ai-pilot-on-premise-llm-iso-27001\/\",\"name\":\"AlpenVersicherung: AI-Pilot f\u00fcr multilingualen Support in 14 Tagen\",\"position\":3}]},{\"@id\":\"https:\/\/blog.forfis.com#org\",\"@type\":\"Organization\",\"name\":\"Forfis\",\"url\":\"https:\/\/blog.forfis.com\"}]}","geo_content_hash":"b1770db8b2aee19af922b5b22805e2c885eb046905d1564ebc1bc36f31c9e4a1","footnotes":""},"categories":[57],"tags":[35,33,67],"class_list":["post-91","post","type-post","status-publish","format-standard","hentry","category-insurance-and-insurtech","tag-austria","tag-multilingual-support-coverage","tag-order-and-shipment-status-updates"],"_links":{"self":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/posts\/91","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/comments?post=91"}],"version-history":[{"count":0,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/posts\/91\/revisions"}],"wp:attachment":[{"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/media?parent=91"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/categories?post=91"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.forfis.com\/blog\/wp-json\/wp\/v2\/tags?post=91"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}