Zwei Ansätze zur KI-gestützten Bewerberauswahl
Der Vergleich konzentriert sich auf zwei technische Ansätze zur Implementierung eines Conversational Agents für die Bewerberauswahl: die Nutzung der OpenAI API (SaaS-Modell) versus der Einsatz Open-Weight-Modelle (z. B. Llama 3 oder Mistral) auf eigener Hardware. Beide Optionen zielen auf denselben Use Case: die automatische Vorqualifizierung von Lebensläufen und die Beantwortung von Bewerberfragen in einem E-Commerce-Unternehmen mit 11 bis 50 Mitarbeitern. Der entscheidende Unterschied liegt in der Datenhoheit und den Betriebskosten. Die OpenAI API bietet sofortige Verfügbarkeit und hohe Qualität in der deutschen Sprachverarbeitung, während Open-Weight-Modelle die Daten im eigenen Rechenzentrum halten, aber höhere Initialkosten und komplexeres Engineering erfordern. Für Unternehmen in der Phase „Running Isolated Pilots“ ist die Wahl der Architektur entscheidend für die Skalierbarkeit und Compliance-Konformität.
Kriterien für die technische Bewertung
Die Bewertung basiert auf acht Kriterien, die für den E-Commerce-Bereich und die Compliance-Anforderungen des EU AI Act relevant sind:
- Kosten pro Vorgang: API-Abrechnung vs. Infrastrukturkosten.
- Latency: Antwortzeit des Agents in Echtzeit-Kommunikation.
- Datenhoheit: Ort der Datenverarbeitung (USA vs. eigenes Rechenzentrum).
- Compliance: Erfüllung der Anforderungen des EU AI Act und DSGVO.
- Qualität der deutschen Sprachverarbeitung: Genauigkeit bei der Analyse von Lebensläufen.
- Skalierbarkeit: Anpassung an steigende Bewerberzahlen.
- Vendor Lock-in: Abhängigkeit von einem einzelnen Anbieter.
- Implementierungsaufwand: Zeit bis zum laufenden Piloten.
Vergleichstabelle: API vs. Open-Weight
| Kriterium | OpenAI API | Open-Weight-Modelle |
|---|---|---|
| Kosten pro Vorgang | 0,0001–0,0005 EUR | 0,00005–0,0002 EUR (amortisiert) |
| Latency | 200–500 ms | 100–300 ms (je nach Hardware) |
| Datenhoheit | Daten in den USA | Daten im eigenen Rechenzentrum |
| Compliance | AVV erforderlich, Art. 44 DSGVO | Volle Datenhoheit, einfacherer AVV |
| Qualität (Deutsch) | Sehr hoch (GPT-4o) | Mittel bis hoch (Llama 3 70B) |
| Skalierbarkeit | Automatisch durch Cloud | Manuelle Skalierung der Hardware |
| Vendor Lock-in | Hoch (OpenAI) | Gering (offene Modelle) |
| Implementierung | 1–2 Wochen | 4–8 Wochen |
Szenario 1: Schneller Pilot in 2 Wochen
Für Unternehmen, die innerhalb von 2 Wochen einen Piloten starten wollen, ist die OpenAI API die einzige realistische Option. Die Implementierung eines Conversational Agents mit Anbindung an Notion oder Confluence als Wissensbasis ist in dieser Zeit nur mit einer API-Lösung machbar. Open-Weight-Modelle erfordern das Setup einer Inferenz-Infrastruktur (z. B. mit vLLM oder Ollama), das Tuning der Prompts und die Integration in die bestehenden HR-Systeme. Dieser Prozess dauert mindestens 4 Wochen. Zudem ist die Qualität der deutschen Sprachverarbeitung bei Open-Weight-Modellen aktuell noch nicht auf dem Niveau von GPT-4o, was bei der Analyse von Lebensläufen zu Fehlklassifikationen führen kann. Für den Piloten, der die lower cost per support ticket im Recruiting-Bereich demonstrieren soll, ist die API-Lösung der schnellere Weg zum messbaren Ergebnis.
Szenario 2: Datenhoheit und langfristige Skalierung
Wenn das Unternehmen bereits ein Rechenzentrum betreibt oder über Partner wie AWS oder Azure mit deutschen Regionen verfügt, gewinnen Open-Weight-Modelle an Attraktivität. Der EU AI Act verlangt für Hochrisiko-KI-Systeme eine transparente Dokumentation der Datenverarbeitung. Bei der OpenAI API muss die Datenübertragung in die USA nach Art. 44 DSGVO abgesichert werden, was zusätzliche Vertragswerke erfordert. Bei Open-Weight-Modellen auf eigener Hardware entfällt diese Übertragung. Zudem sinken die Kosten pro Vorgang bei hoher Auslastung deutlich. Für ein Unternehmen mit 11 bis 50 Mitarbeitern, das täglich 50 bis 100 Bewerbungen verarbeitet, amortisieren sich die Infrastrukturkosten nach 6 bis 12 Monaten. Die multilingual support coverage für Bewerber aus Osteuropa oder Südeuropa ist bei Open-Weight-Modellen ebenfalls gut, da Modelle wie Llama 3 in 30+ Sprachen trainiert wurden.
Empfehlung: API-Lösung für den Piloten
Für die meisten E-Commerce-Unternehmen mit 11 bis 50 Mitarbeitern in Deutschland ist die OpenAI API die empfohlene Wahl für den initialen Piloten. Die Gründe: Erstens, die Zeitvorgabe von 2 Wochen schließt Open-Weight-Modelle praktisch aus. Zweitens, die Qualität der deutschen Sprachverarbeitung ist bei GPT-4o nachweislich höher, was bei der Candidate Screening entscheidend ist, um Fehlklassifikationen zu minimieren. Drittens, die Integration in bestehende Tools wie Notion oder Confluence ist über die API einfacher umsetzbar. Die Compliance-Anforderungen des EU AI Act lassen sich durch einen AVV mit OpenAI und die Implementierung von Human-in-the-Loop-Prozessen erfüllen. Nach dem Piloten kann eine Bewertung erfolgen, ob ein Wechsel zu Open-Weight-Modellen sinnvoll ist, um die Kosten langfristig zu senken und die Datenhoheit zu erhöhen. Der AI process audit and roadmap sollte diesen Wechsel als Option für die Phase 2 vorsehen.
Leave a Reply