Senior DevOps Engineer – GenAI Platform & Azure Cloud (100%)

About this role

Du möchtest die Entwicklung innovativer KI-Lösungen aktiv mitgestalten? Als Senior DevOps Engineer berätst du beim Aufbau einer modernen GenAI-Plattform und bringst deine technische Expertise in deren Konzeption und Umsetzung ein. In einem interdisziplinären DevOps-Team aus Data Scientists, Business Engineers und DevOps Engineers entwickelst du gemeinsam zukunftsorientierte Lösungen und treibst den Aufbau der Plattform voran.

Hauptaufgaben: Konfiguration und Verwaltung von Azure Cloud-Ressourcen insbesondere API Management, Foundry, OpenAI, AI Search, Document Intelligence sowie Kubernetes-basierten Applikationen wie Langfuse als "Infrastructure-as-Code" mit Terraform, HelmChart und Gitlab Automatisierung von Build-, Test- und Release-Prozessen für GenAI-Anwendungen (LLMOps), um häufige und zuverlässige Releases in Entwicklungs-, Test- und Produktionsumgebungen sicherzustellen Mitarbeit bei der Ausarbeitung von technischen Konzepten für die Umsetzung neuer Anforderungen an die GenAI Plattform, sowie derer laufenden Weiterentwicklung und Optimierung.

Dabei sind alle Komponenten (Datenbanken, LLM-Modelle und andere AI-Services, Anwendungen), Aufwände, der laufende Betrieb mit diversen Client Applikationen und insbesondere die unternehmensweiten und regulatorischen Vorgaben zu berücksichtigen und abzustimmen. Implementierung von Mechanismen für das Monitoring und die Alarmierung (z. B. Grafana und Azure Dashboard), um die Stabilität und Effizienz der Plattform zu gewährleisten Support der Client Applikation bei konzeptionellen Fragen, Integrationen (Onboarding) sowie bei Problemen im Betrieb Überwachung der Systemleistung, Betriebszeit und Protokolle, um Probleme frühzeitig zu erkennen und zu beheben Neu- und Weiterentwicklung von code-basierten Umsetzungen für beispielweise Autorisierungsprüfung, Logging/Monitoring, Routinglogiken, Guardrails-Validierungen mit Java, Python, XML, C# (APIM Policies) Anforderungen: Fundierte Kenntnisse mit DevOps-Toolchains (z.

B. Git, Gitlab, Docker, Terraform), um die Plattform Services state-of-the-art bereitzustellen und zu betreiben Tiefgehendes Wissen über Azure Cloud-Dienste: Azure API Management, AKS, Azure Functions, OpenAI, AI Search, Document Intelligence, Azure Foundry, Storage Accounts Kenntnisse im Bereich DevOps, einschliesslich der Nutzung von Monitoring-Tools (z. B. Prometheus, Grafana, Azure Monitor), Logging-Systemen und Alarmierung, um eine hohe Verfügbarkeit sicherzustellen Idealerweise Projekterfahrung mit GenAI-Technologien, einschliesslich Retrieval-Augmented Generation (RAG) und Agentic AI, sowie Erfahrung in der Optimierung von GenAI-Lösungen Fähigkeit, Konzepte und Architekturlösungen zu entwickeln und gegenüber IT-Security und Domänen-Architektur zu vertreten Fundiertes Verständnis von Authentisierung- und Autorisierungsverfahren mittels Azure EntraID, RBAC und OAuth Konzepte Kenntnisse in der Softwareentwicklung mit Python und / oder Java Generelle Rahmenbedingungen: Pensum: 100% Einsatz: ab 1.