Konzeption, Implementierung und Betrieb von AI- und LLM-Plattformkomponenten (z.B. Azure OpenAI, eigene LLM-Deployments, Vektordatenbanken, Retrieval-/RAG-Services) sowie Anbindung interner Systeme (REST-APIs, Datenbanken, Fachanwendungen) * Umsetzung und Pflege von Infrastructure as Code (z.B. Terraform, Bicep) sowie Integration der Plattform- und Observability-Komponenten in CI/CD-Pipelines (Azure DevOps, GitHub Actions) auf Basis definierter Plattform-Standards, Referenzarchitekturen und Landing Zones * Aufbau und Weiterentwicklung von Observability-Konzepten für AI-Services (Latenz, Fehlerraten, Ressourcen, Kosten, Nutzungsmuster) inklusive Implementierung von Monitoring-, Logging- und Tracing-Lösungen (z.B. Azure Monitor, Application Insights, Dashboards, Alerts, SLIs/SLOs) sowie Mitarbeit an Auto-Scaling-, Limits-, Quotas- und Cost-Alerting-Konzepten
mehr