Als Cloud Engineer mit dem Fokus auf AI Services treibst Du den Ausbau unserer Cloud-Plattform gezielt für KI- und GenAI-Anwendungen voran und sorgst gleichzeitig dafür, dass diese Lösungen transparent, messbar und stabil betrieben werden können. Du nutzt die vorhandene LBBW-Cloud-Infrastruktur, um darauf leistungsfähige Services für LLMs, RAG, Agentic AI und MCP-Server bereitzustellen, optimal in unsere IT-Landschaft zu integrieren und mit Monitoring-, Logging- und Tracing-Lösungen abzusichern. * Konzeption, Implementierung und Betrieb von AI- und LLM-Plattformkomponenten (z.B. Azure OpenAI, eigene LLM-Deployments, Vektordatenbanken, Retrieval-/RAG-Services) sowie Anbindung interner Systeme (REST-APIs, Datenbanken, Fachanwendungen) * Aufbau und Weiterentwicklung von Observability-Konzepten für AI-Services (Latenz, Fehlerraten, Ressourcen, Kosten, Nutzungsmuster) inklusive ...
mehr