Wir bauen eine Enterprise AI Plattform, auf der Large Language Models und andere AI-Services produktiv im Unternehmen eingesetzt werden können. Als "AI Platform Engineer (w/m/d)" arbeiten Sie an der technischen Grundlage dieser Plattform - von der Infrastruktur über Model- und LLM-Lifecycle bis hin zu stabilen AI-Services für interne Anwendungen. Der Fokus der Rolle liegt auf Platform Engineering an der Schnittstelle von , MLOps und LLMOps: Sie verbinden Build-&-Run (CI/CD, IaC, Kubernetes-Betrieb), Model-Lifecycle (Training/Pipelines, Versionierung, Promotion) und LLM-Lifecycle (Serving, Guardrails, Evaluierung, Monitoring) zu zuverlässigen, skalierbaren und sicher betreibbaren Services. * Deployment und Betrieb von Large Language Models (LLMs) auf GPU-Servern * Aufbau und Betrieb performanter Model-Serving und Inference-Services
mehr