Intermediate Cloud AI & LLMOps Engineer (m/w/d)

Was uns besonders macht
Arbeiten bei der BCM Solutions bedeutet beim besten Arbeitgeber mitzugestalten. Mit unseren Kolleginnen und Kollegen gestalten wir seit 2010 aktiv die BCM Solutions GmbH. Jährlich werden wir für unsere phänomenale Arbeit durch unsere BCM Community als bester Arbeitgeber ausgezeichnet. Als Marktführer für PREEvision überzeugen wir mit der Erfahrung unserer Mitarbeiter und Mitarbeiterinnen, die sie durch täglichen Einsatz bei unseren exklusiven Kunden unter Beweis stellen. Die BCM Solutions GmbH steht außerdem für hochwertige Softwarelösungen und Dienstleistungen im Bereich der Softwareentwicklung. Wir verbinden persönliche und fachliche Weiterentwicklung mit Spaß bei der Arbeit und bringen dadurch Kundenprojekte stets zum Erfolg!

Was Dich erwartet:

🤖 LLMOps-Infrastruktur: Du entwirfst und betreibst stabile Pipelines für das Deployment, das Monitoring und das Tracing von LLMs (z. B. mit LangSmith oder Arize Phoenix).

⚙️ Inferenz-Optimierung: Du optimierst die Performance und Latenz von Modellen in der Produktion durch Techniken wie Quantisierung.

☁️ Enterprise Cloud Integration: Du bindest Cloud-AI-Dienste (wie Azure OpenAI Service oder AWS Bedrock) nahtlos an bestehende Enterprise-Infrastrukturen an.

🏗️ AI FinOps: Du überwachst und optimierst die Token-Verbräuche und Cloud-Infrastrukturkosten (Cost Optimization).

👥 Automatisierung: Du schreibst "Infrastructure as Code" (z. B. via Terraform), um KI-Umgebungen automatisiert und reproduzierbar aufzusetzen.

🚀 Schnittstellen-Brücke: Du bist das Bindeglied zwischen den AI-Software-Entwicklern und dem klassischen IT-Betrieb der Kunden

Was Du mitbringst:

Sehr gute Kenntnisse

• Konzeption, Aufbau und Betrieb von LLMOps-Pipelines (z. B. Deployment, Monitoring, Evaluation und Tracing mit LangSmith oder Arize Phoenix).
• Cloud-Plattformen (Azure, AWS oder GCP) und deren spezifischen KI-Diensten (z. B. Azure OpenAI Service, AWS Bedrock).
• DevOps-Tools zur Container-Orchestrierung (Docker, Kubernetes) und dem Entwurf von CI/CD-Pipelines.

Solide Kenntnisse

• Infrastructure as Code (IaC) mit Tools wie Terraform.
• Konzepte zur Inferenz-Optimierung (Quantisierung, Caching) und Kostenkontrolle (AI FinOps).
• Sicherheits- und Compliance-Standards im Umgang mit Unternehmensdaten in Cloud-Umgebungen.

Persönlich

• Systemisches Denken: Du behältst die Systemstabilität, Skalierbarkeit und Kosteneffizienz von Infrastrukturen immer im Blick.
• Kommunikationsstärke: Du agierst souverän und verständlich als Bindeglied zwischen der KI-Software-Entwicklung und dem IT-Betrieb unserer Kunden.
• Deutsch (sehr gut) und Englisch (gut) sowie ein abgeschlossenes IT-Studium oder eine vergleichbare Qualifikation.

Was wir bieten:

• Du kannst in einem rollenbasierten Unternehmen arbeiten #NoHierarchieGehabe
• Du findest bei uns eine offene Unternehmenskommunikation und kurze Entscheidungswege wieder.
• Für Deinen optimalen Start bei der BCM steht ein umfangreiches und individuelles Onboarding-Programm in den Startlöchern.
• Kollegen auf Augenhöhe und unsere Personalentwicklung unterstützen Dich dabei, sowohl fachlich als auch persönlich aufs nächste Level zu kommen.
• Du arbeitest überwiegend remote und genießt dabei maximale Flexibilität. Je nach Projekt bist Du bereit, unsere Kunden remote oder direkt vor Ort zu unterstützen.
• Unvergessliche Mitarbeiterevents: monatliche Teamaktivitäten und ein BCM-Urlaub im Sommer.
• BCM stärkt Deine Balance, egal ob Work oder Life, wir stehen immer hinter Dir.
• Casual oder Anzug? Büro oder Homeoffice? Frühaufsteher oder Nachteule? Du entscheidest, bei uns hast Du die Freiheit, so zu arbeiten, wie es am besten zu Dir passt.
• Du läutest mit unserer BCM Community das Wochenende mit einem (hopfenreichen) Erfrischungsgetränk ein.
• Frisches Obst, Tee, Mineralwasser, Kaffee usw. in unserem Büro selbstverständlich.