Senior DevOps / Platform Reliability Engineer

Über das Unternehmen: Das Unternehmen ist die nächste Generation der intelligenten Prozessautomatisierungsplattform, die die Kundenservice-Operationen für die weltweit führenden Support-Manager neu gestaltet. Mit über 500 Kunden, darunter Optum, Corpay, Sony, SharkNinja und Allianz, transformieren wir den Self-Service, identifizieren Automatisierungsmöglichkeiten und verwandeln jeden Agenten in einen Experten.

Die Rolle: Wir suchen einen Senior DevOps / Platform Reliability Engineer, der die Plattform besitzt, die unser agentisches CX-Produkt antreibt. Sie werden die CI/CD-, Infrastruktur- und Observabilitätsbasis aufbauen, die es uns ermöglicht, Multi-Agenten-Systeme sicher an Unternehmenskunden zu liefern. Wenn Sie eine Produktions-AI-Plattform betreiben und AI zur Unterstützung des Betriebs nutzen möchten, ist diese Rolle genau das Richtige für Sie.

Was Sie tun werden:

• CI/CD-Pipelines mit GitHub Actions und OIDC-basierter Authentifizierung für Microservices und agentische Workloads besitzen und weiterentwickeln, mit sicheren, schnellen und reversiblen Bereitstellungen.
• Automatisierung der Infrastrukturbereitstellung mit Infrastructure as Code (IaC) Tools wie Terraform und CloudFormation.
• Unsere Kubernetes-Plattform (EKS + Argo CD) betreiben und skalieren, einschließlich Autoscaling, Ingress, External-DNS, Cert-Manager, External Secrets Operator, Backups, Runtime Guardrails und Multi-Tenant-Isolation für Unternehmenskunden.
• Das Edge- und Netzwerkperimeter verwalten, einschließlich Cloudflare (CDN, WAF, Bot-Management, DDoS-Schutz, Zero Trust / Access), CloudFront, API Gateway, ALB/NLB, Route 53 und Netzwerksicherheitskontrollen.
• Die Daten- und Ereignisebene betreiben, einschließlich Aurora MySQL, ElastiCache/Redis, S3 und MSK (Kafka), mit Verantwortung für Backups, Point-in-Time Recovery (PITR) und Multi-AZ-Disaster-Recovery, die an definierte RTO/RPO-Ziele ausgerichtet sind.
• Lambda-Workloads erstellen und pflegen, wo ereignisgesteuerte oder serverlose Architekturen die richtige Wahl sind.
• Observabilität als Produkt mit Prometheus, Grafana und OpenTelemetry aufbauen, einschließlich Telemetrie für LLM- und agentische Systeme wie Token-Kosten, Tool-Call-Latenz, Evaluierungssignale und Prompt-/Versionsverfolgung.
• Unsere Sicherheits- und Compliance-Position für SOC 2 und HIPAA stärken, einschließlich Least-Privilege-IAM, SCPs, Geheimnisverwaltung, SAST/DAST, Abhängigkeits- und Container-Scanning, Bildsignierung, AWS Config, Security Hub, GuardDuty, Inspector und Evidenzautomatisierung.
• FinOps-Initiativen vorantreiben, einschließlich Tagging-Standards, Savings Plans und Reserved Instances, Kostenattribution pro Mandant und pro Workload sowie LLM-Kostenkontrollen.
• Unsere AI-nativen DevOps-Fähigkeiten aufbauen und weiterentwickeln.
• Mit Engineering-Teams zusammenarbeiten, um Plattformstandards, Servicetemplates, beste Praktiken für die Bereitstellung und betriebliche SLOs zu definieren.
• Die Systemleistung überwachen und Zuverlässigkeit, Skalierbarkeit und Sicherheit über Infrastruktur und Dienste sicherstellen.
• Mit Software-Engineering-Teams zusammenarbeiten, um bewährte Verfahren für kontinuierliche Integration und kontinuierliche Bereitstellung zu unterstützen.
• Infrastruktur, Bereitstellungsprozesse und betriebliche Standards dokumentieren, um den Wissensaustausch im Team zu unterstützen.

Agentic AI in DevOps: Sie helfen dabei, zu definieren, wie das Unternehmen agentische AI nutzt, um unsere Plattform mit modernen AI-Betriebspraktiken zu betreiben und zu verbessern. Zu den Verantwortlichkeiten gehören:

• Auto-remediation-Agenten für häufige Produktionsprobleme wie Zertifikatsrotation, laute Pods, Infrastrukturdrift und fehlerhafte CI-Pipelines entwerfen und betreiben, mit Human-in-the-Loop (HITL)-Kontrollen für alle destruktiven oder kundenbeeinflussenden Aktionen.
• LLMs für die Vorfalltriage und Ursachenanalyse verwenden, einschließlich Protokoll- und Trace-Zusammenfassungen, Signal-Korrelation und erste Entwürfe von Postmortems, die immer von Menschen überprüft werden.
• AI-Agenten über das Model Context Protocol (MCP) mit internen Systemen verbinden, einschließlich GitHub, Jira, PagerDuty, AWS, Kubernetes, Terraform und verwandten Plattformen, unter Verwendung von eingeschränkten Anmeldeinformationen, Protokollierung und erlaubten Zugriff.
• AI-gesteuerte Observabilitätstechniken anwenden, einschließlich Anomalieerkennung bei Metriken, LLM-basiertem Protokoll-Clustering und Alarm-Deduplizierung und -Zusammenfassung auf Prometheus und OpenTelemetry.
• Betriebliche Leitplanken wie Prompt-/Versions-Pinning, Bewertungsrahmen für das Verhalten von Agenten, Kosten- und Ratenlimitkontrollen, Policy-as-Code (OPA/Conftest) für AI-generierte Infrastrukturänderungen und klar definierte Blast-Radius-Kontrollen festlegen.
• Beste Praktiken für AI-Coding-Assistenten wie GitHub Copilot, Claude und Amazon Q in Infrastruktur-Repositories definieren, einschließlich Überprüfungs-Workflows, Prompt-Design und Einschränkungen für automatisch zusammengeführte Änderungen.
• AI-Komponenten als Produktionssysteme mit SLOs, Observabilität, Bereitschaft für den Bereitschaftsdienst, Runbooks und Rollback-Strategien für Agenten und Prompts behandeln.

Über Sie:

Erforderliche Qualifikationen:

• 5+ Jahre Erfahrung in DevOps, SRE oder Plattformengineering mit Betrieb von Produktionssystemen auf AWS.
• Starke Erfahrung mit CI/CD-Pipelines und Tools wie GitHub Actions, GitLab CI, Jenkins oder CircleCI.
• Praktische Erfahrung im Betrieb von Produktions-EKS-Umgebungen, einschließlich Autoscaling, Ingress, Geheimnisverwaltung und Cluster-Upgrades.
• Starke AWS-Netzwerkkenntnisse, einschließlich Multi-Account-VPC-Design, Subnetze, Routing, Sicherheitsgruppen, NACLs, Route 53, ACM und Lastenausgleich.
• Tiefe Erfahrung mit Terraform und GitHub Actions, idealerweise unter Verwendung von OIDC-basierter Cloud-Authentifizierung.
• Erfahrung mit Aurora/RDS MySQL, Redis (ElastiCache) und S3, einschließlich Backups, PITR, Migrationen und Lebenszyklusmanagement.
• Starke Observabilitätserfahrung mit Prometheus, Grafana und OpenTelemetry.
• Erfahrung im Betrieb von Argo CD in großem Maßstab.
• Erfahrung mit Infrastructure as Code-Tools wie Terraform, CloudFormation oder Ansible.
• Erfahrung in der Verwaltung von Cloudflare-Diensten, einschließlich WAF, Bot-Management, Ratenbegrenzung und Zero Trust / Access, sowie CloudFront.
• Erfahrung im Betrieb von Kafka/MSK in großem Maßstab, einschließlich Themen, Verbrauchergruppen und Schema-Registrierungen.
• Erfahrung mit Lambda und ereignisgesteuerten Architekturen.
• Komfortabel im Umgang mit Python, Bash und Linux-Systemen.
• Starkes Verständnis der besten Sicherheitspraktiken in Bezug auf IAM, KMS, Geheimnisverwaltung, Netzwerke und Sicherheit der Software-Lieferkette.
• Vertrautheit mit Schwachstellenscanning und Compliance-Tools.

Schön zu haben:

• Erfahrung im Betrieb von LLM- oder ML-Workloads in der Produktion, einschließlich LiteLLM, Bedrock, pgvector, Prompt-Caching oder Evaluierungssystemen.
• Erfahrung im Aufbau oder in der Integration von MCP-Servern oder im Einsatz von Agenten-Frameworks wie LangGraph oder CrewAI in Produktionsumgebungen.

Was wir bieten:

• Wettbewerbsfähige Vergütungspakete
• Umfassende Gesundheitsleistungen: 100 % der Prämien für Mitarbeiter abgedeckt, 75 %–80 % der Prämien für Angehörige für die meisten Gesundheits-, Zahn- und Augenpläne
• 401(k)-Pläne zur Unterstützung der Altersvorsorge (derzeit keine Arbeitgeberbeteiligung)
• Bezahlte Elternzeit
• Unbegrenzter PTO
• Flexible Remote-Arbeit von überall
• Bis zu 200 $/Monat Erstattung für Co-Working
• Home-Office-Stipendium: Bis zu 500 $ für die Einrichtung des Home-Offices, 100 $/Monat für Internet, Telefon und verwandte Ausgaben

Wir können KI-Tools (AI) verwenden, um Teile des Einstellungsprozesses zu unterstützen, wie z.B. die Überprüfung von Bewerbungen, die Analyse von Lebensläufen oder die Bewertung von Antworten. Diese Tools unterstützen unser Rekrutierungsteam, ersetzen jedoch nicht das menschliche Urteil. Die endgültigen Einstellungsentscheidungen werden letztendlich von Menschen getroffen. Wenn Sie weitere Informationen darüber wünschen, wie Ihre Daten verarbeitet werden, kontaktieren Sie uns bitte.