Staff Software Engineer (Agentic Search) - Crawler in Zürich

Nebius ist führend in einer neuen Ära der Cloud-Infrastruktur für die globale KI-Wirtschaft. Wir bauen eine Full-Stack-AI-Cloud-Plattform, die Entwickler und Unternehmen von der Daten- und Modellschulung bis hin zur Produktionsbereitstellung unterstützt, ohne die Kosten und die Komplexität des Aufbaus großer interner AI/ML-Infrastrukturen. Unsere Plattform wird von Ingenieuren für Ingenieure entwickelt.

Wir bauen eine agent-native Suchplattform, die speziell für KI-Systeme und nicht für menschliche Benutzer konzipiert ist. Unser Produkt bietet programmatische, latenzarme und beobachtbare Such-APIs, die KI-Agenten verwenden, um Informationen aus der realen Welt in großem Maßstab abzurufen, zu filtern und zu verarbeiten.

Wir suchen einen Staff Software Engineer, der an der Inhaltsakquise und der Crawling-Infrastruktur einer neuartigen Suchmaschine arbeitet, die auf den Verbrauch durch agentische KI zugeschnitten ist. In dieser Rolle konzentrieren Sie sich auf den Aufbau von Systemen, die Inhalte aus dem offenen Web und anderen großflächigen Datenquellen entdecken, abrufen und kontinuierlich aktualisieren.

In dieser Position werden Ihre Verantwortlichkeiten Folgendes umfassen:

• Entwurf, Implementierung und Betrieb von Crawling-Systemen im Webmaßstab zur Akquise von Inhalten aus dem Internet
• Aufbau von Ingestions-Workflows für interne und externe Datenquellen, einschließlich Crawler, strukturierte Feeds und Partnerintegrationen
• Entwicklung von Crawl-Planung, Priorisierung, Wiederholungsrichtlinien und Frischhaltungsstrategien
• Aufbau von Systemen zur URL-Entdeckung, Duplikation, Inhaltsextraktion und Crawl-Orchestrierung
• Sicherstellung des zuverlässigen Betriebs der Crawling-Infrastruktur unter Hochdurchsatzbedingungen
• Definition von Beobachtungs- und Qualitätsmetriken für Crawl-Abdeckung, Frische, Durchsatz und Inhaltsqualität
• Überwachung der Ressourcennutzung, Bandbreitenverbrauch und Infrastrukturkosten
• Zusammenarbeit mit Indexierungs- und ML-Teams, um sicherzustellen, dass die akquirierten Inhalte den Anforderungen an Abruf und Ranking entsprechen
• Ermöglichung sicherer Experimente mit Crawling-Strategien und Inhaltsakquisitionsrichtlinien

Sie könnten gut passen, wenn Sie:

• Über 8 Jahre Erfahrung im Aufbau von Backend- oder verteilten Systemen verfügen
• Starke Kenntnisse in Go oder C++ haben
• Erfahrung mit großflächigen verteilten Systemen (10k+ RPS, Milliarden von URLs, Hochdurchsatz-Pipelines) haben
• Ein Verständnis für Webprotokolle (HTTP, DNS, TLS), Crawling, Scraping und Inhaltsextraktion haben
• Erfahrung im Betrieb von Produktionssystemen und der Fehlersuche in verteilten Umgebungen haben
• Ein starkes Verständnis für Skalierbarkeit, Fehlertoleranz und Ressourcenmanagement haben

Starke Kandidaten haben möglicherweise auch Erfahrung mit:

• Web-Crawling
• Aufbau von Streaming-Datenpipelines und ereignisgesteuerten Systemen
• Kafka, Pulsar, NATS, RabbitMQ oder ähnlichen Messaging-Plattformen
• Entwurf verteilter Scheduler, Warteschlangen und asynchroner Verarbeitungssysteme
• Spark, Flink, Beam oder MapReduce
• Ad-Tech, sozialen Netzwerken, Suchmaschinen oder anderen großflächigen Inhaltsplattformen

Wir führen Programmierinterviews als Teil des Prozesses durch.

Vorteile & Anreize:

• Wettbewerbsfähige Vergütung
• Karrierewachstum und Lernmöglichkeiten
• Flexibilität und Eigenverantwortung
• Kollaborative und innovative Kultur
• Gelegenheit, an bedeutenden KI-Projekten zu arbeiten
• Internationales Umfeld und talentierte Teams

Was es bedeutet, bei Nebius zu arbeiten:

• Schnelllebig
• Mutiges Denken
• Ständiges Wachstum
• Bedeutungsvolle Auswirkungen
• Vertrauen und echte Verantwortung
• Gelegenheit, die Zukunft der KI zu gestalten

Nebius ist ein Arbeitgeber, der Chancengleichheit bietet. Wir setzen uns dafür ein, ein integratives und diverses Arbeitsumfeld zu fördern und Chancengleichheit in allen Aspekten der Beschäftigung zu gewährleisten. Wir diskriminieren nicht aufgrund von Rasse, Hautfarbe, Religion, Geschlecht (einschließlich Schwangerschaft), nationaler Herkunft, Abstammung, Alter, Behinderung, genetischen Informationen, Familienstand, Veteranenstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck oder einer anderen geschützten Eigenschaft gemäß geltendem Recht.

Bewerber müssen berechtigt sein, in dem Land zu arbeiten, in dem sie sich bewerben, und müssen einen Nachweis über die Beschäftigungsberechtigung als Bedingung für die Einstellung vorlegen.

Wenn Sie während des Bewerbungsprozesses Unterstützung benötigen, lassen Sie es uns bitte wissen.