Senior Software Engineer (Agentic Search) - Crawler

Über das Unternehmen: Das Unternehmen führt eine neue Ära in der Cloud-Infrastruktur für die globale KI-Wirtschaft an. Wir bauen eine Full-Stack-AI-Cloud-Plattform, die Entwicklern und Unternehmen von der Daten- und Modellschulung bis hin zur Produktionsbereitstellung unterstützt, ohne die Kosten und die Komplexität des Aufbaus großer interner AI/ML-Infrastrukturen. Unser Team von über 1.500 Mitarbeitern umfasst Hunderte von Ingenieuren mit tiefem Fachwissen in Hardware, Software und KI-Forschung und -Entwicklung.

Das Produkt: In einer sich schnell entwickelnden Welt hängt das Vertrauen in KI davon ab, dass KI-Agenten auf frischen, verifizierten Echtzeitdaten basieren. Die Suche ist die Grundlage, die dies ermöglicht. Wir bauen eine agent-native Suchplattform, die speziell für KI-Systeme und nicht für menschliche Benutzer entwickelt wurde. Unser Produkt bietet programmatische, latenzarme und beobachtbare Such-APIs, die KI-Agenten verwenden, um Informationen aus der realen Welt in großem Maßstab abzurufen, zu filtern und zu verarbeiten.

Die Rolle: Wir suchen einen Senior Software Engineer, der an der Inhaltsakquise und der Crawling-Infrastruktur einer neuartigen Suchmaschine arbeitet, die auf den Verbrauch durch agentische KI zugeschnitten ist. In dieser Rolle konzentrieren Sie sich auf den Aufbau von Systemen, die Inhalte aus dem offenen Web und anderen großflächigen Datenquellen entdecken, abrufen und kontinuierlich aktualisieren. Sie entwerfen verteilte Crawling-, Planungs- und Ingestionsinfrastrukturen, die in der Lage sind, im Internetmaßstab zu arbeiten, während Sie Abdeckung, Aktualität, Ressourceneffizienz und Zuverlässigkeit ausbalancieren.

In dieser Position sind Ihre Verantwortlichkeiten:

• Entwurf, Implementierung und Betrieb von Web-Scale-Crawling-Systemen zur Akquise von Inhalten aus dem Internet
• Aufbau von Ingestions-Workflows für interne und externe Datenquellen, einschließlich Crawler, strukturierte Feeds und Partnerintegrationen
• Entwicklung von Crawl-Planung, Priorisierungs-, Wieder-Crawl-Richtlinien und Aktualisierungsstrategien
• Aufbau von Systemen zur URL-Entdeckung, Duplikation, Inhaltsextraktion und Crawl-Orchestrierung
• Sicherstellung des zuverlässigen Betriebs der Crawling-Infrastruktur unter Hochdurchsatzbedingungen
• Definition von Beobachtungs- und Qualitätsmetriken für Crawl-Abdeckung, Aktualität, Durchsatz und Inhaltsqualität
• Überwachung der Ressourcennutzung, Bandbreitennutzung und Infrastrukturkosten
• Zusammenarbeit mit Indexierungs- und ML-Teams, um sicherzustellen, dass die akquirierten Inhalte den Anforderungen an Abruf und Ranking entsprechen
• Ermöglichung sicherer Experimente mit Crawling-Strategien und Inhaltsakquisitionsrichtlinien

Sie könnten gut passen, wenn Sie:

• Über 5 Jahre Erfahrung im Aufbau von Backend- oder verteilten Systemen verfügen
• Starke Kenntnisse in Go oder C++ haben
• Erfahrung mit großflächigen verteilten Systemen (10k+ RPS, Milliarden von URLs, Hochdurchsatz-Pipelines) haben
• Verständnis von Web-Protokollen (HTTP, DNS, TLS), Crawling, Scraping und Inhaltsextraktion haben
• Produktionssysteme betreiben und Fehler in verteilten Umgebungen debuggen können
• Ein starkes Verständnis für Skalierbarkeit, Fehlertoleranz und Ressourcenmanagement haben

Starke Kandidaten haben möglicherweise auch Erfahrung mit:

• Web-Crawling
• Aufbau von Streaming-Datenpipelines und ereignisgesteuerten Systemen
• Kafka, Pulsar, NATS, RabbitMQ oder ähnlichen Messaging-Plattformen
• Entwurf verteilter Scheduler, Warteschlangen und asynchrone Verarbeitungssysteme
• Spark, Flink, Beam oder MapReduce
• Ad-Tech, soziale Netzwerke, Suchmaschinen oder andere großflächige Inhaltsplattformen

Wir führen Programmierinterviews als Teil des Prozesses durch.

Vorteile & Anreize:

• Wettbewerbsfähige Vergütung
• Karrierewachstum und Lernmöglichkeiten
• Flexibilität und Eigenverantwortung
• Kollaborative und innovative Kultur
• Gelegenheit, an bedeutenden KI-Projekten zu arbeiten
• Internationales Umfeld und talentierte Teams

Was es bedeutet, im Unternehmen zu arbeiten: Schnelllebig - Mutiges Denken - Ständiges Wachstum - Bedeutender Einfluss - Vertrauen und echte Verantwortung - Gelegenheit, die Zukunft der KI zu gestalten.

Gleichstellungserklärung: Das Unternehmen ist ein Arbeitgeber, der Chancengleichheit bietet. Wir setzen uns dafür ein, ein integratives und diverses Arbeitsumfeld zu fördern und in allen Aspekten der Beschäftigung gleiche Beschäftigungsmöglichkeiten zu bieten. Wir diskriminieren nicht aufgrund von Rasse, Hautfarbe, Religion, Geschlecht (einschließlich Schwangerschaft), nationaler Herkunft, Abstammung, Alter, Behinderung, genetischen Informationen, Familienstand, Veteranenstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck oder einer anderen durch geltendes Recht geschützten Eigenschaft.

Bewerber müssen berechtigt sein, in dem Land zu arbeiten, in dem sie sich bewerben, und müssen einen Nachweis über die Beschäftigungsberechtigung als Bedingung für die Einstellung vorlegen. Wenn Sie während des Bewerbungsprozesses Unterstützung benötigen, lassen Sie es uns bitte wissen.