Auf einen Blick
- Aufgaben: Entwickle intelligente Systeme zur Automatisierung von AI-Governance-Prozessen.
- Unternehmen: Credo AI, ein innovatives Unternehmen für verantwortungsvolle KI-Governance.
- Vorteile: Wettbewerbsfähiges Gehalt, Gesundheitsleistungen, unbegrenzter Urlaub und Unterstützung für Co-Working.
- Weitere Informationen: Vollständig remote mit großartigen Wachstumschancen und einem unterstützenden Team.
- Warum dieser Job: Gestalte die Zukunft der KI-Governance und mache einen echten Unterschied.
- Qualifikationen: Erfahrung in der Entwicklung von LLM-Anwendungen und Dokumentenverständnis.
Über Credo AI
Credo AI ist ein von Investoren unterstütztes Unternehmen mit der Mission, Organisationen zu befähigen, KI verantwortungsbewusst zu entwickeln, zu übernehmen, zu beschaffen und in großem Maßstab zu nutzen. Credo AI hat eine bahnbrechende Plattform für kontextgesteuerte KI-Governance, KI-Risikoabschätzung und Compliance (mit Vorschriften wie dem EU AI Act und Standards wie NIST AI RMF, ISO 42001 usw.) entwickelt, um die konforme, faire und prüfbare Entwicklung und Nutzung von KI sicherzustellen.
Unser Ziel ist es, die verantwortungsvolle KI-Entwicklung von einer „ethischen“ Wahl zu einer offensichtlichen zu machen – indem wir sicherstellen, dass die Vorteile von KI universell zugänglich sind und gleichzeitig das gesamte Spektrum ihrer Risiken angegangen wird. Wir streben dies sowohl an, indem wir es Organisationen erleichtern, verantwortungsvolle KI-Governance-Praktiken in ihre KI-Entwicklung zu integrieren, als auch durch die Zusammenarbeit mit Regulierungsbehörden und politischen Entscheidungsträgern, um angemessene Anreize im Ökosystem zu schaffen.
Über die Rolle
Enterprise-AI-Risikoteams haben Schwierigkeiten, aktuelle Informationen über ihre KI-Anbieter und Drittanbieter-Modelle aufrechtzuerhalten. Informationen sind über Systemkarten, Benchmark-Leaderboards, Sicherheitsoffenlegungen und Anbieterdokumentationen verstreut – alles ständig im Wandel. Manuelles Tracking skaliert nicht. Sie werden intelligente Systeme entwickeln, die Informationen über KI-Anbieter und -Modelle, KI-Benchmarks, Risikorahmenwerke und komplexe regulatorische Anforderungen in ein strukturiertes Wissensgraph umwandeln, das von unseren KI-Systemen genutzt werden kann.
Zu Ihren Hauptverantwortlichkeiten gehören:
- Automatisierte Anbieterintelligenz-Pipelines aufbauen, die kontinuierlich KI-Systemkarten, Modellbenchmarks, Sicherheitsoffenlegungen und öffentliche Anbieterdokumentationen sammeln und analysieren.
- Synthesessysteme entwerfen, die disparate Anbieterinformationen mit unserer Risikoklassifikation verknüpfen.
- Qualitätsbewertung für generierte Risikoprofile implementieren, um Genauigkeit sicherzustellen und zu erkennen, wenn Anbieterinformationen widersprüchlich oder veraltet werden.
- Adaptive Interpretationssysteme erstellen, die Risikobewertungen basierend auf dem organisatorischen Kontext und der Risikobereitschaft anpassen.
- Forschung und Prototyping neuartiger Ansätze zur Synthese von Informationen aus mehreren Quellen und zum Vergleich zwischen Anbietern.
Über Sie
Sie verstehen das KI-Sicherheitsökosystem und wissen, warum Modellkarten wichtig sind. Sie haben wahrscheinlich mit inkonsistenten Dokumentationsformaten zu kämpfen gehabt und kennen den Schmerz, die Anbieterinformationen aktuell zu halten. Sie haben ein gutes Auge für Struktur in unstrukturiertem Text und können Systeme entwerfen, die Bedeutung extrahieren und dabei Nuancen bewahren. Sie verstehen, dass Governance-Inhalte sowohl genau als auch umsetzbar sein müssen.
Mindestens erforderliche Qualifikationen:
- Erfolgreiche Entwicklung von LLM-gestützten Anwendungen in der Produktion.
- Tiefe Expertise in Dokumentenverständnis, Informationsbeschaffung und strukturierter Inhaltserstellung.
- Erfahrung im Aufbau von Datenpipelines, die mit unterschiedlichen, sich entwickelnden Quellformaten umgehen.
- Vertrautheit mit modernen KI-Entwicklungsstacks.
- Starkes Verständnis von Prompt Engineering und Feinabstimmung.
Bevorzugte Qualifikationen:
- Tiefe Vertrautheit mit dem KI-Bewertungssystem.
- Erfahrung mit der Bewertung von Risiken von Anbietern/Drittanbietern in einem beliebigen Bereich.
- Erfahrung im Aufbau von Systemen, die Dokumentenverständnis in großem Maßstab ermöglichen.
Vergütung
Das erwartete Grundgehalt für diese Position liegt im Bereich von ₹35–50L.
Standort & Remote-Kultur
Obwohl dies eine Remote-Rolle ist, treffen wir uns regelmäßig persönlich.
Credo AI Benefits & Perks
- Wettbewerbsfähiges Gehalt und Aktienoptionen.
- Gesundheitsversorgung: Wir bieten Gesundheits-, Zahn- und Augenversicherung.
- Unbegrenzter Urlaub.
- Großzügige Elternzeit: Bis zu 12 Wochen bezahlte Elternzeit.
AI Engineer - Governance Intelligence, Third Party (India) Arbeitgeber: Credo AI
Credo AI ist ein innovativer Arbeitgeber, der sich leidenschaftlich für verantwortungsvolle KI-Governance einsetzt. Mit einem flexiblen Remote-Arbeitsmodell und einer Unternehmenskultur, die Vielfalt, Gleichheit und Inklusion fördert, bietet Credo AI seinen Mitarbeitern nicht nur wettbewerbsfähige Gehälter und umfassende Gesundheitsleistungen, sondern auch unbegrenzten Urlaub und großzügige Elternzeit. Die Möglichkeit zur persönlichen Weiterentwicklung und die Teilnahme an regelmäßigen Team-Events machen Credo AI zu einem attraktiven Arbeitsplatz für alle, die in der dynamischen Welt der KI tätig sein möchten.
