Ga naar inhoud

← Alle vacatures

Engineering

Staff AI Engineer, Agentic Systems and Evaluation

Locatie
Remote, Europa of Azië
Type
Fulltime
Ervaring
8+ jaar
Solliciteer op deze functie

Forward deployed engineers leveren op in klantomgevingen. U bent eigenaar van waarmee zij opleveren: orkestratie, state en geheugen, toolinterfaces, kostencontroles, en de evaluatie en tracing die onze betrouwbaarheidsclaims omzetten in bewijs.

De moeilijkste vraag in dit werk is niet of een systeem werkt op de dag dat het wordt opgeleverd. Het is of het een maand later nog werkt, als de modelaanbieder iets heeft veranderd, de data van de klant is verschoven en niemand al weken een trace heeft gelezen. Deze rol is eigenaar van die vraag, en van de architectuur die haar beantwoordbaar maakt.

Het is een diepe engineeringrol met een korte feedbackloop. Wat u ontwerpt, draait binnen weken in de productie van een klant, en u hoort het rechtstreeks van de engineer die het om middernacht moest debuggen.

Wat u gaat doen

  • De architectuur van onze agentische laag bepalen: orkestratie en delegatie tussen gespecialiseerde agents, heldere faalsemantiek en state die een herstart overleeft
  • Eigenaar zijn van tool- en integratie-interfaces, inclusief MCP-servers voor de systemen die onze klanten draaien
  • De evaluatieharnassen en golden datasets bouwen waartegen elk klantsysteem wordt vrijgegeven, inclusief LLM-beoordelaars die zijn gekalibreerd tegen menselijke labels
  • Eigenaar zijn van tracing van prompt tot output, en regressies opsporen over modelupgrades, promptwijzigingen en dataverschuiving heen voordat een klant dat doet
  • Kostenbewaking, rate limits en de goedkeuringsmomenten ontwerpen voor beslissingen met te grote gevolgen om volledig te automatiseren
  • Patronen die één keer werkten omzetten in componenten en standaarden waar het hele deliveryteam mee werkt

Wat we zoeken

  • 8+ jaar software engineering, waarvan meerdere jaren met het ontwerpen van API's en abstracties waar andere engineers op vertrouwen
  • Uitstekend in Python, en diepgaand praktisch werk met LLM-orkestratie, op een framework of zelf gebouwd
  • Instinct voor gedistribueerde systemen: idempotentie, retries, backpressure en gedeeltelijk falen
  • Ervaring met het evalueren van LLM-systemen in productie, inclusief het punt waarop offline metrics het echte gedrag niet meer voorspellen
  • Genoeg statistisch inzicht om te weten wanneer een verschil tussen twee runs niets betekent
  • Sterke opvattingen over betrouwbaarheid die u durft los te laten, en de bereidheid om te zeggen dat een systeem nog niet klaar is

Mooi meegenomen

  • Open-sourcebijdragen aan agent-, evaluatie- of LLM-tooling
  • U heeft een MCP-server gebouwd en beheerd tegen een echt productiesysteem
  • Ervaring in gereguleerde of veiligheidskritische omgevingen

Uw eerste zes maanden

  • Maand 1: een lopend traject instrumenteren van prompt tot output en iets vinden waarvan niemand wist dat het kapot was
  • Maand 3: eigenaar van de orkestratie- en evaluatielaag, met een suite die tegen elk actief traject draait
  • Maand 6: regressies worden gevangen door onze tooling in plaats van door een e-mail van de klant, en de architectuur weerspiegelt beslissingen die u kunt verdedigen

Solliciteren

Staff AI Engineer, Agentic Systems and Evaluation

Vertel ons wat u heeft gebouwd. Links zeggen meer dan bijvoeglijke naamwoorden.

  • Gelezen door de engineers met wie u zou werken
  • Als het past, nemen we snel contact met u op