AI Runtime / Low-Level Software Engineer

Essaimage du CEA fondé en 2008, Kalray est un acteur européen de référence dans le domaine des semi-conducteurs, soutenu par des investisseurs industriels de premier plan tels que Safran, NXP Semiconductors et Bpifrance. Avec plus de 30 familles de brevets et plus de 100 millions d'euros investis en R&D, notre technologie ouvre la voie à une nouvelle ère dans le traitement des données.

Grâce à leur architecture « manycore » brevetée, les processeurs intelligents MPPA® de Kalray (dits DPU ou xPU) sont capables de gérer en parallèle - et sans goulets d'étranglement – de multiples flux de données, permettant ainsi aux applications qui exploitent des quantités massives de données d’être plus intelligentes, plus efficaces et économes en énergie, en complément des approches traditionnelles (CPU et GPU).

L'offre de Kalray comprend des solutions d'accélération matérielle et logicielle, ainsi qu’une offre de co-développement – ou de design à la demande - de processeurs et de solutions d'accélération optimisées pour des usages spécifiques dans des secteurs à forte croissance tels que les data centers, les gigafactories d'IA, les réseaux 5G, l'industrie 4.0, le spatial et la défense, et bien d’autres.

Kalray est avant tout une équipe de personnes passionnées, enthousiastes et volontaires, qui placent l'excellence et la collaboration au cœur de leur travail. Que vous soyez un(e) expert(e) dans votre domaine ou un(e) jeune diplômé(e), nous mettrons tout en œuvre pour vous aider à exprimer pleinement votre talent, développer votre potentiel et contribuer au succès de l'entreprise.

Situés près de Grenoble, dans les Alpes françaises, à Sophia Antipolis, près de Nice, ainsi qu’en Roumanie, nous recherchons des talents pour soutenir notre croissance. Rejoignez notre équipe de 130 personnes et contribuez à façonner le monde de demain !

Pour en savoir plus sur Kalray, visitez notre site web et suivez-nous sur LinkedIn.

Dans le cadre de notre croissance, nous recrutons un(e) AI Runtime / Low-Level Software Engineer

Vos missions :

En tant que AI Runtime / Low-Level Software Engineer, vous serez responsable du développement de la couche Runtime / Offload, qui permet l'exécution efficace des charges de travail d'inférence sur notre accélérateur IA RISC-V propriétaire depuis un hôte x86.

Vous rejoindrez notre équipe AI & Compute, qui développe une plateforme complète d'inférence IA générative couvrant toute la chaîne logicielle, du service d'inférence jusqu'au silicium :

LLM Serving AI Compilation Runtime / Offload Bibliothèques de kernels IA optimisés

Vous développerez la couche logicielle bas niveau en charge de la gestion du cycle de vie des accélérateurs, de l'ordonnancement et de l'exécution des traitements, des communications hautes performances entre l'hôte et l'accélérateur, ainsi que des API Runtime utilisées par les couches de compilation et de serving. Vous participerez à la conception de cette pile logicielle de bout en bout sur une base open source et collaborerez étroitement avec les équipes Hardware, Compilateurs et IA afin d'accompagner le produit, depuis les environnements d'émulation jusqu'au silicium final.

À ce titre, vous serez amené(e) à :

Développer et optimiser le runtime chargé d'exécuter les traitements d'inférence déportés, depuis l'API d'offload côté hôte jusqu'au firmware de l'accélérateur.

Concevoir et optimiser les chemins critiques de performance, notamment l'ordonnancement, la distribution des traitements, les transferts mémoire et les flux de données entre l'hôte et l'accélérateur.

Analyser et optimiser les performances du runtime en identifiant les goulets d'étranglement liés à la latence, aux transferts mémoire et à l'efficacité globale de l'exécution.

Concevoir et maintenir des API Runtime robustes et pérennes à destination des couches de compilation IA et de serving, afin de garantir une exécution optimale des charges de travail sur l'accélérateur.

Intégrer et valider les communications PCIe sur le matériel réel tout en maintenant des environnements d'émulation utilisés comme plateformes de développement et de validation continue (CI).

Mettre en place les fondations logicielles nécessaires au développement : pipelines CI/CD, tests automatisés (smoke tests) sur plateformes émulées et bonnes pratiques garantissant un haut niveau de qualité.

Collaborer avec les équipes IA, Hardware et Architecture afin d'orienter les choix techniques et d'améliorer les performances des applications IA en conditions réelles.

Participer à l'amélioration continue de l'ensemble de la pile logicielle dédiée à l'accélération IA.

Compétences techniques

Excellente maîtrise du développement système en C et/ou C++ sous Linux, sur des bases de code complexes.

Solide expérience de la programmation parallèle et concurrente : gestion des threads, transferts mémoire, profiling et optimisation des performances.

Expérience du développement de logiciels embarqués, de firmware ou de logiciels bare metal, idéalement avec des technologies telles que OpenAMP, remoteproc, rpmsg, virtio ou des modèles de communication basés sur la mémoire partagée.

Bonne connaissance du fonctionnement interne de Linux, notamment des mécanismes mmap, sysfs, du modèle de périphériques Linux ainsi que des fondamentaux de PCIe (BAR, DMA).

Expérience des architectures RISC-V (ou ISA équivalentes), de la cross-compilation et du débogage bas niveau à l'interface matériel/logiciel.

Atouts appréciés

Expérience de l'écosystème d'inférence IA générative (GenAI/LLM) avec des frameworks tels que vLLM, ou des technologies de compilation IA telles que MLIR et LLVM.

Expérience du développement de pilotes Linux (PCIe, remoteproc) ainsi que des environnements d'émulation tels que QEMU.

Expérience des environnements CI/CD appliqués à des plateformes matérielles ou d'émulation.

Expérience du développement de chemins de données à haute performance, incluant les mécanismes DMA et les techniques zero-copy.

Profil

Diplôme d'ingénieur ou Master 2 (Bac+5) en informatique, systèmes embarqués, génie informatique ou domaine équivalent.

Au moins 5 ans d'expérience dans le développement de logiciels bas niveau, de systèmes embarqués, de runtimes ou de logiciels système.

Forte autonomie et sens des responsabilités, avec la capacité de piloter un composant logiciel complexe de la conception jusqu'à sa mise en production et de prendre des décisions techniques structurantes.

Vision globale des systèmes, permettant de comprendre l'ensemble de la chaîne logicielle, depuis les couches d'inférence IA et de compilation jusqu'au runtime, au firmware et au matériel.

Sensibilité forte aux performances, avec une bonne intuition des impacts liés aux cycles processeur, aux copies mémoire et aux goulets d'étranglement.

Exigence élevée en matière de qualité logicielle, d'automatisation, de reproductibilité et de bonnes pratiques d'ingénierie.

Excellentes qualités de collaboration et de communication, avec une capacité à travailler efficacement au sein d'équipes pluridisciplinaires.

À l'aise dans un environnement international, innovant et en forte évolution.

Vous n’avez peut-être pas toutes les compétences requises mais n’hésitez pas à postuler malgré tout et à nous expliquer pourquoi vous pensez être la personne idéale pour ce poste.

Informations sur le contrat :

Type de contrat : permanent, temps plein

Début de contrat : dès que possible

Lieu : Montbonnot (38)

Nos avantages :

Salaire compétitif & attribution d’actions gratuites

Jours de congés supplémentaires (RTT)

Télétravail

Titres-restaurant (Edenred)

Mutuelle familiale (Malakoff Humanis)

Forfait mobilité durable

Avantages congé paternité

Team building et autre activités telles que laser game, escape game, voile, ski, karting, karaoké et bien plus encore !

Processus de recrutement :

Premier entretien avec votre futur manager

Second entretien technique avec l'équipe

Entretien final avec la DRH ou le CEO

KALRAY s’engage à promouvoir un environnement de travail fondé sur la diversité et l’inclusion. Nous accueillons les candidatures de personnes issues de tous horizons, identités et expériences. Nous ne pratiquons aucune discrimination (y compris dans nos processus de recrutement et de promotion) fondée sur la religion, la couleur de peau, l’origine, le genre, l’orientation sexuelle, l’âge, le statut marital, le handicap ou toute autre caractéristique protégée par la loi.

Si vous avez besoin d’un aménagement ou d’une adaptation particulière durant le processus d’entretien et au-delà n’hésitez pas à nous en informer. Nous nous engageons à garantir à toutes et à tous les mêmes chances de mettre en valeur leurs compétences et de réussir au sein de notre organisation.