Stage - Optimisation de l’exécution de modèles d’IA pour les systèmes robotiques - Industrie - Toulouse

Nous recrutons un(e) Stage - Optimisation de l'exécution des modèles IA pour les systèmes robotiques pour rejoindre notre Business Unit INDUSTRIE au sein de l’agence Systèmes Embarqués Industriels et Cybersécurisés. Le Pôle de compétence SEIC contribue au développement de systèmes embarqués et industriels à fortes contraintes temps réel et de sûreté de fonctionnement ainsi qu’à leur mise en œuvre opérationnelle intégrant les concepts de sécurité.

Contexte et Objectifs

Dans la lignée des initiatives de CS Group d'intégration de l'IA appliquée aux systèmes embarqués, le stage visera concevoir et évaluer une stratégie d’ordonnancement permettant d’exécuter de manière optimale plusieurs modèles DNN concurrents d’une fonction de perception et de tracking avancé, en tenant compte de leurs périodes d’activation, des deadlines, des priorités, les ressources de calcul et du contexte opérationnel. Le système devra supporter des modes d’inférence synchrones ainsi que l’activation, la désactivation de certains modèles en fonction de l’évolution de la mission.

Missions Principales

1. Modéliser les chaînes d’inférence multi-DNN et leurs contraintes temporelles

Formaliser la fonction de tracking sous forme d’un ensemble de tâches DNN périodiques, en caractérisant leurs temps d’exécution, fréquences et besoins en ressources. Étudier les interactions des exécutions de graphes synchrones ainsi que leurs impacts lors des transitions de modes et évaluer l’impact de la latence de bout en bout.

2. Concevoir des stratégies d’ordonnancement dynamique des modèles DNN

Développer et comparer des politiques d’ordonnancement permettant de déterminer au runtime quel modèles DNN à exécuter, à quel instant, avec quelle priorité et sur quelle ressource de calcul, tout en garantissant le respect des contraintes temporelles.

3. Adapter l’ordonnancement au contexte opérationnel

Définir et développer des politiques statiques capable de modifier au runtime des modèles DNN actifs, leurs fréquences et leurs priorités selon la situation rencontrée : apparition d’une cible, perte de tracking, phase de mission critique ou changement de ressources disponibles.

4. Optimiser l’allocation des ressources CPU/NPU et garantir les deadlines critiques

Étudier l’ordonnancement temporel et l’allocation des modèles (graphe de calculs) aux ressources de la cible hétérogènes afin de minimiser la latence et la contention mémoire (chargement des poids du modèles…) tout en maximisant l’utilisation des accélérateurs. Etudier et mettre en œuvre des mécanismes de supervision et/ou de reconfiguration des graphes à exécuter en optimisant les politiques d’ordonnancement selon les scénarios avec des scénarios de repli.

5. Évaluer et valider l’ordonnanceur sur un cas de tracking multi-DNN

Implémenter un démonstrateur représentatif combinant plusieurs DNN de perception et de tracking et comparer différentes stratégies sous variations de charge, de contexte et de ressources disponibles. Mesurer notamment le taux de respect des deadlines, la latence bout-en-bout, l’utilisation des ressources matériel et les performances du tracking, afin d’identifier le meilleur compromis entre les performances IA et contraintes temps réel.

Department: Engineering, Development, Applications
Function: Information Technology
Experience Level: Internship