STAGE UTILISATION DE L’APPRENTISSAGE AUTOMATIQUE À BORD DES AVIONS DE NOUVELLE GÉNÉRATION (RÉF : 2022_FD6_IA_01)

DATE POSTED: 2021-10-20-07:00 COUNTRY: France LOCATION: Blagnac, France CONTEXTE: LE MACHINE LEARNING (ML) EST EN TRAIN DE S’IMPOSER COMME UNE TECHNOLOGIE CLÉ POUR LE DÉVELOPPEMENT DES NOUVEAUX SYSTÈMES AVIONIQUES, TYPES CAPTEURS INTELLIGENTS, PERMETTANT DE FOURNIR DE MEILLEURES PERFORMANCES ET UNE RÉDUCTION DE LA CONSOMMATION ÉNERGÉTIQUE [9]. CEPENDANT, L’UTILISATION DE COMPOSANTS BASÉS ML À BORD DES AVIONS SUSCITE DE NOMBREUSES INTERROGATIONS, NOTAMMENT CONCERNANT LA _SÛRETÉ_ ET LA _CERTIFICATION_. L’UN DES PRINCIPAUX PROBLÈMES RÉSIDE DANS LA DIFFICULTÉ À CARACTÉRISER LE COMPORTEMENT ATTENDU D’UN COMPOSANT BASÉ ML, CE QUI CONSTITUE PRÉCISÉMENT L’INTÉRÊT DU MACHINE LEARNING : RÉSOUDRE UN PROBLÈME COMPLEXE EN APPRENANT UN MODÈLE À PARTIR DE _DONNÉES EXEMPLES_ AU LIEU DE SPÉCIFIER EXPLICITEMENT LA SOLUTION DU PROBLÈME. FINALEMENT, LES DONNÉES EXEMPLES DEVIENNENT L’UNIQUE (ET TRÈS INCOMPLÈTE) SPÉCIFICATION DISPONIBLE. COMMENT ALORS ÉVALUER LA CORRECTION D’UN COMPOSANT BASÉ ML SI L’ON NE SAIT PAS DÉFINIR PRÉCISÉMENT CE QUE SIGNIFIE “CORRECT” ? COMMENT S’ASSURER QUE LE COMPOSANT ML NE VA PAS PÉNALISER LA SÛRETÉ DE L’AVION ? COMMENT FAIRE CONFIANCE À UN COMPOSANT DONT LE COMPORTEMENT EST EN PARTIE INCONNU ? Les acteurs industriels et les organismes de réglementation ont engagé un travail afin de répondre aux problématiques liées à la certification du ML. En mai 2020, l’Aerospace Vehicle Systems Institute (AVSI) a publié un rapport couvrant les aspects sûreté et certification pour le ML [1]. En avril 2021, l’Agence de l’Union Européenne pour la sûreté de l’aviation (EASA) a publié un premier ensemble de bonnes pratiques pour le développement des applications ML dans l’aviation [3]. Parallèlement, un groupe de travail commun entre l’UE et les Etats Unis a été créé afin de préparer les standards techniques pour la certification des systèmes aéronautiques utilisant des composants ML (SAE G-34/EUROCAE WG-114). En tant que leader des solutions intelligentes pour l’industrie de l’aéronautique, du spatial et de la défense, Collins Aerospace a pris une part active dans les initiatives susmentionnées et conduit actuellement des recherches poussées sur la certification du ML. ACTIVITÉS: Le stagiaire soutiendra les activités de R&T sur la certification du ML chez Collins Aerospace France. Ces activités se concentrent sur la _vérification de la sûreté de systèmes cyber-physiques basés réseaux de neurones_, c’est-à-dire des systèmes physiques intéragissant avec un contrôleur basé sur des réseaux de neurones. Typiquement, ce type de système peut être un avion équipé d’un système d’anti-collision utilisant des réseaux de neurones [6]. Dans ce contexte, au lieu d’analyser le réseau de neurones de manière isolée, nous analysons le système cyber-physique dans son entièreté. En effet, obtenir une spécification complète pour le comportement attendu du réseau peut s’avérer infaisable mais spécifier le comportement du système incorporant le réseau est bien plus simple. Nous suivons les pistes suivantes: (i) développer ou améliorer des méthodes et outils pour fournir une preuve mathématique de correction du système cyber-physique (par exemple, montrer que toutes les trajectoires atteignables par le système satisfont une propriété de sûreté donnée), (ii) développer ou améliorer des méthodes et outils pour optimiser la recherche de trajectoires non sûres du système cyber-physique, (iii) appliquer les outils existants à des cas d’usage de Collins Aerospace. Le stagiaire travaillera sur l’une ou plusieurs des pistes décrites ci-avant. Il mènera une étude bibliographique, développera une preuve de concept, conduira l’étude et présentera ses résultats à l’équipe. (SMALL) RELATED WORK: [7] a introduit la notion de robustesse locale pour aider à définir le comportement attendu d’un réseau de neurones. Un réseau de neurones est robuste localement si une légère perturbation d’une entrée donnée de modifie pas, ou peu, la sortie du réseau. Typiquement, le changement d’un unique pixel ne devrait pas modifier la sortie d’un classificateur d’image. [7,8] ont proposé des techniques dédiées à la vérification d’un réseau de neurones vis-à-vis d’une propriété donnée, par exemple la robustesse locale, en utilisant soit une version améliorée de l’algorithme du simplex, soit une sur-approximation des comportements possibles du réseau. [2,4,5] ont proposé des méthodes pour l’analyse de systèmes cyber-physique basés réseau de neurones en construisant un flowpipe sur-approximant les états atteignables par le système au cours du temps. RÉFÉRENCES: [1] Aerospace Vehicle Systems Institute (AVSI). 2020. AFE 87 - Machine Learning, Final report. publication url, pdf [2] Clavière A. et al. 2021. Safety verification of neural network controlled systems. In Proc. of the 2021 51st Annual IEEE/IFIP International Conference on Dependable Systems and Networks Workshops (DSN-W). publication url, pdf [3] EU Aviation Safety Agency (EASA). 2021. EASA Concept Paper: First usable guidance for Level 1 machine learning applications. publication url, pdf [4] Huang C. et al. 2019. ReachNN: Reachability Analysis of Neural-Network Controlled Systems. In ACM Transactions on Embedded Computing Systems, volume 18, Article 106. publication url, pdf [5] Ivanov R. et al. 2019. Verisig: verifying safety properties of hybrid systems with neural network controllers. In Proc. of the 22nd ACM International Conference on Hybrid Systems: Computation and Control (HSCC'19). publication url, pdf [6] Julian K. D. et al. 2019. Deep Neural Network Compression for Aircraft Collision Avoidance Systems. American Institute of Aeronautics and Astronautics (AIAA). Journal of Guidance, Control, and Dynamics, volume 42. publication url, pdf [7] Katz G. et al. 2017. Reluplex: An Efficient SMT Solver for Verifying Deep Neural Networks. In Proc. of the 29th International Conference on Computer Aided Verification (CAV 2017). 97-117. publication url, pdf [8] Singh G. et al. 2019. An abstract domain for certifying neural networks. In Proc. of the ACM on Programming Languages 3, POPL, Article 41. publication url, pdf [9] Zakrzewski R. R. 2001. Fuel mass estimation in aircraft tanks using neural nets. In Proc. of the 40th IEEE Conference on Decision and Control. publication url _ RAYTHEON TECHNOLOGIES IS AN EQUAL __OPPORTUNITY/AFFIRMATIVE__ ACTION EMPLOYER. ALL QUALIFIED APPLICANTS WILL RECEIVE CONSIDERATION FOR EMPLOYMENT WITHOUT REGARD TO RACE, COLOR, RELIGION, SEX, SEXUAL ORIENTATION, GENDER IDENTITY, NATIONAL ORIGIN, DISABILITY OR VETERAN STATUS, AGE OR ANY OTHER FEDERALLY PROTECTED CLASS._ PRIVACY POLICY AND TERMS: Click on this link to read the Policy and Terms