Fiche de pratique Révisée le
IA et apprentissage automatique dans les systèmes certifiés
Adopter l'IA sans rompre votre chaîne de preuves, et préparer les fonctions d'apprentissage automatique à la certification selon un encadrement encore en cours d'écriture.
- Normes
- DO-178C et DO-330 pour l'IA dans le cycle de vie; document de réflexion (Concept Paper) de l'EASA, édition 2, et ARP6983/ED-324 (en élaboration) pour l'IA dans le produit
- Assurance
- Préparation à tout niveau; il n'existe aujourd'hui aucun moyen de conformité accepté pour l'apprentissage automatique dans le logiciel embarqué
- Quand faire appel à nous
- Avant que des outils d'IA touchent aux preuves de certification, ou avant une soumission qui comprend une fonction d'apprentissage automatique
- Prestation
- Surtout à distance, sur place au besoin
Portée
Deux portes, une seule question : quel effet sur mes preuves?
L'IA entre dans l'ingénierie réglementée par deux portes à la fois : comme outil de productivité au sein du cycle de vie, et comme fonctionnalité embarquée qui doit elle-même être certifiée. Pour la première, nous aidons les équipes à adopter l'ingénierie assistée par l'IA là où elle aide réellement, analyse des exigences, tenue de la traçabilité, préparation des revues, génération d'essais, tout en gardant chaque affirmation de certification traçable à une source qualifiée et vérifiable. L'architecture honnête est « l'IA propose, une personne qualifiée dispose » : un outil non déterministe n'a aujourd'hui aucune voie plausible de qualification DO-330, de sorte que la revue qui mérite l'objectif reste humaine.
Pour les fonctions d'apprentissage automatique destinées à l'aéronef, nous conseillons sur la préparation à la certification selon l'encadrement émergent, les travaux du SAE G-34 et du EUROCAE WG-114 et les positions prises par les autorités, avec la même discipline que nous appliquons au DO-178C : comprendre quelles preuves seront exigées, les planifier tôt, et ne jamais prétendre à plus que ce que l'encadrement actuel permet.
Livrables
Des preuves que vous pouvez montrer, quelle que soit la porte empruntée.
| Document | En quoi il consiste | Porte |
|---|---|---|
| Politique d'utilisation de l'IA | Quelles activités du cycle de vie peuvent recourir à l'IA, sous quels contrôles, et la réponse quand un délégué demande « est-ce que l'IA a produit une partie de ceci? » | Cycle de vie |
| Revue de la chaîne de preuves | Où la production de l'IA entre dans les preuves et où une revue qualifiée rétablit le crédit | Cycle de vie |
| Stratégie d'outillage | Par outil : aide à la productivité sous la ligne des preuves, ou obligation de qualification qu'il ne peut remplir | Cycle de vie |
| Évaluation de préparation | La fonction d'apprentissage automatique confrontée aux objectifs du document de réflexion de l'EASA et à l'orientation du projet ED-324 | Produit |
| Domaine d'exploitation | Le domaine de conception opérationnel caractérisé, consigné et argumenté, pour que des données « complètes » veuillent dire quelque chose | Produit |
| Plan de données | Le jeu de données comme artéfact de certification : provenance, couverture du domaine, étiquetage, gestion des versions, défauts | Produit |
Le processus en W
L'assurance de l'apprentissage restructure le V.
Pour une fonction apprise, le jeu de données porte l'exigence, de sorte que le cycle de vie gagne une deuxième descente et une deuxième remontée.
- 01 Exigences et domaine Les exigences système et le domaine d'exploitation dans lequel la fonction prétend fonctionner.
- 02 Gestion des données Des données recueillies, étiquetées, versionnées et dont on démontre qu'elles couvrent le domaine.
- 03 Processus d'apprentissage L'entraînement géré comme un processus aux intrants maîtrisés, non comme une expérience.
- 04 Vérification du modèle entraîné La performance du modèle sur des données qu'il n'a jamais vues, argumentée statistiquement.
- 05 Implémentation et vérification de l'inférence Le moteur d'inférence, classique et certifiable, vérifié par rapport au modèle entraîné.
- 06 Intégration Le cœur appris à l'intérieur d'une enveloppe classique qui prend en charge le pire cas.
Ce qui se transfère du DO-178C
Quatre réponses, de « entièrement » à « pas du tout ».
- Planification, gestion de la configuration, rapports de problème Se transfèrent entièrement; indépendants de la norme, et plus nécessaires ici, non moins.
- Vérification fondée sur les exigences Se transfère en partie; les exigences de niveau système s'appliquent toujours, le comportement interne du modèle n'est pas spécifié par elles.
- Traçabilité Reformulée; les traces passent désormais par les jeux de données, et non plus seulement par le code.
- Couverture structurelle et couverture des conditions et décisions modifiées (MC/DC) Aucun équivalent; l'artéfact n'a jamais été écrit à la main, il n'y a donc rien d'équivalent à couvrir.
Notes de terrain