 |
SAM : un outil de vérification de propriétés d'atteignabilité sur des classificateurs neuronaux
1 : Collins Aerospace
Collins Aerospace France
2 : Institut Supérieur de l'Aéronautique et de l'Espace
ISAE-SUPAERO
3 : ONERA, Université de Toulouse [Toulouse]
PRES Université de Toulouse, ONERA
L'essor de l'utilisation de réseaux de neurones dans les systèmes critiques nécessite d'offrir des moyens de vérification
adaptés à ces nouveaux types d'algorithme. L'outil SAM permet de vérifier des propriétés d'atteignabilité de {classificateurs
neuronaux en exploitant plusieurs solveurs existants. Dans la pratique, il fournit (1) une traduction automatique de la
propriété à vérifier sur le classificateur en une propriété équivalente sur le ou les réseaux de neurones composant le
classificateur, (2) une interface uniformisée vers les outils existants et (3) plusieurs heuristiques pour faciliter et
accélérer la vérification. L'utilisation de SAM est illustrée sur l'étude de cas ACAS Xu -- un système d'évitement de
collision en vol.
