Un véhicule autonome de la Poste est testé à Sion (VS). Mais comment s'assurer que ses algorithmes ne feront jamais d'erreur? | Image: Postauto

Des chercheurs de l’ETH Zurich ont présenté un nouveau système pour tester les réseaux neuronaux. Ces algorithmes utilisés en intelligence artificielle assument des tâches de plus en plus délicates comm pour analyser des images médicales ou contrôler un robot. Problème: on ne peut pas forcément toujours se fier à leurs décisions. Par exemple, des modifications minimales des images suffisent à tromper les dispositifs de reconnaissance visuelle.

Il est malheureusement impossible de tester toutes les variations possibles d’une image pour en étudier les effets sur un algorithme. La stratégie du système Deeppoly, développé par Martin Vechev, de l’ETH Zurich, consiste à éprouver la stabilité des réseaux neuronaux face à ces petites anomalies. Il est exécuté à un niveau abstrait en établissant un modèle mathématique simplifié du comportement du réseau, des approximations linéaires. Deeppoly s’avère très efficace et peut également être ajusté pour tester des réseaux comprenant un nombre particulièrement élevé de noeuds, explique l’informaticien. Une nécessité, vu que la structure des réseaux neuronaux devient toujours plus complexe.

Son équipe veut désormais affiner les procédures et tester la réaction des algorithmes devant des distorsions plus importantes et plus compliquées. De premiers résultats ont déjà été obtenus. Elle travaille en outre à un concept de programmation fondamentalement nouveau: l’idée consiste à structurer les réseaux de neurones dès le début, de manière à pouvoir les tester facilement par la suite.

G. Singh et al.: An Abstract Domain for Certifying Neural Networks. Proceedings of the ACM on Programming Languages (2019)