FRAIME

L'omniprésence de l'IA dans de nombreux domaines de la société nécessite le développement et l'adoption de techniques rendant l'IA plus sûre. Les systèmes basés sur l'IA affichent des performances impressionnantes, mais leur opacité et le peu de garanties qu'ils offrent les rend peu fiables pour des applications industrielles. En revanche, les méthodes formelles excellent dans le raisonnement logique, peuvent prouver les propriétés des programmes ou détecter des erreurs, mais sont souvent limitées en termes de passage à l'échelle.

Dans le Défi FRAIME entre Inria et MERCE (Mitsubishi Electric Research Centre Europe), nous proposons d'étudier, d'une part, comment les méthodes formelles peuvent fournir des garanties sur les systèmes d'IA et, d'autre part, comment l'IA peut aider les méthodes formelles à être plus efficaces et plus faciles à utiliser par les industriels. L'objectif est de combiner les méthodes formelles et l'IA afin de concevoir efficacement des systèmes sûrs.