Sites Inria

Séminaire In'Tech

23/10/2015

Logiciel embarqué et responsabilité. Dysfonctionnements, accidents : à qui la faute ?

Inria Grenoble - Rhône-Alpes organise le jeudi 26 novembre 2015 de 10h00 à 16h00 un séminaire In’Tech, dans les locaux d’Inria, à Montbonnot. Une journée de rencontres entre chercheurs et industriels sur les logiciels embarqués et la responsabilité. A qui la faute en cas de dysfonctionnements ou d’accidents ?

Dans les systèmes embarqués et les infrastructures critiques, les logiciels prennent une place de plus en plus importante, permettant aux constructeurs de gagner en souplesse et de réaliser de nouvelles fonctionnalités. Cependant, les cas de pannes de régulateurs de vitesse, de systèmes informatiques d'avions ou de réseaux de distribution d'électricité montrent que ce développement n'est pas sans risque. La question de la responsabilité en cas d'accident est aussi primordiale que complexe : qui est responsable dans le cas d'un accident causé par une voiture autonome - le fabricant, les fournisseurs de composants défectueux ou le conducteur ? Aujourd'hui l'analyse d'accidents est généralement effectuée de manière ad hoc par des experts et l'absence d'approche systématique et (partiellement) automatisée est l'un des principaux obstacles à la mise sur le marché de voitures autonomes comme d'appareils médicaux interconnectés.

Le problème de la responsabilité des logiciels ne pourra être résolu qu'en interaction étroite entre juristes et informaticiens (roboticiens, automaticiens, ...). D'un point de vue juridique, la question de responsabilité est étroitement liée à la notion de causalité entre événements. D'un point de vue technique, une condition nécessaire pour pouvoir raisonner sur la causalité est de disposer d'une trace des événements précédant l'accident et d'avoir les outils techniques pour l'analyser.

Cette journée d’échanges sera l’occasion de s’interroger sur l’attribution des responsabilités en cas de défaillance au travers des conférences et d’une table ronde dédiée aux solutions techniques et/ou juridiques.

Pré-programme de la journée du 26 novembre 2015
9h30 Accueil des participants autour d’un café
 

Introduction au thème de la journée

10h00 - 10h10  Badiaa Houidi , Gregor Goessler - Inria
  Matinée conférences
10h10 - 10h40
  • Responsabilité civile en cas de défaillance logicielle à l’origine d’un accident de la circulation - Le droit des accidents de la circulation doit-il s’adapter à l’arrivée des véhicules autonomes ?

 Benjamin Ménard - Université Lyon III

Le droit français s’est doté en 1985 d’un régime de responsabilité du fait des accidents de la circulation, adossé à une obligation d’assurance et d’autres mécanismes de socialisation des risques. Néanmoins, ce régime laisse subsister d’autres fondements de responsabilité, ne serait-ce qu’au stade des recours.

L’avènement de véhicules autonomes, ou du moins des aides à la conduite, est potentiellement susceptible de rendre nécessaire une réforme, ou une clarification, de certaines règles de droit. Parmi les questions qui semblent rester en suspens, et qui seront débattues lors de l’intervention : Qui est le gardien d’un véhicule autonome ? Quel fondement pour une action récursoire contre le concepteur d’un logiciel dont la défaillance a provoqué l’accident ? Quelle responsabilité lorsqu’un logiciel « prend l’initiative » de provoquer un accident bénin pour en éviter un dramatique ?

10h40 - 11h20
  • Véhicule connecté, véhicule autonome : quelle approche pénale pour de nouvelles sources de risques ?

Michèle Guilbot - IFSTTAR

Le déploiement du véhicule connecté est inscrit dans celui des systèmes de transports intelligents coopératifs  dont  le  fonctionnement  est  basé  sur  des  dispositifs  de  communications  sans  fil permettant les échanges d’informations en temps réel entre véhicules ou entre un véhicule et l’environnement routier. Mais le véhicule autonome pourrait fonctionner exclusivement à l’aide de capteurs embarqués, sans nécessairement être doté de connexions sans fil. Néanmoins il sera probablement connecté, ne serait-ce que par le système de navigation.

Ces véhicules « intelligents » sont pourvus de programmes logiciels déterminants pour mettre en œuvre les actions permettant d’aider ou de remplacer le conducteur, selon le niveau de délégation de conduite. Sources potentielles de progrès pour la mobilité et la sécurité routière, ces systèmes doivent présenter les meilleures garanties possibles d’intégrité. Or, des expériences menées aux Etats-Unis ont montré la possibilité de pirater les systèmes de sécurité de véhicules équipés d’aides à la conduite. Ces intrusions illégitimes posent des questions de responsabilités en cas d’accident, responsabilité pénale et responsabilité civile, mais aussi en cas d’atteintes aux données à caractère personnel des usagers et à leur liberté de circuler anonymement.

Considérant ce contexte, nous proposons de présenter le cadre juridique applicable ou en débat après un bref point sur l’état du développement des véhicules intelligents. La présentation sera ensuite organisée autour du risque pénal des concepteurs pour les deux cas cités.

11h20 - 11h50
  • E-santé et responsabilités

Nathalie Bastid - Association du Droit Des Robots - Lexing Alain Bensoussan Avocats

Le domaine de l’« e-santé » notamment avec les logiciels et les applications mobiles, la télémédecine connaissent actuellement un essor important. Leurs utilisations se multiplient et ces produits peuvent être très variés.

De la conception à l’exploitation de ces dispositifs, de nombreux acteurs notamment le chercheur en recherche et développement, l’éditeur de logiciel, le médecin vont intervenir. Ces dispositifs ne sont pas sans risque numériques et corporels et de nouveaux sinistres peuvent survenir comme par exemple un accident mortel suite à un dysfonctionnement d’un logiciel d’aide à la prescription.

Nous nous attacherons à présenter dans l’hypothèse d’un dommage, quels griefs peuvent donc être retenus et à l’encontre de quel acteur et les responsabilités envisageables.

11h50 - 12h30
  • Ecosystem-based assurance for plug-and-play medical system

Oleg Sokolsky - University of Pennsylvania

Traditional safety-critical systems are designed and integrated by a systems integrator. The system integrator can assess the safety of the completed system before it is deployed. In medicine, there is a desire to transition from the traditional approach to a new model wherein a user can combine various devices post-hoc to create a new composite system that addresses a specific clinical scenario. Ensuring the safety of these systems is challenging: Safety is a property of systems that arises from the interaction of system components and it’s not possible to assess overall system safety by assessing a single component in isolation. We consider a platform-oriented approach to providing assurance for plug & play medical systems, as well as an associated assurance argument pattern.  The assurance strategy relies on a clear separation of responsibilities between different ecosystem actors, such as vendors of medical devices, interoperability platforms, clinical applications, health delivery organizations, and regulatory authorities.  We believe that this approach will allow to determine liability of each actor in case of a system failure, in a predictable and fair way.

12h30 - 13h40 Déjeuner buffet
  Après-midi conférences
13h40 - 14h20
  • Analyse de causalité pour l'attribution de responsabilité dans les systèmes à composants

Gregor Goessler - Equipe de recherche SPADES, Inria

Dans cette présentation nous proposons, pour les systèmes à composants “boîtes noires” dont seules les spécifications sont connues, une approche pour déterminer automatiquement les causes de la violation d'une propriété de sûreté par une exécution observée. L'analyse, une forme précise de diagnostic de fautes, s’appuie sur un raisonnement contrefactuel ("quel aurait été le résultat si le composant C avait fonctionné correctement ?") pour identifier les causes nécessaires et suffisantes du dysfonctionnement.

14h20 - 15h00
  •  Le logiciel qualifié de dispositif médical s’inscrit dans un régime de responsabilités complexe

Thomas Roche - cabinet DELSOL Avocats

Un logiciel autonome, telle qu’une application embarquée sur un smartphone, peut être qualifié de dispositif médical et doit donc se conformer aux exigences réglementaires impliquant notamment l’apposition d’un marquage CE certifiant le respect des exigences essentielles en termes de sécurité et de performance.

De cette qualification du logiciel en dispositif médical, découle des règles de responsabilités spécifiques devant être assumées et/ou organisées par le fabricant.

Cependant, il convient également d’appréhender la responsabilité du fabricant d’un dispositif médical lié à l’utilisation d’un tel produit, dans le cadre d’activités de prévention, de soin et de diagnostic exercées par des professionnels de santé.

15h00 - 15h45
  • Table ronde : 

« Systèmes embarqués, vers quelles solutions technico-juridiques ? »

Animée par Frédéric Helin - Coboteam - Cluster Robotique Rhône-Alpes

Avec la participation de :Benjamin Ménard (Université Lyon III) - Nathalie Bastid (Association du Droit Des Robots - Lexing Alain Bensoussan Avocats) - Michèle Guilbot (IFSTTAR) - Thomas Roche (Cabinet DELSOL Avocats) - Radu Mateescu (Inria, équipe CONVECS), Pierre-Emmanuel Viallet (Cabinet Viallet)

Mots-clés : Gregor Goessler INRIA Grenoble - Rhône-Alpes Équipe SPADES Responsabilité Logiciel embarqué

Haut de page