L’AI Act et les robots : ce que les systèmes autonomes signifient pour la responsabilité après-vente
L’AI Act et les robots : ce que les systèmes autonomes signifient pour la responsabilité après-vente
Lorsqu’un robot doté d’un composant de sécurité basé sur l’IA tombe en panne, qui est responsable ? La loi européenne sur l’intelligence artificielle (règlement (UE) 2024/1689) ne répond pas directement à cette question, mais elle redéfinit les obligations de chaque acteur de la chaîne de valeur, y compris les prestataires après-vente. Pour un réseau de services mis en place pour soutenir les fabricants chinois de robots en Europe, la conséquence pratique est que la responsabilité n’est plus une simple question contractuelle. C’est désormais une question réglementaire avec des exigences techniques et documentaires concrètes.
Comment l’AI Act classe les robots
L’AI Act s’applique aux « systèmes d’IA » tels que définis à l’article 3, paragraphe 1 : des logiciels qui, pour un ensemble donné d’objectifs définis par l’homme, peuvent générer des résultats tels que du contenu, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels ils interagissent. Les robots qui utilisent l’apprentissage automatique pour la perception, la navigation ou la prise de décision entrent clairement dans cette définition. Même un robot qui n’utilise qu’une logique basée sur des règles peut être concerné s’il adapte son comportement à partir de données.
La loi ne traite pas tous les robots de la même manière. Elle crée une pyramide de risques à quatre niveaux : risque inacceptable (interdit), risque élevé (obligations strictes), risque limité (obligations de transparence) et risque minimal (aucune obligation supplémentaire). La plupart des robots industriels et de service dotés d’IA entreront dans la catégorie à haut risque, car ils sont des composants de sécurité de machines au sens de la directive machines (2006/42/CE) ou parce qu’ils effectuent des tâches dans des infrastructures critiques, l’éducation ou l’emploi.
Obligations à haut risque en pratique
Pour un système d’IA à haut risque, le fournisseur (souvent le fabricant) doit établir un système de gestion des risques, utiliser des données d’entraînement pertinentes et représentatives, créer une documentation technique et permettre la journalisation automatique des événements. Le système doit être conçu pour une supervision humaine et doit atteindre un niveau approprié de précision, de robustesse et de cybersécurité. Les prestataires après-vente ne sont pas directement nommés comme débiteurs d’obligations, mais ils héritent indirectement d’obligations : si un robot est modifié ou entretenu de manière inappropriée, l’évaluation de la conformité du fournisseur peut être invalidée, et l’acteur après-vente pourrait être considéré comme un « fournisseur » à part entière en vertu de l’article 28 s’il modifie substantiellement le système.
Responsabilité après-vente : là où l’AI Act rencontre la responsabilité du fait des produits
L’AI Act ne remplace pas le droit de la responsabilité du fait des produits. Il le complète. La directive européenne sur la responsabilité du fait des produits (85/374/CEE) tient les producteurs responsables des dommages causés par des produits défectueux. Un robot doté d’un système d’IA pourrait être défectueux s’il n’offre pas la sécurité à laquelle une personne est en droit de s’attendre, compte tenu de sa présentation et de son usage raisonnablement prévisible. Les exigences de l’AI Act deviennent une référence pour ce qui est « raisonnablement attendu ». Si un robot ne respecte pas les normes de la loi, cela peut être utilisé comme preuve de défectuosité.
Pour les prestataires après-vente, le changement clé est que la responsabilité peut incomber à ceux qui mettent le produit sur le marché ou le mettent en service. Un réseau de services qui installe, met à jour ou répare un robot IA peut être considéré comme un acteur de la « mise en service » s’il rend le robot disponible pour une utilisation dans l’UE. Cela est particulièrement pertinent pour les fabricants chinois qui vendent par l’intermédiaire d’un distributeur local ou d’un partenaire de services. Le réseau de services devient le visage du fabricant dans l’UE, et ses actions peuvent créer une responsabilité à la fois pour lui-même et pour le fabricant.
Implications pratiques pour la maintenance et les mises à jour
En vertu de l’AI Act, le fournisseur doit surveiller les performances du système après sa mise sur le marché et signaler les incidents graves à l’autorité nationale. Cette obligation de surveillance est souvent déléguée au réseau après-vente. Si le logiciel d’IA d’un robot est mis à jour à distance, le réseau doit s’assurer que la mise à jour ne modifie pas la classification de risque du système ni n’introduit de nouveaux dangers. Si la mise à jour est substantielle, le réseau peut être tenu de refaire l’évaluation de la conformité.
Les journaux de maintenance deviennent des documents juridiques. La loi exige la journalisation automatique des événements pour les systèmes à haut risque, et ces journaux doivent être conservés pendant une période appropriée à l’utilisation prévue du système. Les prestataires après-vente doivent être en mesure de produire ces journaux aux autorités sur demande. Cela signifie qu’un réseau de services doit avoir la capacité technique d’accéder aux journaux et de les interpréter, et de documenter toute modification effectuée lors de la maintenance.
Tableau comparatif : catégories de risque de l’IA et obligations
| Catégorie de risque | Exemples en robotique | Obligations clés | Pertinence après-vente |
|---|---|---|---|
| Risque inacceptable | Robots de notation sociale, manipulation subliminale | Interdit | Aucune ; ne peut pas être mis sur le marché |
| Risque élevé | Robots industriels avec fonctions de sécurité, robots médicaux, véhicules autonomes | Gestion des risques, gouvernance des données, documentation technique, journalisation, supervision humaine, précision, robustesse, cybersécurité, enregistrement dans la base de données de l’UE | Doit tenir les journaux, signaler les incidents, gérer les mises à jour, assurer la conformité continue |
| Risque limité | Chatbots, systèmes de reconnaissance des émotions | Transparence : les utilisateurs doivent être informés qu’ils interagissent avec une IA | Assurer que l’information des utilisateurs est fournie et maintenue |
| Risque minimal | IA dans la gestion des stocks, reconnaissance de formes simple | Aucune (codes de conduite volontaires) | Aucune obligation spécifique |
Ce que cela signifie pour un réseau de services en cours de création
Pour un réseau de services local mis en place pour soutenir les fabricants chinois de robots, l’AI Act crée à la fois des défis et des opportunités. Côté défis, le réseau doit investir dans une expertise technique pour gérer les systèmes d’IA, y compris la capacité d’accéder aux journaux et de les interpréter, d’effectuer des mises à jour logicielles en toute sécurité et de documenter toutes les modifications. Il doit également établir des accords contractuels clairs avec les fabricants sur qui est responsable de chaque obligation en vertu de la loi. Côté opportunités, un réseau capable de démontrer sa conformité à l’AI Act devient un partenaire précieux pour les fabricants qui n’ont pas de présence dans l’UE.
Répartition contractuelle des responsabilités
Il est essentiel de définir dans le contrat de service quelle partie est le « fournisseur » au sens de l’AI Act. Si le fabricant est le fournisseur, le réseau de services agit en tant que « représentant autorisé » ou « importateur » dans certaines conditions. Le contrat doit préciser qui est responsable de la surveillance après mise sur le marché, du signalement des incidents et de l’évaluation de la conformité. Il doit également traiter de ce qui se passe si le réseau apporte une modification qui change le profil de risque du robot.
Exigences techniques pour le réseau
Le réseau doit disposer d’un personnel formé aux bases des systèmes d’IA, y compris comment interpréter les sorties du modèle et identifier les biais potentiels. Il doit avoir un accès sécurisé au système de journalisation du robot et être capable de produire des journaux dans un format lisible pour les autorités. Il doit également avoir un processus pour gérer les incidents graves, y compris le signalement immédiat au fabricant et, si nécessaire, à l’autorité nationale.
Variations géographiques et vérification
L’AI Act est un règlement, il s’applique donc uniformément dans toute l’UE. Cependant, l’application est effectuée par les autorités nationales, et chaque État membre peut avoir des procédures différentes pour signaler les incidents et effectuer la surveillance du marché. La loi permet également aux États membres de désigner des « organismes notifiés », et la disponibilité de ces organismes peut varier. Par conséquent, il est important de vérifier les exigences nationales spécifiques dans chaque pays où le réseau opère.
Conclusion
L’AI Act ne crée pas un nouveau régime de responsabilité, mais il élève la barre de ce qui est considéré comme sûr et conforme. Pour les prestataires après-vente, le message est clair : vous faites partie de l’écosystème réglementaire. Vos actions peuvent faire ou défaire la conformité d’un fabricant. En investissant dans des capacités spécifiques à l’IA et dans la clarté contractuelle, un réseau de services peut transformer cette complexité réglementaire en avantage concurrentiel.
Sources
- EUR-Lex — Règlement (UE) 2024/1689 (AI Act) — https://eur-lex.europa.eu/eli/reg/2024/1689/oj (consulté le 2026-05-13)
- Commission européenne — AI Act — https://digital-strategy.ec.europa.eu/ (consulté le 2026-05-13)