À mesure que l’intelligence artificielle « physique » s’incarne davantage dans des robots, des capteurs et des équipements industriels, les questions de gouvernance deviennent plus délicates. Le débat ne se limite plus à savoir si des agents peuvent accomplir des tâches, mais à déterminer comment leurs actions sont testées, observées et, le cas échéant, interrompues lorsqu’ils interagissent avec le monde réel.

Dans ce contexte, la gouvernance rejoint la sécurité opérationnelle: elle doit couvrir le passage de la décision logicielle à un mouvement mécanique, l’accès à des outils, ainsi que les modalités d’arrêt ou d’escalade quand quelque chose ne se déroule pas comme prévu.

Des systèmes déjà installés, une intensification attendue

L’industrialisation de la robotique fournit un socle concret à ces discussions. En 2024, le nombre de robots industriels installés dans le monde a dépassé les niveaux observés une décennie plus tôt, avec une progression qui se poursuit sur les années suivantes. Cette dynamique renforce l’urgence de clarifier les responsabilités: qui définit les limites, qui valide les procédures, et comment vérifier en conditions réelles que l’IA se comporte comme attendu?

Parallèlement, plusieurs acteurs et analystes étendent l’étiquette « Physical AI » à un ensemble plus large: robots, machines autonomes, mais aussi logiciels proches du terrain, comme l’informatique « edge » et les systèmes embarqués. Cependant, les contours de la catégorie restent variables, notamment parce que les fournisseurs peuvent définir différemment ce qu’ils entendent par « intelligence » lorsqu’elle s’exprime dans des environnements physiques.

Du résultat d’un modèle à l’action dans le réel

La gouvernance de l’IA « logicielle » change de nature dès lors que l’on bascule vers des systèmes capables d’exécuter des actions dans un espace partagé avec des humains, des infrastructures et des machines. Une sortie de modèle peut devenir un ordre de déplacement, une instruction à un équipement ou une décision fondée sur des données capteurs. Dès lors, la sécurité ne dépend pas seulement de la performance du modèle, mais aussi de la conception des garde-fous: limites physiques, procédures d’arrêt, et chemins d’escalade.

Les travaux récents sur la robotique illustrent cette tendance. Des modèles orientés « vision-langage-action » sont présentés comme capables d’interpréter des consignes naturelles et d’exécuter des séquences de manipulation. Le défi est alors double: d’une part, comprendre l’environnement (par exemple identifier des objets et leur position), d’autre part, vérifier le succès de la tâche et décider s’il faut réessayer, corriger ou stopper l’exécution.

Dans cette logique, la notion de « succès » devient centrale. Elle oblige à intégrer au système des mécanismes de détection et d’évaluation, afin d’éviter que l’agent ne continue sur la base d’une interprétation incorrecte des conditions réelles.

Contrôles de sécurité: de l’architecture aux outils et à l’audit

La complexité augmente encore lorsque les agents peuvent appeler des outils, générer du code ou déclencher des actions. La gouvernance doit alors préciser:

• quelles données un système peut consulter;
• quels outils et quelles interfaces il peut utiliser;
• quelles actions exigent une validation humaine;
• comment les activités sont journalisées pour permettre un audit;
• quelles procédures d’escalade sont déclenchées en cas d’écart.

En robotique, la sécurité ne relève pas uniquement de règles informatiques. Elle englobe aussi des contrôles bas niveau (limites de force, prévention des collisions, stabilité) et des niveaux plus décisionnels (évaluer si une action demandée reste sûre au regard du contexte). L’objectif est de réduire les risques à la fois par des barrières techniques et par des mécanismes de raisonnement centrés sur le contexte.

À l’échelle des organisations, des cadres de gestion des risques en IA existent déjà. Mais appliqués à des systèmes connectés à des robots, des capteurs ou des équipements industriels, ils demandent d’être adaptés: la gouvernance doit tenir compte du comportement du modèle, des interactions en environnement réel et des contraintes propres au matériel.

Vers quels cas d’usage et quelles limites?

La Physical AI est généralement associée à des usages tels que l’inspection industrielle, la fabrication, la logistique, ainsi que certaines opérations en entrepôts. Dans ces scénarios, l’enjeu consiste à faire interpréter l’environnement réel par le système, tout en imposant des limites claires avant toute décision autonome.

La question de gouvernance devient donc préalable: comment définir, tester et valider ces limites avant d’autoriser l’exécution autonome? Les réponses attendues combinent des procédures d’évaluation en conditions représentatives, des mécanismes de vérification du résultat, et une traçabilité suffisante pour comprendre les décisions en cas d’incident.

Dans les environnements industriels, les équipes s’appuient souvent sur des outils de visualisation, de tests et de monitoring. Pour une approche pragmatique côté terrain, certains utilisateurs se tournent vers des matériels de mesure et de contrôle comme un multimètre industriel fiable pour vérifier l’état de capteurs et l’intégrité de circuits, utile lors de phases de validation. Côté logiciel, des solutions d’enregistrement et de journalisation peuvent aussi être complétées par des équipements orientés monitoring, par exemple un switch réseau managé afin de mieux contrôler et tracer les flux de communication entre composants.