VicOne a identifié un ensemble initial de 28 constats zero-day en moins de deux jours grâce à des recherches assistées par IA sur des logiciels et outils qui soutiennent l’écosystème de l’IA physique. Selon l’entreprise, les constats incluent des projets développés ou maintenus par Google, NVIDIA et Meta, entre autres.
Sur la base d’une validation initiale, VicOne a classé les 28 constats comme des vulnérabilités zero-day. L’entreprise a averti que le décompte pourrait changer après examen par les fournisseurs et les autorités en matière de vulnérabilités, et que certains constats n’ont pas encore de numéro de suivi CVE. Une vulnérabilité zero-day est une faiblesse auparavant inconnue et sans correctif disponible ; VicOne a déclaré qu’une découverte plus rapide ne signifie pas nécessairement qu’une attaque a eu lieu, mais que les équipes doivent encore déterminer si elles utilisent les logiciels concernés et ce qu’un attaquant pourrait accéder ou modifier.
Nombre des outils concernés servent à entraîner, simuler, tester et faire fonctionner des robots. VicOne a déclaré que les faiblesses qu’ils contiennent pourraient influencer les modèles que les équipes construisent, les résultats de tests auxquels elles font confiance et les instructions envoyées aux robots. Cela crée deux exigences pour les équipes robotiques : réagir alors que l’IA aide à découvrir les faiblesses plus rapidement, et évaluer comment chaque constat pourrait affecter la sécurité et les opérations des robots.
VicOne a déclaré que l’IA peut accélérer certaines parties de la découverte de vulnérabilités, notamment l’examen du code, le traçage des communications système et le test visant à déterminer si une faiblesse suspectée peut être exploitée. Les attaquants pourraient utiliser des capacités similaires. Lorsqu’une faiblesse est un zero-day, une découverte plus rapide peut laisser aux équipes peu de temps pour réagir.
Les constats couvrent trois étapes du cycle de vie de la robotique : le développement et l’entraînement, la simulation et la validation, ainsi que le déploiement et l’exécution. VicOne a décrit des scénarios potentiels pour chaque étape, tout en précisant qu’il s’agit de conséquences potentielles et non de résultats démontrés pour chaque constat. Les effets réels dépendent de l’accès de l’attaquant, de la conception du système et de la question de savoir si d’autres protections empêchent les modifications d’atteindre le comportement physique.
Lors du développement et de l’entraînement, une équipe pourrait télécharger un modèle préentraîné pour l’adapter à son robot. Le chargement d’un fichier malveillant pourrait donner à un attaquant accès au système d’entraînement, permettant de modifier les données d’entraînement ou le modèle lui-même. Un modèle manipulé pourrait se comporter normalement lors de tests de routine mais réagir de manière incorrecte à un objet, une scène ou une commande particuliers après le déploiement. Le risque peut entrer par un outil auquel l’équipe fait confiance avant que quiconque n’attaque directement le robot.
Lors de la simulation et de la validation, l’importation d’une scène ou d’un modèle de robot compromis pourrait donner à un attaquant accès à l’environnement de simulation. Avec un contrôle suffisant, l’attaquant pourrait altérer des lectures de capteurs simulées, des conditions physiques ou des résultats de tests. Un robot pourrait alors sembler réussir des tests qui auraient dû exposer un comportement dangereux, ce qui amènerait une équipe à l’approuver pour une utilisation dans le monde réel sur la base de preuves trompeuses.
Lors du déploiement et de l’exécution, un attaquant pourrait exploiter des faiblesses pour modifier des fichiers qui influencent la planification des mouvements ou envoyer des données cartographiques malveillantes qui font planter l’écran de surveillance d’un opérateur. La compromission d’un ordinateur de téléopération pourrait également mettre en risque les instructions envoyées à un robot. Selon le système et ses protections, a déclaré VicOne, ces faiblesses pourraient modifier le mouvement du robot ou empêcher les opérateurs de voir ce qui se passe et de réagir rapidement.
VicOne a également décrit une démonstration distincte dans laquelle ses chercheurs ont exploité une vulnérabilité pour empêcher qu’une commande d’arrêt à distance d’un robot fonctionne. Ce cas, selon l’entreprise, montre pourquoi les équipes doivent tester si les protections restent efficaces lorsque le logiciel qui les soutient est compromis.
L’entreprise a déclaré qu’un correctif publié doit encore être prouvé sûr. Même après qu’un mainteneur de logiciel a publié un correctif, les équipes robotiques doivent identifier les systèmes concernés, vérifier la compatibilité et s’assurer que la mise à jour préserve le comportement prévu. Un test réussi antérieur reste une preuve utile, mais une faiblesse nouvellement découverte peut révéler des conditions que le test n’a jamais examinées.
VicOne a suggéré trois questions aux équipes qui répondent aux constats : où utilisons-nous les logiciels concernés, y compris les ordinateurs d’entraînement, les environnements de simulation et les robots déployés ? Qu’est-ce que la faiblesse pourrait changer, qu’il s’agisse des modèles, des résultats de tests, de la visibilité des opérateurs ou du comportement des robots ? Comment vérifions-nous la protection, en confirmant que le correctif traite la faiblesse et que le système mis à jour fonctionne toujours comme prévu ? Lorsqu’une mise à jour immédiate n’est pas pratique, les équipes peuvent avoir besoin de protections temporaires, comme restreindre l’accès à un service concerné pendant qu’un correctif validé est préparé.
À mesure que les détails des 28 constats deviennent disponibles par le biais d’une divulgation coordonnée, VicOne a déclaré que la prochaine étape pour les fabricants de robots consiste à relier chaque constat à son effet potentiel sur le développement, le déploiement et le comportement des robots. Ce travail exige aussi de comprendre comment les menaces pourraient affecter le comportement des robots et comment protéger les systèmes déjà en fonctionnement. VicOne a déclaré que son offre Radeis aide les équipes à identifier les vulnérabilités zero-day potentielles, à évaluer la sécurité des modèles d’IA et des systèmes et à utiliser la simulation pour évaluer comment les risques pourraient affecter le comportement des robots avant le déploiement, tandis que son offre Rthena soutient la détection et la réponse aux menaces dans le cadre des politiques approuvées pendant l’exploitation.
VicOne a déclaré qu’une découverte plus rapide des vulnérabilités importe lorsque les équipes peuvent transformer les constats en actions : identifier ce qui nécessite une attention, vérifier que les protections tiennent toujours et confirmer qu’un correctif n’introduit pas de nouveaux risques.
Sources: The Robot Report.