VicOne ha identificado un conjunto inicial de 28 hallazgos de día cero en menos de dos días mediante investigación asistida por IA en software y herramientas que respaldan el ecosistema de IA física. Los hallazgos incluyen proyectos desarrollados o mantenidos por Google, NVIDIA y Meta, entre otros, según la compañía.
Según la validación inicial, VicOne clasificó los 28 hallazgos como vulnerabilidades de día cero. La compañía advirtió que el recuento puede cambiar tras la revisión por parte de proveedores y autoridades de vulnerabilidades, y que algunos hallazgos aún no tienen números de seguimiento CVE. Una vulnerabilidad de día cero es una debilidad previamente desconocida sin una corrección disponible; VicOne dijo que un descubrimiento más rápido no significa necesariamente que se haya producido un ataque, pero los equipos aún deben determinar si utilizan el software afectado y a qué podría acceder o cambiar un atacante.
Muchas de las herramientas afectadas se utilizan para entrenar, simular, probar y operar robots. VicOne dijo que las debilidades en ellas podrían influir en los modelos que construyen los equipos, los resultados de las pruebas en los que confían y las instrucciones enviadas a los robots. Eso crea dos exigencias para los equipos de robótica: responder mientras la IA ayuda a descubrir debilidades más rápido, y evaluar cómo cada hallazgo podría afectar la seguridad y las operaciones del robot.
VicOne dijo que la IA puede acelerar partes del descubrimiento de vulnerabilidades, incluido el examen de código, el rastreo de comunicaciones del sistema y la prueba de si una debilidad sospechosa puede explotarse. Los atacantes podrían utilizar capacidades similares. Cuando una debilidad es de día cero, un descubrimiento más rápido puede dejar a los equipos poco tiempo para responder.
Los hallazgos abarcan tres etapas del ciclo de vida de la robótica: desarrollo y entrenamiento, simulación y validación, y despliegue y tiempo de ejecución. VicOne describió escenarios potenciales para cada etapa, y señaló que estas son consecuencias potenciales en lugar de resultados demostrados para cada hallazgo. Los efectos reales dependen del acceso del atacante, el diseño del sistema y si otras salvaguardas impiden que los cambios lleguen al comportamiento físico.
En desarrollo y entrenamiento, un equipo podría descargar un modelo preentrenado para adaptarlo a su robot. Cargar un archivo malicioso podría dar a un atacante acceso al sistema de entrenamiento, permitiendo cambios en los datos de entrenamiento o en el propio modelo. Un modelo manipulado podría comportarse normalmente durante las pruebas de rutina pero responder incorrectamente a un objeto, escena o comando particular después del despliegue. El riesgo puede entrar a través de una herramienta en la que el equipo confía antes de que alguien ataque el robot directamente.
En simulación y validación, importar una escena o un modelo de robot comprometidos podría dar a un atacante acceso al entorno de simulación. Con suficiente control, el atacante podría alterar lecturas simuladas de sensores, condiciones físicas o resultados de pruebas. Un robot podría entonces parecer que pasa pruebas que deberían haber expuesto un comportamiento inseguro, llevando a un equipo a aprobarlo para uso en el mundo real con evidencia engañosa.
En despliegue y tiempo de ejecución, un atacante podría explotar debilidades para cambiar archivos que influyen en la planificación de movimiento o enviar datos de mapas maliciosos que bloqueen la pantalla de monitoreo de un operador. Comprometer una computadora de operación remota también podría poner en riesgo las instrucciones enviadas a un robot. Dependiendo del sistema y sus salvaguardas, dijo VicOne, estas debilidades podrían alterar el movimiento del robot o dejar a los operadores incapaces de ver lo que está sucediendo y responder con prontitud.
VicOne también describió una demostración separada en la que sus investigadores explotaron una vulnerabilidad para impedir que funcionara el comando de parada remota de un robot. El caso, según la compañía, muestra por qué los equipos necesitan probar si las salvaguardas siguen siendo efectivas cuando el software que las respalda está comprometido.
La compañía dijo que un parche publicado aún debe demostrarse seguro. Incluso después de que un mantenedor de software publique un parche, los equipos de robótica deben identificar los sistemas afectados, verificar la compatibilidad y comprobar que la actualización conserva el comportamiento previsto. Una prueba exitosa anterior sigue siendo evidencia útil, pero una debilidad recién descubierta puede revelar condiciones que la prueba nunca examinó.
VicOne sugirió tres preguntas para que los equipos respondan a los hallazgos: ¿Dónde utilizamos el software afectado, incluidas las computadoras de entrenamiento, los entornos de simulación y los robots desplegados? ¿Qué podría cambiar la debilidad, ya sean modelos, resultados de pruebas, visibilidad del operador o comportamiento del robot? ¿Cómo verificamos la protección, confirmando que la corrección aborda la debilidad y que el sistema actualizado sigue funcionando según lo previsto? Cuando la actualización inmediata no es práctica, los equipos pueden necesitar salvaguardas temporales, como restringir el acceso a un servicio afectado mientras se prepara una corrección validada.
A medida que los detalles de los 28 hallazgos estén disponibles mediante divulgación coordinada, VicOne dijo que el siguiente paso para los fabricantes de robótica es conectar cada hallazgo con su posible efecto en el desarrollo, el despliegue y el comportamiento del robot. Ese trabajo también requiere comprender cómo las amenazas podrían afectar el comportamiento del robot y cómo proteger los sistemas que ya están en funcionamiento. VicOne dijo que su oferta Radeis ayuda a los equipos a identificar posibles vulnerabilidades de día cero, evaluar la seguridad de modelos de IA y sistemas y utilizar la simulación para evaluar cómo los riesgos podrían afectar el comportamiento del robot antes del despliegue, mientras que su oferta Rthena respalda la detección y respuesta a amenazas dentro de políticas aprobadas durante la operación.
VicOne dijo que el descubrimiento más rápido de vulnerabilidades importa cuando los equipos pueden convertir los hallazgos en acciones: identificar lo que necesita atención, verificar que las salvaguardas aún se mantienen y confirmar que una corrección no introduce nuevos riesgos.
Fuentes: The Robot Report.