A VicOne identificou um conjunto inicial de 28 descobertas zero-day em menos de dois dias por meio de pesquisa assistida por IA em software e ferramentas que apoiam o ecossistema de IA física. As descobertas incluem projetos desenvolvidos ou mantidos pelo Google, NVIDIA e Meta, entre outros, segundo a empresa.
Com base na validação inicial, a VicOne classificou todas as 28 descobertas como vulnerabilidades zero-day. A empresa alertou que a contagem pode mudar após revisão por fornecedores e autoridades de vulnerabilidade, e que algumas descobertas ainda não têm números de rastreamento CVE. Um zero-day é uma fraqueza previamente desconhecida sem correção disponível; a VicOne disse que a descoberta mais rápida não significa necessariamente que um ataque ocorreu, mas as equipes ainda precisam determinar se usam o software afetado e o que um atacante poderia acessar ou alterar.
Muitas das ferramentas afetadas são usadas para treinar, simular, testar e operar robôs. A VicOne disse que fraquezas nelas poderiam influenciar os modelos que as equipes constroem, os resultados de testes em que confiam e as instruções enviadas aos robôs. Isso cria duas demandas para equipes de robótica: responder à medida que a IA ajuda a descobrir fraquezas mais rapidamente e avaliar como cada descoberta poderia afetar a segurança e as operações do robô.
A VicOne disse que a IA pode acelerar partes da descoberta de vulnerabilidades, incluindo examinar código, rastrear comunicações do sistema e testar se uma fraqueza suspeita pode ser explorada. Atacantes poderiam usar capacidades semelhantes. Quando uma fraqueza é um zero-day, a descoberta mais rápida pode deixar às equipes pouco tempo para responder.
As descobertas abrangem três estágios do ciclo de vida da robótica: desenvolvimento e treinamento, simulação e validação, e implantação e tempo de execução. A VicOne descreveu cenários potenciais para cada estágio, observando que estes são consequências potenciais e não resultados demonstrados para cada descoberta. Os efeitos reais dependem do acesso do atacante, do design do sistema e se outras salvaguardas impedem que alterações cheguem ao comportamento físico.
Em desenvolvimento e treinamento, uma equipe pode baixar um modelo pré-treinado para adaptar ao seu robô. Carregar um arquivo malicioso poderia dar a um atacante acesso ao sistema de treinamento, permitindo alterações nos dados de treinamento ou no próprio modelo. Um modelo manipulado poderia se comportar normalmente durante testes de rotina, mas responder incorretamente a um objeto, cena ou comando específico após a implantação. O risco pode entrar por meio de uma ferramenta em que a equipe confia antes que alguém ataque o robô diretamente.
Em simulação e validação, importar uma cena ou um modelo de robô comprometido poderia dar a um atacante acesso ao ambiente de simulação. Com controle suficiente, o atacante poderia alterar leituras de sensores simulados, condições físicas ou resultados de testes. Um robô poderia então parecer passar em testes que deveriam ter exposto comportamento inseguro, levando uma equipe a aprová-lo para uso no mundo real com base em evidências enganosas.
Na implantação e no tempo de execução, um atacante poderia explorar fraquezas para alterar arquivos que influenciam o planejamento de movimento ou enviar dados de mapa maliciosos que travam a tela de monitoramento de um operador. Comprometer um computador de operação remota também poderia colocar em risco as instruções enviadas a um robô. Dependendo do sistema e de suas salvaguardas, disse a VicOne, essas fraquezas poderiam alterar o movimento do robô ou deixar os operadores incapazes de ver o que está acontecendo e responder prontamente.
A VicOne também descreveu uma demonstração separada na qual seus pesquisadores exploraram uma vulnerabilidade para impedir que o comando de parada remota de um robô funcionasse. O caso, segundo a empresa, mostra por que as equipes precisam testar se as salvaguardas permanecem eficazes quando o software que as apoia é comprometido.
A empresa disse que um patch publicado ainda precisa ser comprovado seguro. Mesmo depois que um mantenedor de software lança um patch, as equipes de robótica precisam identificar sistemas afetados, verificar compatibilidade e confirmar que a atualização preserva o comportamento pretendido. Um teste bem-sucedido anterior continua sendo evidência útil, mas uma fraqueza recém-descoberta pode revelar condições que o teste nunca examinou.
A VicOne sugeriu três perguntas para equipes que respondem às descobertas: Onde usamos o software afetado, incluindo computadores de treinamento, ambientes de simulação e robôs implantados? O que a fraqueza poderia alterar, sejam modelos, resultados de testes, visibilidade do operador ou comportamento do robô? Como verificamos a proteção, confirmando que a correção resolve a fraqueza e que o sistema atualizado ainda opera como pretendido? Quando a atualização imediata é impraticável, as equipes podem precisar de salvaguardas temporárias, como restringir o acesso a um serviço afetado enquanto uma correção validada é preparada.
À medida que detalhes das 28 descobertas se tornam disponíveis por meio de divulgação coordenada, a VicOne disse que o próximo passo para fabricantes de robótica é conectar cada descoberta ao seu efeito potencial no desenvolvimento, na implantação e no comportamento do robô. Esse trabalho também exige entender como ameaças poderiam afetar o comportamento do robô e como proteger sistemas já em operação. A VicOne disse que sua oferta Radeis ajuda as equipes a identificar potenciais vulnerabilidades zero-day, avaliar a segurança de modelos de IA e de sistemas e usar simulação para avaliar como riscos poderiam afetar o comportamento do robô antes da implantação, enquanto sua oferta Rthena apoia a detecção e a resposta a ameaças dentro de políticas aprovadas durante a operação.
A VicOne disse que a descoberta mais rápida de vulnerabilidades importa quando as equipes conseguem transformar descobertas em ação: identificar o que precisa de atenção, verificar se as salvaguardas ainda se mantêm e confirmar que uma correção não introduz novos riscos.
Fontes: The Robot Report.