Uma equipe liderada por Bingxin Xu apresentou em 17 de setembro de 2026 o SafeHarness, uma abordagem para agentes de código baseados em LLMs com foco explícito em segurança durante manipulação robótica. O método propõe dois “harnesses” conscientes de obstáculos, elevando os índices de sucesso e de prevenção de colisões a níveis inéditos na literatura.
O desafio: segurança negligenciada em agentes de código
Agentes de código, nos quais um modelo de linguagem escreve o controlador do robô como um programa, se consolidaram como alternativa flexível para manipulação robótica. No entanto, segundo os autores, esses agentes tendem a otimizar apenas a conclusão da tarefa, ignorando restrições de segurança — mesmo quando o prompt proíbe contato com obstáculos e a percepção visual detecta corretamente o ambiente (arXiv:2609.20822v1).
A falha ocorre porque, durante o planejamento, as restrições de segurança não se transformam em prioridade real. O modelo não conceitua rotas de escape nem replaneja quando a trajetória se torna inviável. Na execução do contato, falta a noção de que a manipulação física também deve respeitar as mesmas restrições.
SafeHarness: planejamento e contato conscientes de obstáculos
O SafeHarness resolve essas lacunas com dois componentes:
- Planejamento de rota ciente de obstáculos: os objetos são representados por bounding boxes, e o agente desenha rotas candidatas como sequências de waypoints. A rota é planejada e verificada antes da execução, com replanejamento se necessário.
- Execução de contato ciente de obstáculos: o ponto de contato é escolhido de modo a evitar colisão, mesmo no momento físico da manipulação.
Com essa arquitetura, o SafeHarness atinge 71,9% de sucesso nas tarefas e 87,5% de prevenção de colisões. Isso representa um ganho de 6,5 pontos percentuais em sucesso e 27 pontos em prevenção de colisões sobre o SOTA anterior. Em relação ao mesmo agente sem harnesses, os resultados são 2,3 vezes melhores em sucesso e 1,5 vez melhores em prevenção de colisão.
Implicações e próximos passos
O estudo mostra que apenas instruir ou perceber não basta: o núcleo do problema está no planejamento e na priorização de restrições. O SafeHarness avança o estado da arte, sugerindo que abordagens híbridas — onde o LLM delega a partes simbólicas a verificação e ajuste de rotas — são viáveis e necessárias para aplicações reais de robótica baseada em IA generativa.
A pesquisa tem potencial para acelerar a adoção de agentes generalistas em ambientes industriais, laboratoriais e domésticos, onde segurança é requisito inegociável. O código e resultados completos estão disponíveis no arXiv.