Um artigo conjunto da Universidade Tsinghua e da Alibaba apresentado na CVPR 2026 introduz o ViT³ (Vision Test-Time Training), uma arquitetura de transformer puro que alcança complexidade computacional linear para tarefas visuais.
Segundo a fonte, o trabalho foi apresentado como Oral na CVPR 2026, um dos eventos mais prestigiados em visão computacional.
A inovação central está em reinterpretar o mecanismo de atenção através da perspectiva do Test-Time Training (TTT). Transformers de visão tradicionais sofrem de complexidade computacional quadrática: à medida que a resolução da imagem aumenta, o custo computacional cresce quadraticamente, limitando o uso prático em dispositivos de borda com orçamento computacional restrito.
O ViT³ reimagina a atenção como um processo de aprendizado online. Durante a inferência, o modelo constrói um modelo interno leve a partir de pares chave-valor e usa descida de gradiente para atualizar esse modelo interno em tempo real. Essa abordagem permite comprimir informações de chaves e valores em um modelo interno pequeno, possibilitando complexidade linear em vez de quadrática.
Os pesquisadores, liderados pelo estudante de doutorado Han Dongchen da Universidade Tsinghua e supervisionados pelo professor associado Gao Huang, estabeleceram seis princípios de design para modelos de visão TTT de alta precisão e eficiência através de experimentação sistemática.
Entre as descobertas principais: a perda Smooth L1 supera MAE para a função de perda de treinamento interno; descida de gradiente de lote completo único funciona melhor para tarefas de visão; uma taxa de aprendizado interno relativamente grande (1.0) é ideal; modelos internos mais largos melhoram consistentemente o desempenho; modelos internos mais profundos enfrentam dificuldades de otimização devido à natureza de meta-aprendizado do TTT; e arquiteturas convolucionais são adequadas como modelos internos para tarefas de visão.
Baseado nesses princípios, o ViT³ emprega descida de gradiente de lote completo único com taxa de aprendizado de 1.0, perda de produto escalar, ativação SwiGLU simplificada e convolução Depthwise como modelo interno. A arquitetura alcança resultados competitivos em classificação de imagens, detecção de objetos, segmentação de imagens e tarefas de geração de imagens, superando designs existentes de complexidade linear como atenção linear e modelos visual Mamba.
Segundo a fonte, a complexidade linear significa que, à medida que a resolução de entrada aumenta, o custo computacional cresce proporcionalmente em vez de explosivamente. Isso torna a compreensão visual de alta resolução viável em dispositivos com recursos limitados, de smartphones a robôs, sem os gargalos de memória e computação que afetam transformers de visão tradicionais.
A pesquisa foi conduzida sob a iniciativa LeapLabTHU na Universidade Tsinghua, com código disponível no GitHub. O artigo (arXiv:2512.01643) representa um esforço colaborativo entre o Departamento de Ciência da Computação da Tsinghua e a DAMO Academy da Alibaba.
Fonte: Pandaily