modded-nanoRT: treinamento de modelos relacionais em 305 segundos
Uma proposta de ranking para treinar modelos relacionais com uma única GPU: a receita dos autores alcançou a meta em 305,63 segundos.
👁 115 leituras
O artigo foi publicado no arXiv (número 2610.28855), enviado em 20 de outubro de 2026 e aceito no workshop CODEC-FM, durante a conferência NeurIPS 2026. Os autores são Gabriel Wedson Mendonça de Souza Veloso, Luan Borges Teodoro Reis Sena, Denis Oliveira Correa e Francisco Galuppo Azevedo. O trabalho tem 9 páginas e 4 figuras.
O problema que os autores querem resolver
Treinar grandes modelos fundamentais é caro, por isso os experimentos são conduzidos principalmente por grandes laboratórios. As receitas de treinamento são desenvolvidas dentro dessas instituições, descritas de acordo com protocolos internos e não se acumulam como conhecimento acessível a todos. Os autores argumentam que o avanço nessa área depende de quem pode custear os experimentos - e que os modelos relacionais, treinados com dados de bancos de dados relacionais, não são exceção.
Uma proposta de ranking no estilo speedrun
Os autores propõem levar ao treinamento de modelos de IA uma ideia conhecida dos videogames: speedruns, ou competições para completar um desafio no menor tempo possível. A regra é simples: o problema é definido, o conjunto de ferramentas é aberto e as propostas são classificadas pelo tempo de relógio necessário para atingir um determinado nível de qualidade. Os autores destacam que basta uma GPU para bater o recorde, o que pode reduzir a barreira de entrada para pesquisadores independentes.
A ferramenta apresentada se chama modded-nanoRT e, segundo os autores, é o primeiro ranking desse tipo para os chamados Relational Transformers, modelos transformer projetados para trabalhar com dados relacionais.
Como os autores escolheram o banco de dados do benchmark
Os autores chamam atenção para um problema pouco óbvio: a escolha do banco de dados usado como referência pode determinar se um benchmark consegue distinguir uma melhoria real do ruído aleatório. Para lidar com isso, eles fizeram uma calibração: avaliaram seis candidatos segundo a capacidade de uma curva de aprendizado de 45 minutos separar uma melhoria real da variância causada pela inicialização aleatória, conhecida como ruído de seed. Com base nessa avaliação, escolheram um conjunto de dados para servir como referência fixa.
O que está por trás do recorde
Os autores abrem o ranking com uma receita própria que combina três elementos. O primeiro é o typed trilinear attention, um operador relacional que condiciona os resultados de atenção e os valores com base nas chaves estrangeiras percorridas no banco de dados. O segundo é o otimizador Muon. O terceiro é a técnica SIGReg. O documento não detalha os mecanismos de Muon nem de SIGReg: os nomes são citados, mas não explicados no resumo disponível.
Resultado: a receita atinge a meta de qualidade em 305,63 segundos usando uma única GPU NVIDIA H200, 8,11 vezes mais rápido que a implementação de referência. Em testes fora do banco de dados usado para desenvolver a receita, a solução venceu 13 das 15 comparações em pares.
Disponibilidade do benchmark
Os autores afirmam que vão publicar o benchmark, seus artefatos congelados e os registros das execuções recordistas. O código já está disponível no endereço indicado no artigo. O resumo disponível não identifica o repositório pelo nome.
Google · Suas fontesBrilhe mais no seu Google com um cliqueAdicionar às fontes preferidas →O que esse resultado significa
Este é um breve trabalho de workshop, com 9 páginas, sem uma nova arquitetura nem resultados em grande escala. Seu valor prático está em outro ponto: se o ranking funcionar como os autores descrevem, um pesquisador com uma única placa de vídeo poderá competir com um laboratório e contribuir para o avanço dos métodos de treinamento de modelos relacionais. A proposta organizacional é interessante, embora por enquanto haja apenas uma participação, dos próprios criadores. Vale acompanhar se a comunidade realmente vai adotá-la.
Fonte: arXiv cs.AI: Speedrunning Relational Foundation Model Pretraining (documento de 22/10/2026). Esta análise foi feita com base no texto integral do documento, não em relatos de outros veículos.
Tópicos relacionados no Centelharm
