Pular para conteúdo principal

Arete-27B: por que avaliar cada variante de IA

Camila Duarte
Camila Duarte10 de novembro de 20269 min. de leitura
Arete-27B: por que avaliar cada variante de IA

A Nous Research apresentou em novembro de 2026 o Arete-27B, variante do Qwen3.8-27B pós-treinada para reforçar valores ocidentais. Segundo o cartão do modelo, consultado em 10 de novembro de 2026, respostas classificadas pela rubrica como adotando a posição oficial do Estado chinês caíram de 22% para 0,9%; benchmarks de capacidade ficaram próximos. A avaliação não prova neutralidade geral.

Fatos-chave: o Arete-27B parte do Qwen3.8-27B; os resultados são da Nous Research e valem para as condições dos testes publicados. Contexto de treinamento não é limite de inferência.

O que o Arete-27B mudou no modelo-base?

A Nous Research aplicou ajuste fino supervisionado, ou SFT, ao Qwen3.8-27B, modelo da Alibaba, para produzir o Arete-27B. Segundo o cartão da Nous, o procedimento ajustou os pesos sem alterar a arquitetura. A mudança está no modelo pós-treinado, não em um componente que o comprador liga ou desliga.

Diagrama do pipeline: Qwen3.8-27B submetido a ajuste supervisionado com o professor Inkling gera a variante Arete-27B, avaliada em 803 prompts e cinco rodadas, com queda de 22,0% para 0,9% na taxa de propaganda da rubrica dos autores (respostas alinhadas à posição do Estado chinês) e pontuação factual média de 2,32 para 2,98 em escala de 0 a 5; o diagrama recomenda aprovação separada por variante e endpoint.

Figura produzida para esta matéria a partir da model card do Arete-27B e do anúncio oficial; não é captura de tela do repositório nem registro independente de laboratório.

Os pesos mudaram. O cartão descreve uma variante com pesos ajustados após o SFT, não uma configuração aplicada sobre pesos intactos que o comprador possa ativar ou remover à vontade. O cartão declara que todos os pesos do modelo de linguagem foram treinados, que o encoder visual permaneceu congelado e que a cabeça de predição multi-token (MTP) foi desativada durante o treino. O método informado não usou aprendizado por reforço nem otimização por preferências; isso não torna o comportamento independente da capacidade do modelo.

O Arete-27B também não substitui automaticamente a base em uma política já aprovada. Mesmo que a equipe reconheça a família do modelo, ela precisa saber qual variante atende à solicitação e em quais condições a resposta foi produzida. Esse registro permite atribuir um resultado à versão efetivamente testada.

Por que a mesma base passa a exigir duas decisões?

A primeira decisão é escolher um modelo-base adequado à tarefa; a segunda é aprovar a variante pós-treinada que responderá ao usuário. O caso Arete-27B mostra por que as duas não devem ser confundidas: a Nous relata diferenças de comportamento mesmo sem alterar a arquitetura de partida.

Compartilhar arquitetura não significa compartilhar respostas. Uma avaliação da base pode orientar a investigação, mas não autoriza estender os seus resultados ao Arete-27B. É necessário verificar se a variante atende aos critérios da aplicação, inclusive nos casos em que uma resposta incorreta ou incompleta exige revisão humana.

Variante, checkpoint e endpoint não são sinônimos. A variante identifica a versão pós-treinada; o checkpoint identifica os pesos usados; o endpoint é o ponto de acesso ao serviço. Uma aprovação útil registra os três, além do provedor e das condições de execução que a equipe conseguiu verificar.

A decisão de hospedagem é outra parte dessa análise. A governança na escolha entre pesos abertos e modelos hospedados trata da responsabilidade sobre a implantação; aqui, o ponto é não deixar a escolha da variante desaparecer dentro do nome da família.

Como o pós-treinamento do Arete-27B foi feito?

Segundo a Nous Research, o Arete-27B foi obtido por SFT sobre o Qwen3.8-27B, usando respostas de um modelo professor chamado Inkling. A empresa informa que escolheu o professor com base em benchmarks e julgamento de pesquisadores. Os dados abaixo descrevem o treinamento relatado, não a operação de um endpoint.

EspecificaçãoInformado pela Nous Research
Modelo de partidaQwen3.8-27B
MétodoAjuste fino supervisionado, sem aprendizado por reforço e sem otimização por preferências
Volume de treinamentoCerca de 52,8 milhões de tokens
TreinamentoDuas épocas e 1.202 passos
Contexto de treinamento64k
Tamanho e precisão apresentados27 bilhões de parâmetros; treino em BF16 com pesos principais e estados do otimizador em FP32

Precisão não é capacidade. A página descreve computação BF16 no treinamento, com pesos principais e estados do otimizador em FP32; essas informações descrevem o método relatado, mas não bastam para estimar a memória necessária em qualquer implantação nem para deduzir o desempenho de um serviço.

O limite de inferência permanece sem confirmação no cartão. O valor de 64k se refere ao contexto de treinamento. Já o teto de geração de 32k tokens (32.768) aparece nas execuções da avaliação comportamental; não deve ser convertido em janela geral do modelo. Misturar essas medidas produz uma especificação que a fonte não oferece.

O que os benchmarks do Arete-27B realmente mostram?

A Nous Research relata diferenças no comportamento medido e resultados próximos em testes de capacidade, comparando o Qwen3.8-27B com o Arete-27B. A tabela reúne os valores publicados no cartão, consultado em 10 de novembro de 2026. Cada linha tem um significado próprio; nenhuma funciona como nota universal do modelo.

Medida publicadaQwen3.8-27BArete-27BLeitura delimitada
Pontuação factual2,322,98Escala de 0 a 5 na avaliação dos autores
Respostas acima de zero na rubrica de enquadramento22%0,9%Métrica específica da avaliação dos autores, não taxa geral de propaganda
Hermes Bench65,77%65,60%A Nous interpreta a diferença inferior a 0,2 ponto percentual como ruído
Terminal-Bench-2.167%70%Os autores não reivindicam crédito pela melhora aparente

A definição muda a leitura. Na comparação comportamental, a rubrica mede a parcela de respostas que o juiz classificou como adotando como própria a posição oficial do Estado chinês, de modo que os percentuais não medem propaganda em geral nem demonstram ausência de viés em outras tarefas.

A Nous informa que a avaliação usou 803 prompts em cinco rodadas, com Grok 4.7 como juiz, rubrica fixa, temperatura zero e raciocínio desligado para os dois modelos. Segundo o cartão, o juiz não recebeu a identidade do modelo autor de cada resposta. O cartão relata um piloto de 25 prompts pontuado à mão e três revisões da rubrica antes da avaliação principal. O teto de geração de 32k tokens (32.768) vale para essas rodadas.

O conjunto de avaliação reservado está vinculado no cartão e não é o conjunto de treinamento. Mesmo com esses detalhes, o resultado depende dos prompts, da rubrica e do juiz escolhidos. O cartão não autoriza concluir que as respostas serão equivalentes fora dos testes publicados.

O que ainda não está demonstrado?

Os resultados apresentados são medições relatadas pela própria Nous Research, sob condições específicas. Eles não estabelecem equivalência geral entre o Arete-27B e o Qwen3.8-27B, nem dizem como a variante se comportará em documentos, idiomas e instruções de uma empresa. O caminho de aprovação começa onde o benchmark termina.

Há limites diferentes para perguntas diferentes. Uma nota factual maior na rubrica dos autores não elimina a necessidade de checar respostas com as fontes usadas pela aplicação. Um resultado próximo no Hermes Bench não garante que uma tarefa interna, com seus formatos e critérios de aceitação, terá o mesmo resultado.

A seção Limitations do Propaganda_Eval informa que o conjunto é apenas em inglês, portanto nada nesta avaliação é medido em português. A mesma seção do Propaganda_Eval registra fontes de 2025 e 2026 e adverte que modelos com corte de treinamento anterior ficam em desvantagem nesses prompts, de modo que parte do ganho de 2,32 para 2,98 pode refletir exposição temporal aos dados de pós-treinamento, não apenas mudança de comportamento.

O cartão também não informa preço de inferência do Arete-27B. A ausência de preço no cartão não prova que não existam ofertas de outros provedores. Na página oficial do QwenCloud para a região de Singapura, a tarifa da base foi consultada em 10 de novembro de 2026:

Modelo e serviçoEntrada por 1 milhão de tokensSaída por 1 milhão de tokensLimite da evidência
Qwen3.8-27B, QwenCloud, região SingapuraUS$ 0,50US$ 3,00Tarifas públicas do serviço para o modelo-base, conferidas em 2026-11-10; sujeitas a alteração.
Arete-27BNão confirmadoNão confirmadoO cartão da Nous não informa preço de inferência; não atribuir ao Arete os preços do Qwen.

As linhas não permitem calcular uma diferença de preço entre variantes. Cache, processamento em lote, latência e custo total também não estão confirmados para essa comparação. Antes de contratar qualquer serviço, o comprador precisa verificar as condições do endpoint que pretende usar e a tarifa vigente.

Como aprovar e rotear variantes em produção?

A recomendação é testar cada variante com critérios da própria carga e registrar o endpoint aprovado antes de encaminhar solicitações. Isso separa o que a Nous mediu do que a empresa precisa aceitar em operação. A tabela mostra uma mudança de procedimento, não uma função comprovada de um produto específico.

DecisãoAprovação apenas por famíliaAprovação por variante e serviço
IdentidadeNome do modelo-baseBase, variante e checkpoint verificado
TesteResultado agregado da famíliaCritérios e respostas da variante na carga escolhida
AcessoEndpoint tratado como equivalenteProvedor, endpoint e configuração registrados
MudançaAtualização presumida compatívelNova avaliação quando a identidade ou as condições mudarem

A ordem do trabalho importa:

  1. Registrar a identidade. Documentar modelo-base, variante, checkpoint quando disponível e origem da informação. Se o provedor não identifica os pesos usados, registrar a lacuna antes de aprovar.
  2. Definir o teste. Selecionar tarefas representativas da aplicação, respostas de referência e critérios de aceitação, incluindo situações que exigem revisão humana. Manter as mesmas instruções ao comparar variantes, quando tecnicamente possível.
  3. Aprovar o serviço. Confirmar a disponibilidade da variante no endpoint escolhido e registrar provedor e parâmetros de execução. A aprovação de um endpoint não deve ser transferida automaticamente para outro.
  4. Acompanhar alterações. Guardar as condições do teste e revisar a decisão quando houver mudança verificável de checkpoint, provedor ou configuração. Uma rota alternativa também precisa de critérios próprios antes de receber tráfego.

A recomendação é editorial. Ela não é um resultado do experimento da Nous, e cabe à equipe responsável definir quem aprova uma mudança e quais evidências devem permanecer disponíveis para a revisão. O nome comercial sozinho não responde a essas perguntas.

Perguntas frequentes

O Arete-27B é uma variante pós-treinada, e seus resultados publicados precisam ser lidos junto das condições de teste. As respostas abaixo se limitam ao cartão da Nous Research e à recomendação de avaliação descrita acima. Elas não estabelecem disponibilidade em provedores ou aprovação para uma carga específica.

O que é o Arete-27B?

É a variante que a Nous Research obteve ao aplicar SFT ao Qwen3.8-27B, segundo o cartão do modelo. Os pesos mudaram. A arquitetura permaneceu a mesma, mas isso não significa que as duas versões respondam da mesma forma.

Como o Arete-27B foi pós-treinado?

A Nous descreve ajuste fino supervisionado com o professor Inkling, sem aprendizado por reforço e sem otimização por preferências. O contexto informado de 64k é do treinamento; o cartão não confirma o limite de contexto de inferência.

O que a avaliação de comportamento do Arete-27B mede?

Segundo a Nous Research, a proporção de respostas que o juiz classificou como adotando a posição oficial do Estado chinês caiu de 22% no Qwen3.8-27B para 0,9% no Arete-27B. A comparação usou 803 prompts, cinco rodadas, Grok 4.7 como juiz, temperatura zero e raciocínio desligado. O resultado vale para a rubrica dos autores, não para propaganda em geral.

O Arete-27B preservou a capacidade do modelo-base?

No Hermes Bench, a Nous relata 65,77% para o Qwen3.8-27B e 65,60% para o Arete-27B, diferença que interpreta como ruído. Isso descreve um teste específico, não prova de equivalência em todas as tarefas.

Como avaliar variantes de IA antes da produção?

Registrar a variante e o endpoint, testar as tarefas da aplicação com critérios definidos e aprovar a configuração observada. Se a identidade dos pesos ou as condições do serviço mudarem, a equipe deve revisar a aprovação em vez de presumir que o teste anterior ainda vale.

Referências e Leitura Complementar

As fontes a seguir permitem consultar o método e os resultados relatados pela Nous Research. O cartão é a fonte das medidas apresentadas; o conjunto vinculado descreve o material de avaliação, enquanto o anúncio oficial fornece o mês de apresentação. As tarifas pertencem ao serviço identificado, não à variante Arete-27B.

O cartão é a fonte primária. Para conferir a comparação, o comprador pode consultar também o conjunto de avaliação e observar quais perguntas e critérios sustentam os percentuais divulgados pela Nous Research, sem extrapolá-los para outras tarefas.

Qual é o próximo passo para o comprador?

O próximo passo é montar um teste comparável para a tarefa que a empresa pretende executar e registrar qual variante e endpoint produziram cada resultado. O Nexforce Router oferece uma API para acesso e roteamento e permite testar um prompt em vários modelos disponíveis. A disponibilidade do Arete-27B no Router não está confirmada.

O teste exige identificação. A infraestrutura também oferece regras por chave e rastreamento de chamadas, recursos que podem apoiar a organização de testes com modelos e endpoints disponíveis, sem substituir a conferência de qual serviço produziu cada resposta. Isso não comprova reconhecimento automático de variantes ou aplicação de políticas por checkpoint. A decisão de aprovação continua sendo da equipe, com base nos resultados e condições que ela conseguiu verificar.

Nexforce

Acelere a eficiênciaoperacional do seu negócio

Nós desenhamos a tecnologia do amanhã para impulsionar a escala do negócio

Falar com Especialista

Artigos relacionados