Strands Decider 2B: um modelo de decisão de 2B parâmetros para fluxos de trabalho agênticos

A Strands Labs (AWS) lançou o Strands Decider 2B, um modelo de decisão open-source de 2 bilhões de parâmetros otimizado para experimentação local rápida e fluxos de trabalho agênticos. Diferente dos LLMs de propósito geral, os modelos de decisão são projetados para escolher entre um conjunto fixo de opções (por exemplo, "Acender as luzes" tem a ver com a cafeteira? Sim ou não.) ou atribuir pontuações numéricas simples (por exemplo, sentimento entre 0 e 1).

O que é e por que importa

Os modelos de decisão trocam flexibilidade por velocidade e confiabilidade. Eles sempre retornam uma resposta dentre as opções fornecidas, operam com latência muito baixa e emitem uma pontuação de calibração ("quão certa posso estar de que isto é correto?") que APIs de LLMs de ponta não expõem. A contrapartida: são piores em raciocínio complexo e não conseguem gerar texto, então são inadequados para programação, chatbots ou sumarização.

A Strands posiciona isto como uma nova classe de modelos de "sistema um", seguindo o lançamento do Jev pela TypeSafe AI neste mês. A intenção é conduzir etapas de decisão agêntica no SDK Strands Harness.

Arquitetura

O modelo pega um torso pré-treinado do Qwen3.5-2B, remove o cabeçote de LM (eliminando a geração de texto) e o substitui por um cabeçote ponteiro que pontua cada opção oferecida. O cabeçote compara o estado oculto em cada posição da opção com o estado oculto na posição do <answer>. O cabeçote é pequeno — pouco mais de 1M de parâmetros — e o torso é ajustado com um adaptador LoRA de rank 16.

Esta é a v19 da arquitetura. A primeira iteração usava um cabeçote de slot, que teve desempenho significativamente pior; todas as notas de iteração estão no repositório.

Benchmarks

A Strands mediu a precisão no conjunto público do JevBench e a calibração via pontuação de Brier no mesmo conjunto:

• Precisão: 3º de 33 na classe de 2B
• Precisão excluindo modelos de pouco mais de 2B: 1º de 30
• Latência (mediana): ~115ms em uma Nvidia RTX 3090, ~153ms para tarefas pequenas em um MacBook M3
• A latência escala aproximadamente de forma linear com o tamanho da tarefa

Disponibilidade

• Código no GitHub: strands-decider-2b
• Pesos no Hugging Face
• Inclui todos os dados de treinamento e scripts
• Roda em CPU ou GPU local — sem necessidade de chamadas de API

Para quem é

Desenvolvedores que constroem fluxos de trabalho agênticos e precisam de decisões rápidas e calibradas de sim/não ou classificação na borda, e pesquisadores que querem uma base pequena e hackeável para experimentos com modelos de decisão.