Inferência de IA é Claramente Lucrativa: Detalhando a Economia

Sean Goedecke argumenta que a inferência de IA é obviamente lucrativa, ao contrário de alegações de que é subsidiada por capital de risco. Ele detalha a matemática e os preços de modelos abertos para mostrar que servir LLMs pode ser um negócio sustentável.

Detalhamento de Custos para um Modelo Denso de 70B

Usando quatro GPUs Nvidia A100 (400W cada, ~2M tokens/hora):

• Energia: ~13¢/hora a tarifas industriais, mais ~13¢/hora para refrigeração → 26¢/hora no total
• Amortização da GPU: $20k por A100 em 5 anos → $16k/ano ou $1,80/hora
• Total: aproximadamente $1 por milhão de tokens de saída

O GPT-5.4-mini da OpenAI cobra $4,50 por milhão de tokens, e modelos mais potentes são 3 a 6 vezes mais caros. Isso torna a margem bruta reivindicada de 70-80% plausível.

Modelos Abertos Confirmam Lucratividade

A DeepSeek afirma ter margem superior a 80% na inferência do R1 enquanto cobra menos da metade do que OpenAI/Anthropic. A API DeepSeek-V4-Pro custa cerca de 87 centavos por milhão de tokens de saída—próximo ao custo real, sugerindo que as margens para modelos de ponta são ainda maiores.

Por Que Existem Margens Altas

Laboratórios de IA como OpenAI e Anthropic precisam dos lucros da inferência para subsidiar os custos de treinamento, por isso mantêm os preços das APIs altos. Mas um provedor exclusivo de inferência, sem custos de treinamento, poderia lucrar mesmo com preços mais baixos. Mesmo que os laboratórios de ponta fechem, quem adquirir os direitos de seus modelos pode continuar vendendo inferência de forma lucrativa.