US$ 10 por dia. Puf.
Essa era a fatura das APIs pros módulos principais do MasterCLI — classificação de queries, extração de docs, preparo de mensagens — quando GPT-4o-mini e Claude dominavam a parada.
A Gemma 4 mudou o jogo todo. O modelo open source de 8B do Google, baixado via Ollama pra um laptop RTX 3070 Ti comum (8GB VRAM, Windows 11). Sem nuvem. Sem custo. Integrado em quatro peças de produção numa tarde só.
A real sem firula: isso não é papo furado. É matemática de mercado. Devs indie e startups sangram mais de US$ 3K por ano em tarefas ‘simples’ de IA. Gemma 4 local? Nada. E ela manda 25 tokens/segundo no steady-state.
Benchmarks que Impressionam
Olha os números. Estáveis em todas as tarefas — sem oscilações loucas.
| Tarefa | Tokens | Tempo | Velocidade |
|---|---|---|---|
| Pergunta simples e resposta | 11 | 0.6s | 19.8 tok/s |
| Geração de código Go | 600 | 25.7s | 23.4 tok/s |
| Extração JSON em chinês | 500 | 18.5s | 27.1 tok/s |
| Classificação de intenção | 9 | 0.4s | 25.6 tok/s |
| Chamada de ferramentas | 34 | 1.3s | 27.1 tok/s |
Os prompts engolem a 120-850 tok/s. Cabe na VRAM? Na raça — 9.6GB quantizado vaza pro RAM. Vida real de laptop, não sonho de A100.
Mas o pulo do gato: a Gemma 4 pensa — tipo o1 ou DeepSeek. Ela manda um “content” vazio primeiro, joga o raciocínio no campo “thinking”.
O modelo gasta tokens em raciocínio em cadeia de pensamento no campo thinking antes de entregar a resposta final no content.
Desliga o “think”: false? Pura mágica. Classificação 7,7x mais rápida (0.9s vs 6.9s). Extração JSON? 4,5x mais veloz. Geração de código corta o tempo pela metade.
Mesma qualidade de saída. Óbvio pra produção.
A Gemma 4 Manda Bem em Chamadas de Ferramentas Reais Nesse Hardware Velho?
Com certeza. Dei uma ferramenta search_contracts — query pra “contratos de TI acima de 5M CNY” — e ela cuspiu:
{ “name”: “search_contracts”, “arguments”: { “category”: “IT”, “min_budget”: 5000000, “query”: “IT contracts” } }
34 tokens. 1,3 segundos. Pulou o thinking total. Configura num_predict pra 2048+ senão ela passa fome nos tokens de razão.
Pegadinhas? A /api/generate falha — respostas vazias. Fica no /api/chat. Me custou uma hora.
Não é brinquedo. A base RAG do MasterCLI — 80 domínios, 7 namespaces — agora classifica queries de usuário em <1s automático. Sem tags manuais. Só digita.
Fórum multi-agente? Pré-processa mensagens local-first, goroutine sem bloquear. Só escala o complexo.
Por Que Gemma 4 Local Detona Nuvem em 80% das Cargas de IA
Setup em dois níveis. Gemma local pros jobs rápidos/baixos QI: classifica, extrai, roteia. Think=false. Latência sub-4s. US$ 0.
Escala os casos edge pro Claude/GPT. Paga só pelo pesado.
Insight que todo mundo ignora: 80% da ‘inteligência’ de app é trabalho braçal. Classificação. Tagueamento. Roteamento. Locais de 8B dominam — nuvem é pros estrelões.
Jogada genial do Google. Gemma 4 vicia devs em pesos open source, depois empurra Gemini via API. Mas aposto: até 2026, inferência local come 40% do mercado de pré-processamento. Ecoa o boom do PC — mainframes (AWS) perdem pra máquinas de US$ 1.500 rodando IA nativa.
Corporações chamam de “edge AI”. Que nada. É rebelião de custo. US$ 10/dia x 365? US$ 3.650/ano por app. Escala pra times? Massacrante.
Cético? Eu era. Testei igual no M1 Mac — mais lento, mas rola. GPUs de consumidor vencem.
Troca pra produção levou uma tarde: pull no Ollama, ajusta prompts, conecta cliente Go. Queries RAG agora híbridas auto. Agentes de fórum mais espertos e baratos.
Por Que Isso Importa pros Builders Indie de IA?
Dinâmica de mercado grita pra adotar. Gigantes de API cobram caro por tarefas que 7B locais esmagam de graça.
Claude da Anthropic? US$ 3/milhão input. Mini da OpenAI? Troco — mas acumula. Local? Escala infinita.
Contras? Fome de VRAM. Nada de placas 4GB. Precisa tuning — think=false, endpoint chat, orçamentos de tokens.
Mas o upside engole tudo. Quatro módulos do MasterCLI? Zero API desde então
