> For the complete documentation index, see [llms.txt](https://weekly-essay.mikey.wang/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://weekly-essay.mikey.wang/pt-br/2025/w24-six-month-review-of-large-model-applications.md).

# W24-Um balanço de seis meses das aplicações de grandes modelos

Recentemente, acompanhei a WWDC, o Google I/O, uma entrevista com Pichai e alguns balanços do setor de IA nos últimos seis meses.

A IA entrou na fase de produto e integração de ecossistemas. A corrida de modelos esfriou, e a maioria das empresas já pode criar aplicações que envolvem modelos de terceiros sem constrangimento.

Capacidade e preço dos modelos estão mudando. Modelos abertos avançam rapidamente e até superam alguns fechados; a distância entre os melhores diminuiu muito. Modelos locais ainda têm limitações, mas hoje o Llama 3 70B, por exemplo, já roda em um notebook comum com capacidade próxima à do GPT-4. O preço da inferência continua caindo, muito mais rápido que a Lei de Moore na era da internet. É comum a inferência dos modelos de ponta ficar dez vezes mais barata por ano; em alguns modelos leves ou destilados, a redução chega a cem vezes.

Antes, alguém dizia que o valor de um produto de IA era medido pela velocidade de consumo de tokens. Oferecer apenas uma caixa de prompt ou um chatbot e esperar que o usuário pergunte certamente não basta, mas consumir tokens depressa tampouco é o objetivo. A métrica central é o valor gerado por token. Isso aparece na mudança dos modelos de negócio: o consenso do setor passou de MaaS, Model as a Service, a RaaS, Results as a Service. Muitas empresas B2B cobram pela aquisição ou conversão de clientes, em vez de cobrar pelo uso de tokens. Lembra a passagem da publicidade cobrada por volume para a publicidade cobrada por resultado.

Na interação entre pessoas e computadores, ainda não vimos uma mudança de paradigma em que NUI substitua GUI. O uso cotidiano também mostra que clicar continua sendo o mais eficiente na maioria das situações. Ainda assim, há uma tendência clara nas interfaces: sair de “barra de ferramentas + menus” para uma combinação mais natural e intuitiva de “linguagem natural + execução inteligente”.

Os desafios de engenharia das aplicações aumentaram. Adulação excessiva pelos modelos, vazamento de prompts de sistema e modelos que “denunciam” usuários refletem dificuldades de segurança e controle. Chamadas de ferramentas, gestão de permissões e injeção de prompts se tornaram problemas centrais da implementação.

A Apple realmente ficou para trás na IA. Jobs dizia que tudo se resume ao gosto. Antes, eu pensava que a Apple talvez continuasse conservadora por sua busca de gosto e experiência. Depois de usar os recursos multimodais do GPT-4o ou o Gemini Live, percebi que já são bons o suficiente e estão uma geração à frente da Siri. A estratégia conservadora já não tem explicação.

Quando grandes empresas entram com produtos mais gerais, podem capturar facilmente o espaço de aplicações especializadas anteriores. O Google lançou AI Mode e Agent Mode: o primeiro aceita consultas conversacionais mais complexas; o segundo executa tarefas com várias etapas, como procurar imóveis e reservar ingressos. Alguns produtos especializados anteriores, como Perplexity e Manus, deixam então de parecer tão atraentes ou distintos.