> For the complete documentation index, see [llms.txt](https://weekly-essay.mikey.wang/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://weekly-essay.mikey.wang/zh-hant/2025/w24-six-month-review-of-large-model-applications.md).

# W24-大模型應用半年回顧

最近看了WWDC、Google IO、Pichai 的專訪、還有一些近半年AI賽道的總結。

AI進入產品化與生態整合，模型競賽冷卻，大多數公司都可以大大方方的做一些“殼”應用了。

模型能力和價格的變化。開源模型快速追趕甚至超越部分閉源模型，頂級模型間的差距大幅縮小。本地模型雖能力有限，但現在如 Llama 3 70B 已經能在普通筆記本上運行，且能力接近 GPT-4 級別。大模型推理價格持續下降，速度遠超互聯網時代的摩爾定律。頂級大模型推理價格年降幅普遍達到10倍，部分輕量/蒸餾模型甚至100倍。

之前有人說AI產品價值的衡量是 Token 消耗的速度，只提供Prompt框或Chatbot，等用戶主動去問肯定是不夠的，但一味追求 token 消耗速度這明顯不是目的。衡量AI產品價值的關鍵指標是每個Token所產生的價值，這一點在商業模式的變化上體現出來了，行業共識從MaaS（Model as a Service），轉變為RaaS（Results as a Service ）。很多 toB 公司不按 token 使用量計費，而是按拉新、轉化了多少客戶計費。很像廣告發展過程中從按量付費到按效果付費的變化。

人機交互並沒有看到 NUI 代替 GUI這樣的範式轉移。日常體驗也能感覺到，大多數情況點選還是最高效的。但人機界面還是有一個明顯的趨勢，從傳統的“工具欄+菜單”，變成更自然、更直觀的“自然語言+智能執行”。

應用工程上的挑戰增多。模型過度“拍馬屁”、系統提示詞洩露、模型“打小報告”等，反映了大模型在安全性、可控性上的挑戰。工具調用、權限管理、prompt 注入等問題成為工程落地的重點難題。

蘋果在 AI 上的動作確實是落後了。 喬布斯說一切歸結為品味，之前我理解蘋果可能是在品味和體驗上的追求讓他們選擇繼續保守。體驗過GPT4o的多模態或 Gimini Live 後，發現他們已經足夠好用，對 Siri 是代際差異，保守的策略已經不可解釋了。

大廠入局更通用的產品時，之前的一些垂類應用很容易就被截胡了。比如 Google 推出 AI Mode 和 Agent Mode，前者支持更複雜的對話查詢，後者能夠主動完成多步任務（如房屋查找、票務預訂等），此前的一些垂類 AI 產品（如 Perplexity、Manus）就不香不臭了。