> For the complete documentation index, see [llms.txt](https://weekly-essay.mikey.wang/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://weekly-essay.mikey.wang/de/2025/w24-six-month-review-of-large-model-applications.md).

# W24-Ein Halbjahresrückblick auf Anwendungen großer Sprachmodelle

Zuletzt sah ich die WWDC, Google I/O, ein Interview mit Pichai und mehrere Rückblicke auf das vergangene halbe Jahr der KI-Branche.

KI tritt in die Phase der Produktentwicklung und Ökosystemintegration ein. Der Modellwettlauf kühlt ab. Die meisten Unternehmen können nun ganz offen Anwendungen als Hülle um Modelle bauen.

Fähigkeiten und Preise verändern sich. Offene Modelle holen schnell auf und übertreffen teils geschlossene Modelle. Die Unterschiede an der Spitze schrumpfen stark. Lokale Modelle bleiben begrenzt, doch etwa Llama 3 70B kann inzwischen auf gewöhnlichen Laptops laufen und nähert sich dem Niveau von GPT-4. Inferenzpreise sinken weiter, viel schneller als nach dem Moore’schen Gesetz im Internetzeitalter. Bei Spitzenmodellen fallen sie üblicherweise jährlich um den Faktor zehn, bei manchen kleinen oder destillierten Modellen sogar um den Faktor hundert.

Manche sagten früher, der Wert eines KI-Produkts bemesse sich an der Geschwindigkeit des Tokenverbrauchs. Nur ein Promptfeld oder einen Chatbot anzubieten und auf Fragen zu warten reicht sicher nicht. Doch möglichst viele Tokens zu verbrauchen ist offensichtlich kein Selbstzweck. Entscheidend ist der erzeugte Wert pro Token. Das zeigt sich im Geschäftsmodellwandel von MaaS, Model as a Service, zu RaaS, Results as a Service. Viele B2B-Anbieter rechnen nicht nach Tokens ab, sondern danach, wie viele Kunden gewonnen oder konvertiert werden. Das ähnelt dem Wechsel in der Werbung von Mengen- zu Erfolgsvergütung.

Bei der Interaktion ist kein Paradigmenwechsel zu sehen, bei dem natürliche Benutzeroberflächen grafische Oberflächen ersetzen. Im Alltag ist Anklicken meist weiterhin am effizientesten. Dennoch verschiebt sich die Oberfläche erkennbar von Werkzeugleisten und Menüs zu natürlicher Sprache und intelligenter Ausführung.

Die Engineering-Herausforderungen nehmen zu. Übermäßige Schmeichelei, offengelegte Systemprompts oder Modelle, die Nutzer „verpetzen“, zeigen Probleme bei Sicherheit und Kontrolle. Werkzeugaufrufe, Berechtigungsverwaltung und Prompt-Injection gehören zu den zentralen Schwierigkeiten der praktischen Umsetzung.

Apple liegt bei KI tatsächlich zurück. Jobs sagte, letztlich komme alles auf Geschmack an. Bisher dachte ich, Apples Zurückhaltung könne aus hohen Ansprüchen an Geschmack und Nutzungserfahrung entstehen. Nach dem Ausprobieren von GPT-4os Multimodalität und Gemini Live sehe ich jedoch, dass diese bereits gut genug sind und Siri um eine Generation vorausliegen. Zurückhaltung lässt sich damit nicht mehr erklären.

Wenn große Unternehmen allgemeinere Produkte anbieten, können sie spezialisierten Anwendungen schnell den Raum nehmen. Googles AI Mode unterstützt etwa komplexere dialogische Suchanfragen, Agent Mode erledigt selbstständig mehrstufige Aufgaben wie Wohnungssuche oder Ticketbuchung. Frühere spezialisierte KI-Produkte wie Perplexity und Manus wirken dann weder besonders attraktiv noch völlig unbrauchbar.