> For the complete documentation index, see [llms.txt](https://weekly-essay.mikey.wang/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://weekly-essay.mikey.wang/de/2024/essay-collection-ai.md).
# Essaysammlung — KI
Die CES ist zu Ende. In diesem Jahr waren die chinesischen Hersteller wieder dabei. Bei Unterhaltungselektronik gab es deutlich mehr Besucher und Aufmerksamkeit. Zwei Entwicklungslinien sind mir besonders in Erinnerung geblieben: KI und Energiespeicher.
KI ist nicht mehr nur ein entfernter Cloud-Dienst, sondern wird tief in Geräte integriert. AI-PC, AI for ALL: Die Hersteller setzen strategisch auf KI. Immer mehr Menschen sehen 2024 als das erste Jahr der KI-Endgeräte. Mit dem Rabbit R1 hat eine neue Geräteform auch außerhalb der Technikszene Aufmerksamkeit gewonnen. Die traditionellen Smartphone- und PC-Hersteller werden sicher folgen. Mehr Potenzial sehe ich jedoch bei führenden Anbietern einzelner Segmente wie iFlytek und DJI.
Energiespeicher werden allmählich ausgereift und erreichen den Verbrauchermarkt. Energie schien bisher immer von der Angebotsseite bestimmt zu werden. Verbraucher hatten wenig Wahl, ob es um den Energiemix, das Stromnetz oder die Preise ging. Speicher können Veränderungen auf der Verbraucherseite ermöglichen, den Anteil grüner Energie erhöhen und Energielösungen für einzelne Haushalte schaffen. Man könnte etwa bei geringer Nachfrage grüne Energie speichern und sie zu Spitzenzeiten nutzen. Das glättet Lastspitzen, gleicht das schwankende Angebot erneuerbarer Energie aus und senkt die Stromkosten. Vermutlich bleibt dies noch lange ein Markt für frühe Anwender. NAS-Geräte gibt es schließlich auch seit vielen Jahren, doch sie sind weitgehend ein Markt für Enthusiasten geblieben. Trotzdem sind Energieanwendungen für Verbraucher spannend. Man könnte sehen, wie viel grüne Energie man täglich verbraucht. Wer Strom ins Netz einspeisen kann, könnte zudem erfahren, wie viele Menschen damit versorgt werden und wie viele CO₂-Emissionen entfallen. Klimaneutralität auf Haushaltsebene könnte auch einen neuen Handelsmarkt hervorbringen.
***
Ich habe kürzlich ein Buch gelesen, dessen chinesischer Titel „Das ist ChatGPT“ bedeutet. Das Vorwort von Liu Jiang ist großartig.
Zunächst zum Autor Stephen Wolfram. Er ist eine ungewöhnliche Persönlichkeit unserer Zeit, die man kennen sollte. Schon als Kind hielt er nichts von den „dummen Büchern“, die die Schule empfahl. Außerdem war er schlecht im Rechnen. Die Lehrer dachten deshalb zunächst, aus diesem Kind werde nichts. Mit 13 hatte er jedoch bereits mehrere Physikbücher geschrieben. Mit 15 veröffentlichte er einen Aufsatz über Hochenergiephysik, der fünfmal zitiert wurde. Mit 20 promovierte er am Caltech. Später erhielt er als jüngster Preisträger einen MacArthur Award. Am Institute for Advanced Study in Princeton erforschte er zelluläre Automaten. Er gehört auch zu den Wegbereitern der Komplexitätswissenschaft.
Lernbarkeit und rechnerische Irreduzibilität bilden ein zentrales Spannungsverhältnis in seinen Ausführungen. Mit dem Auftreten von GPT entstand der Eindruck, Computer seien plötzlich sehr leistungsfähig geworden. Tatsächlich bleibt das schwer Berechenbare schwierig. An der Natur von Lernbarkeit und rechnerischer Irreduzibilität hat sich nichts geändert. Nur hielten wir Aufgaben wie das Schreiben von Texten früher für etwas, das Computer kaum bewältigen könnten. In Wirklichkeit haben sie eine „geringe rechnerische Tiefe“ und erweisen sich nun als einfacher als gedacht.
Wolfram betrachtet den Erfolg von ChatGPT als eine wichtige wissenschaftliche Tatsache. Er zeigt, dass wir weiterhin mit der Entdeckung bedeutender neuer „Sprachgesetze“ rechnen können, die eigentlich „Gesetze des Denkens“ sind. Wenn sich diese Gesetze irgendwie ausdrücklich formulieren lassen, könnte man das, was ChatGPT tut, direkter, effizienter und transparenter erreichen. Darin liegt der technische Vorteil von GPT und zugleich der Grund, weshalb symbolische Sprachverarbeitung nie zufriedenstellende Ergebnisse erreicht hat. Vor einiger Zeit sah ich ein Interview mit Fei-Fei Li. Sie meinte, die Menschheit stehe womöglich erneut an einem vornewtonschen Punkt, also kurz davor, solche Gesetze zu verstehen.
Wolfram untersucht die grundlegende Logik von Natur und Gesellschaft. Schon früh entwickelte er die Wolfram Language. Gewöhnliche Programmiersprachen sagen dem Computer genau, was er tun soll. Die Wolfram Language stellt menschliche Gedanken rechnerisch dar und verarbeitet sie. Sie ist eine umfassende rechnerische Sprache, mit der sich in rechnerischen Begriffen über nahezu alles auf der Welt sprechen lässt. Sie soll Menschen und Computern gleichermaßen ermöglichen, „rechnerisch zu denken“.
Aus seinen Forschungsergebnissen entwickelte Wolfram das über das Web zugängliche System Wolfram|Alpha. Nutzer geben Anweisungen in natürlicher Sprache ein und erhalten über eine große Wissensbasis, Algorithmen und Regeln genaue, ausführliche Antworten. Bei mathematischen Berechnungen ist es beispielsweise wesentlich zuverlässiger als ChatGPT. Viele halten es für die erste wirklich praktische KI-Technologie. Man kann es unter ausprobieren; derzeit unterstützt es nur Englisch. Als das Buch entstand, gab es GPT-4 noch nicht. Wolfram wollte die beiden Systeme schon damals verbinden: Eine Frage würde zunächst durch Wolfram|Alpha gehen, das auf der Grundlage präzisen Wissens und gesicherter Fakten ein Analyseergebnis liefert. Dieses würde anschließend als Eingabe für GPT dienen, um eine genauere und natürlichere Antwort zu erhalten. Inzwischen gibt es in GPT-4 ein Wolfram-Plugin, das die gemeinsame Nutzung dieser beiden starken KI-Systeme erleichtert.
Nach der Lektüre finde ich den Autor ebenso interessant wie ChatGPT. Die Lebensläufe solcher außergewöhnlichen Menschen wirken immer zugleich vertraut und fremd. Nachdem die Pandemie die technologische Entwicklung einige Jahre gebremst hatte, beschleunigte sie sich wieder und schreitet bis heute erstaunlich schnell voran. Nicht einmal einen Monat nach der Rückkehr vom chinesischen Neujahrsfest erschienen Sora und Claude 3 kurz hintereinander. Inzwischen gibt es fast jeden Monat eine große Neuigkeit. Unser geheimnisvolles Land im Osten hatte nie einen Mangel an Genies. Aber wann bringt es solche eigenwilligen Persönlichkeiten hervor? Ich musste an Qian Xuesens Frage und das Needham-Problem denken.
Wolfram gibt für künftige Arbeit und Lernen die folgenden Ratschläge. Ich möchte sie hier teilen.
Am wirksamsten ist es, neue Möglichkeiten zu entdecken und zu bestimmen, was für einen selbst wertvoll ist.
Statt Fragen zu beantworten, sollte man lernen, Fragen zu stellen und zu entscheiden, welche Fragen es wert sind. Es geht also darum, von der Ausführung mit Wissen zu einer Wissensstrategie überzugehen.
Breites Wissen und klares Denken werden wichtig sein.
Es ist nicht mehr nötig, jedes Detail unmittelbar zu erlernen. Wir können auf einer höheren Ebene lernen und arbeiten und viele Einzelheiten abstrahieren. „Integrieren“ statt sich zu spezialisieren. So breit und tief wie möglich denken und möglichst viel Wissen und möglichst viele Paradigmen heranziehen.
Lernen, Werkzeuge einzusetzen, um Dinge zu erledigen. Früher stützten wir uns stärker auf Logik und Mathematik. Künftig sollten wir besonders das rechnerische Paradigma und die unmittelbar damit verbundenen Denkweisen nutzen.
***
Tencent Technology hat kürzlich eine Interviewreihe zur „Rückschau auf Chinas große Modelle“ veröffentlicht. Bisher sind drei Gespräche mit Yang Zhilin, Zhu Xiaohu und Wang Xiaochuan erschienen.
Das Format gefällt mir. Jeder spricht allein in seinem eigenen Raum. Es gibt keine hitzigen direkten Konfrontationen; Antworten folgen mit zeitlichem Abstand als rationale Verteidigung der eigenen Position. Die Zusammenstöße der Ansichten, die unterschiedlichen Weltbilder und die Vielfalt der Perspektiven sind sehr interessant.
Yang Zhilins Kerngedanke ist, durch langen Kontext und Skalierungsgesetze Allgemeingültigkeit und Personalisierung zu erreichen. Langer Kontext ähnelt einem immer größeren Speicher. Er kann die gesamte persönliche Vorgeschichte aufnehmen und große Mengen digitaler Informationen über die Welt speichern. Alle Probleme werden innerhalb dieses Rahmens modelliert. Nach den Skalierungsgesetzen wird das Modell besser, solange man genügend Rechenleistung investiert.
Zhu Xiaohu steht für das Vertrauen in den Markt. Die steile technische Entwicklungskurve großer Modelle werde unweigerlich flacher. Mit der Verbreitung der Technik würden offene Modelle zu geschlossenen aufschließen. Man solle „ausreichende KI-Fähigkeiten“ in Geschäftsszenarien einsetzen, die schnell Einnahmen erzielen, und mit den riesigen, besonderen Datenbeständen des chinesischen Markts Wettbewerbshürden aufbauen. B2B sei derzeit am besten zu monetarisieren; die Geldverbrennung im B2C-Geschäft könne man sich noch nicht leisten.
Nach der Lektüre der ersten beiden Interviews meinte Wang Xiaochuan, beide sähen nur Ausschnitte, wie in den chinesischen Geschichten von den Blinden, die einen Elefanten ertasten, oder vom Fohlen, das einen Fluss überquert. Technik blickt leicht weit voraus, das Geschäft eher auf die nähere Zukunft. Heute gehe es aber weniger um die Entfernung des Blicks als um seine Vollständigkeit. Er denke schon lange darüber nach, wie sich Leben in mathematische Modelle überführen lasse. GPT sei dafür ein gutes Werkzeug. Das sei sein ursprünglicher Antrieb gewesen, im vergangenen Jahr erneut zu gründen. Mit GPT wolle er virtuelle, lebendige und reale Welten modellieren und in Spielen, Medizin und Produktivität einen passenden Zusammenhang zwischen Technologie und Produkt finden, den TPF. Sora beurteilt er zurückhaltend. Er hält es für ein Zwischenprodukt, das nicht zur selben Linie wie GPT gehört und nicht auf Sprache als zentraler Achse beruht. Sora sei nur ein Simulator und könne kein Weltmodell werden.
Ob beabsichtigt oder nicht, auch die Reihenfolge der Interviews ist bemerkenswert: vom Vertrauen in die Technik über das Vertrauen in den Markt zum Vertrauen in die Welt. Eine andere Reihenfolge hätte vielleicht eine andere Geschichte ergeben.
***
Zwei Beispiele dafür, wie Technik eine stärker konzentrierte und effizientere Entwicklung von Branchen vorantreibt. Dabei wird eine bestimmte Technologie verbreitet, um den größtmöglichen Nutzen zu erzielen.
Der in der vergangenen Woche veröffentlichte KI-Trendbericht des Stanford HAI enthält im vierten Kapitel zur Wirtschaft interessante Zahlen. Private KI-Investitionen und Arbeitsplätze in KI sind insgesamt in den vergangenen drei Jahren zurückgegangen. Bei generativer KI haben Investitionen und Stellen dagegen zugenommen. Der Rückgang insgesamt wirkt zunächst widersprüchlich. Anders als bei früheren Technologiewellen zeigt sich hier eine stärker konzentrierte Verbreitung. Zwei Gründe sind erkennbar. Erstens besteht in Industrie, Hochschulen und Forschung bereits ein klarer technischer Konsens. Die technischen Ansätze laufen auf LLMs wie GPT zu. Bei den Fähigkeiten beschleunigt sich die Entwicklung von TSAI, also auf bestimmte Aufgaben ausgerichteter KI, hin zu AGI. Zweitens stellt diese Gründungswelle hohe Anforderungen an Kosten und Ressourcen. Sie scheint eher den großen Technologiekonzernen zu nutzen, als sie zu verdrängen. Zumindest sieht es derzeit so aus.
Letzte Woche nutzte ich einen Termin bei der Agricultural Bank of China für den ersten persönlichen Austausch mit unserem Team für datenschutzwahrende Berechnungen. Dabei wurde deutlich, dass Banken bereits zu einem konzentrierten und effizienten Marketing übergehen. Die Zeit des wahllosen Verteilens von Geld ist vorbei. Wer ihnen hilft, Erträge klar zu erkennen und sauber zu rechnen, hat bessere Chancen auf ihre Marketingbudgets. Dahinter stehen natürlich technischer Fortschritt und dessen Anwendung. Datenschutzwahrende Berechnungen sind eine wichtige Grundlage für präzises Marketing. Wer über die Entwicklung dieses Bereichs in China spricht, kommt an Ants SecretFlow kaum vorbei. Es hat die Branche beinahe im Alleingang vorangetrieben. Open Source als zentrales Mittel zur Verbreitung von Technik einzusetzen, könnte die bedeutendste Form ihrer Vermarktung sein.
***
Letzte Woche habe ich ein gutes Szenario gefunden, in dem sich LLMs mit geschäftlichen Ergebnissen verbinden lassen. Beim Super-Bill-Angebot für Geschäftskunden gibt es sinnvolle Anwendungen für große Modelle. Die technische Plattform verfügt wiederum über die technischen Fähigkeiten zum Aufbau intelligenter Anwendungen. Zusammen können beide den anfänglichen Aufwand für Experimente mit großen Modellen auf der Händlerplattform senken.
Ich habe die Plattform zum Aufbau intelligenter Anwendungen ausprobiert. Beim Produkterlebnis orientiert sie sich an Coze. Über ihre Workflow-Funktionen lassen sich LLMs, HTTP, Wissensdatenbanken und Codeausführung frei kombinieren, um die benötigten intelligenten Anwendungen schnell zusammenzusetzen. Sie befindet sich derzeit in der dritten MVP-Phase. Für direkt an Kunden gerichtete Online-Dienste sind weitere Untersuchung und Prüfung nötig.
Beim Brainstorming zu Super Bill in der vergangenen Woche haben wir uns auf konkrete Entwicklungsrichtungen geeinigt. Erstens müssen die Daten korrekt und vollständig sein. Zweitens sollen Buchungen einfach sein und sinkende Grenzkosten haben. Drittens braucht es sinnvolle Gruppierungen und ausreichend feine Kategorien. Viertens soll die Analyse von Einnahmen und Ausgaben die Geschäftsführung unterstützen und Nutzer zu Finanzdienstleistungen führen können. Zwei Bereiche eignen sich bereits für große Modelle. Der erste ist die Zusammenfassung der Einnahmenanalyse. Obwohl sie nur aus einem einfachen Satz besteht, wird sie heute durch recht komplexe, fest programmierte Regeln erzeugt. Der zweite ist der Aufwand für Buchungen. Ein Chatbot eignet sich gut dafür. Natürliche Sprache, Spracheingaben und Bilder erlauben eine multimodale Erfassung und senken den Bedienaufwand. Wenn wir zusätzlich einen offiziellen WeChat-Account für spontane Buchungen einrichten, könnte der Zugang von einer zweiten Ebene in der Händler-App auf eine erste Ebene innerhalb von WeChat rücken. Die Android-App Xiaoguai Jizhang hat etwas Ähnliches bereits weitgehend umgesetzt.
***
Letzte Woche sprach ich mit Huiling über die Plattform zum Aufbau intelligenter Anwendungen. Ihre Beobachtung im LRP zur veränderten Form von Produkten für interne Geschäfts- und Unterstützungsprozesse hat mir die Augen geöffnet. Der Trend geht von überwiegend seitenbasierten Interaktionen zur Interaktion mit großen Modellen. Man könnte auch fragen: „Muss deine nächste Frontend-Anwendung überhaupt noch eine Seite sein?“ Wie eine reine Anwendung auf Basis großer Modelle am Ende aussieht, ist noch offen. Die Interaktion sollte jedoch vollständig auf NUI beruhen. Früher lieferte man dem Betriebsteam etwa eine Sammlung von Seiten. Um eine Marketingkampagne zu starten, waren N Konfigurationsschritte und eine eigene Arbeitsanweisung nötig. Bei einem Produkt mit Modellinteraktion sollte es genügen, die Konfigurationsaufgabe klar zu beschreiben, das Ergebnis zu prüfen, zu bestätigen und fertig.
***
Seit dem Wechsel zu Huawei ist es sehr schwierig, die neuesten Produkte aus dem Silicon Valley zu installieren. Deshalb habe ich mir ein iPhone mit einem US-Account besorgt, eigens um ausländische Produkte auszuprobieren. In den letzten zwei Wochen wechselte ich ständig zwischen beiden Telefonen. Mein Eindruck: Bei rein digitalen Online-Produkten, der A-Seite, haben wir noch einige Lücken. Bei Anwendungen der B-Seite haben wir dagegen einen eindeutigen Vorteil.
Zwei Beispiele. Erst letzte Woche erfuhr ich, dass Perplexity der Vorreiter der RAG-Produkte am Markt war. Es ist weiterhin einfach und direkt, anders als spätere C2C-Produkte mit vielen Spielereien, die ständig ablenken und den Nutzerweg unübersichtlich machen. Das zweite Beispiel ist Arc. Auch die in diesem Jahr erschienene Mobilversion wurde sehr gelobt. Angeblich will iOS 18 einige Gestaltungsideen übernehmen. Browser for Me, die Kneifgeste mit Zusammenfassung und die Anruffunktion sind neue Interaktionen für mobile Browser. Arc stammt von The Browser Company, einem Startup in New York City. Ich erinnere mich noch ungefähr daran, dass Yujie mir zum chinesischen Neujahrsfest 2023 die Desktop-Version empfahl, damals noch mit Einladungspflicht. Ich habe großen Respekt vor diesem Unternehmen. Es zeigt mir, was von Nutzern getriebene Innovation bedeutet. Ich glaube, dass es den Browser wirklich neu durchdenkt und definiert.
***
Apple hat mit dem Wortspiel Apple Intelligence die Abkürzung AI neu besetzt. Im Kern beruht Apple Intelligence auf Modellen, die auf dem Gerät laufen. Die lange diskutierte lokale Intelligenz erreicht tatsächlich einen Wendepunkt.
Die auf der WWDC gezeigten Anwendungsszenarien wirkten zwar nicht besonders außergewöhnlich. Trotzdem muss man anerkennen: Unter Unternehmen, die Anwendungen bauen, findet Apple offenbar geschicktere Lösungen, deren Nutzen Menschen unmittelbarer wahrnehmen. Ein Beispiel ist der neue Taschenrechner in iPadOS, der handgeschriebene Formeln erkennt, berechnet und grafisch darstellt. Die dreiminütige Vorführung war so flüssig, dass ich sie mit offenem Mund verfolgte.
**Der Vorteil der Integration von Hard- und Software zeigt sich erneut.** Bei Apple reicht diese Integration über Produkt und Betriebssystem hinaus bis zu Chips und Entwicklungswerkzeugen. Modelle auf dem Gerät verfügen über Berechtigungen und Datenzugriff auf Systemebene. Persönliche Nutzerdaten können für das lokale Fine-Tuning verwendet werden. Dafür müssen Rechenleistung, Daten, Modelle und Sicherheit ausbalanciert werden. Wer das gut lösen will, scheint um eine gemeinsame Gestaltung von Hard- und Software kaum herumzukommen. Erst so lässt sich der Vorrang von Datenschutz und Sicherheit auch umsetzen.
**Kommt nach dem App Store ein Model Store?** Mit steigender Rechenleistung auf den Geräten könnten die Modelle von mehr als einem Anbieter stammen. Ein Programmierer könnte beispielsweise ein beliebtes, für Programmierung vortrainiertes Modell wählen. Mit einer Infrastruktur aus Rechenleistung und Intent-APIs ließe sich eine neue Plattform für einen Modellmarkt schaffen. Eigene Modelle würden erste Anwendungsszenarien eröffnen und die Kreativität der Community anregen.
**Ob das gelingt, hängt am Ende davon ab, ob die Community floriert.** Nach Apples üblichem Vorgehen soll die eigene Begeisterung Entwickler anstecken und weitere gute Entwickler anziehen. Apple hat weltweit weiterhin die größte Anziehungskraft auf hervorragende Entwickler. Dabei musste ich an Huawei denken. Hier könnte das Aufholen am schwierigsten sein. Bei der Integration von Hard- und Software hat Huawei erste Erfolge erzielt. Doch es ist noch ein langer Weg, Entwicklern so viel Respekt entgegenzubringen wie auf der WWDC und ihnen zu ermöglichen, ordentlich Geld zu verdienen.
***
Die Entwicklung der KI auf Endgeräten ist erfreulich. Bei der FEDAY im November des vergangenen Jahres dachte ich noch, die technische Umsetzung werde zwei oder drei Jahre brauchen. Gut ein halbes Jahr später haben Apple und Google bereits Lösungen für ihre jeweiligen Ökosysteme vorgestellt.
Jason Mayes präsentierte auf der Google I/O 2024 das neue Thema Web AI. Früher war er das öffentliche Gesicht von TensorFlow\.js, heute leitet er Web AI. Der Ansatz beruht auf WebAssembly und WebGPU. WebNN erwähnte er nicht. Offenbar entwickelt es sich langsamer als erwartet; schließlich sind Geräte mit NPUs noch wenig verbreitet. Visual Blocks ist eine Plattform zum Aufbau von ML-Workflows, auf der Anwendungen auf Basis von Web AI entstehen können. Damit lassen sich ohne Code lokale KI-Workflows bauen, etwa für Übersetzungen, das Freistellen von Bildern oder die Klassifizierung von Texten. Chrome hat bereits Teile von Web AI umgesetzt. In der Canary-Version von Chrome 127 lässt sich Gemini Nano schon nutzen.
Die Vorteile lokaler KI bleiben Datenschutz und Sicherheit, geringe Latenz auch ohne Netzverbindung und niedrige Kosten. Jason erläuterte die Kostensenkung an einem anschaulichen Beispiel.
> Nehmen wir Videokonferenzen. Viele Dienste bieten verschwommene oder entfernte Hintergründe, um die Privatsphäre der Nutzer zu schützen.
>
> Eine Kamera erzeugt normalerweise 30 Bilder pro Sekunde. Bei einer durchschnittlichen Besprechungsdauer von 30 Minuten muss der Hintergrund von 54.000 Bildern weichgezeichnet werden.
>
> Bei einer Million Besprechungen pro Tag sind das täglich 54 Milliarden Verarbeitungsvorgänge.
>
> Selbst wenn ein Vorgang nur 0,0001 US-Cent kostet, ergibt das immer noch 5,4 Millionen US-Dollar am Tag beziehungsweise rund zwei Milliarden US-Dollar im Jahr für GPU-Berechnungen auf dem Server.
>
> Wird der Hintergrund mit Web AI auf dem Client weichgezeichnet, entfallen diese Kosten.
>
> Außerdem lassen sich weitere Modelle in den Browser übertragen, etwa zur Entfernung von Hintergrundgeräuschen. So verbessert man die Konferenzerfahrung zu sehr geringen Kosten.
***
Einige Gedanken zum Einfluss großer Modelle auf Programmierer.
Chinas Branche für intelligentes Fahren erlebt einen grundlegenden Wandel. Die technische Route wechselt vom regelbasiert gesteuerten automatisierten Fahren zu durchgängigen, kartenlosen Systemen auf Basis großer Modelle. Rückblickend wirken die bisherigen Entwicklungsteams wie eine arbeitsintensive Branche. Autonomes Fahren wurde über Wahrnehmung, Planung und Steuerung umgesetzt. Abgesehen von einigen Anwendungen der Computer Vision in der Wahrnehmung bestanden Planung und Steuerung im Wesentlichen darin, für einzelne Fälle Regeln zu entwickeln und fest in das System zu programmieren. Nach dem Wechsel braucht es nicht mehr so viele Programmierer für die Umsetzung dieser Regeln. Deshalb gibt es in diesem Jahr trotz des großen Interesses am intelligenten Fahren auch etliche Entlassungen. Musk schrieb einmal, nach der Einführung der neuen FSD-Version bei Tesla sei der C++-Code von 300.000 auf 3.000 Zeilen gesunken. 99 Prozent des Codes seien verschwunden. Der durchgängige Ansatz hat zwei Herausforderungen. Erstens die Datenmenge: Damit die Skalierungsgesetze eine Leistung oberhalb menschlicher Fahrer ermöglichen, braucht es riesige Datenbestände. Derzeit könnte nur Tesla über diese Menge verfügen. Auch ist es das einzige Unternehmen, das sein System vollständig nach diesem durchgängigen Modellansatz entworfen hat. Zweitens die Sicherheitsaufsicht: Wie sich jeder einzelne Parameter auf das Fahrverhalten auswirkt, lässt sich nicht erklären. Hinsichtlich Steuerbarkeit und Überprüfbarkeit müsste das Recht in der Anfangsphase einen relativ großen Spielraum gewähren.
Auf Reddit veröffentlichte jemand namens lapurita einen Beitrag über „zehnfach schnelleres Entwickeln mit Claude Sonnet 3.5“. Ich weiß noch nicht genau, wer dahintersteckt, aber die Person scheint Einfluss zu haben. Im Kern beschreibt der Beitrag, wie gut Claude Sonnet 3.5 beim Programmieren ist und wie deutlich es ChatGPT-4 übertrifft. Ich habe zuletzt über einen Monat lang eine technische Überarbeitung durchgeführt und dabei zugleich eine Arbeitsweise der Zusammenarbeit zwischen Mensch und Maschine erprobt. Welche Aufgaben eignen sich für das Modell, welche erledige ich besser selbst? Ich arbeitete durchgehend mit Claude und benutzte Google kein einziges Mal. Vieles aus dem Beitrag kann ich unmittelbar nachvollziehen. Mit Claude zu programmieren macht süchtig. Große Modelle geben mir mehr Zeit und mehr Wahlmöglichkeiten. Ich komme aus den kleinteiligen, wenig wertvollen Syntaxregeln heraus und kann länger über Entwürfe und Optimierungen nachdenken. Strategisches Programmieren wird möglich. Ich bin fest davon überzeugt, dass sich in naher Zukunft unsere Arbeitsweisen und Lieferprozesse ändern werden. Auch die Dimensionen, in denen Menschen miteinander konkurrieren, werden sich verändern. Ganz sicher.
***
Vor einiger Zeit habe ich über den möglichen Einfluss großer Modelle auf die Produktivität gesprochen. Ein oder zwei Monate später sind gute Produkte entstanden, die Modelle tief in das Programmiererlebnis integrieren.
**TL;DR: Du musst Cursor ausprobieren.**
Wer die Fortschritte großer Modelle beim Programmieren verstehen will, sollte die Kombination Claude + Cursor + Vercel beobachten. Möglicherweise wird gerade die Kluft zwischen frühen Anwendern und der frühen Mehrheit überwunden. Der mögliche Einfluss betrifft weiterhin Produktivität und Wettbewerbsstrategie, sowohl bei Einzelpersonen als auch in Organisationen. Gerade in explorativen Geschäftsfeldern kann Geschwindigkeit entscheidend sein. Ausprobieren und Lernen sind dort bereits die Geschäftsstrategie. Wer zuerst den Product-Market-Fit erreicht, kann sich den Vorsprung des frühen Markteintritts sichern. Wenn Entwicklungskosten unter eine bestimmte Schwelle fallen und die Produktivität ein neues Niveau erreicht, gewinnt Geschwindigkeit als Strategie weiter an Gewicht. Das könnte sogar die gesamte Wettbewerbsstrategie strukturell verändern.
1. Claude 3.5 Sonnet hat sich bei logischem Schlussfolgern über Code klar als Nummer eins etabliert. Fast alle guten KI-Programmierprodukte wechseln ihr zugrunde liegendes Modell zu Sonnet, auch Cursor. Programmierer sind eine vergleichsweise teure Form produktiver Arbeit. Für die Veränderung der Produktivität hat Claude das Gebiet gewählt, in dem das Unternehmen den größten Hebel sieht. Die meisten frühen Anwender großer Modelle sind Programmierer. Der Schwerpunkt auf logischem Denken über Code gewinnt zugleich die Entwicklercommunity und beeinflusst so die Technologiewahl auf Anwendungsebene. Wenn ich mich richtig erinnere, verfolgte Strip im Zahlungsverkehr eine ähnliche Wettbewerbsstrategie.
2. Cursor ist derzeit die meistdiskutierte IDE mit tief integrierter KI und wird von der Community immer wieder gelobt. Nach dem Wechsel zu Sonnet sind viele Copilot-Nutzer zu Cursor übergegangen. Ein Vergleich lohnt sich. Copilot folgt dem Plugin-Ansatz. Ursprünglich lag der Schwerpunkt auf Codevervollständigung und Vorschlägen, nicht auf der tiefen Beteiligung am gesamten Programmierprozess. Auch die Anbieter der IDEs, die Copilot integrieren, nehmen keine besonderen Anpassungen vor. Deshalb ist die Nutzererfahrung uneinheitlich. Hinzu kommen geschäftliche Bindungen, die einen Wechsel des zugrunde liegenden Modells zu Claude verhindern. Cursor folgt dagegen dem IDE-Ansatz: Es ist ein stark umgebautes VS Code. Oberfläche und Interaktionen wurden tiefgreifend optimiert und passen besser zur Intuition von Entwicklern. Damit ein großes Modell mehr leisten kann, muss es das Projekt besser verstehen. Gerade beim Umgang mit dem gesamten Projektkontext hat Cursor einen deutlichen Vorteil. Neben Cursor gibt es inzwischen das von Claude angebotene Kommandozeilenwerkzeug Claud Engineer. Es erlaubt direktere Dateisystemzugriffe und Skriptausführung sowie Websuche. In manchen Situationen ist es bequemer als eine IDE.
3. Vercel v0 ist ein Werkzeug zur Codeerzeugung, das zuletzt viel Aufmerksamkeit erhalten hat. Es erzeugt Benutzeroberflächen und Code und unterstützt unter anderem TypeScript, React und Next.js. Der Grund für das Interesse: Der erzeugte Code nähert sich immer stärker dem Produktionsstandard an, also Code, an dem Programmierer sinnvoll weiterarbeiten können. Claude hat mit Artifact eine entsprechende Funktion, die ebenfalls Oberflächen und Code erzeugt. Im Vergleich kommt Vercel v0 einer vollständigen Lösung für dieses Gebiet näher. Vercel spielt im Frontend eine immer wichtigere Rolle. Next.js und Turbopack gehören beide zu Vercel. Das Unternehmen bietet nicht bloß einzelne Werkzeuge oder Frameworks, sondern hat ein Ökosystem geschaffen, das den gesamten Lebenszyklus von Frontend-Anwendungen abdeckt, von Entwicklung und Build bis zu Bereitstellung und Betrieb. Tatsächlich positioniert sich Vercel als Cloud-Anbieter für Frontend-Infrastruktur und verdient an Cloud-Diensten. Auch bei KI-Anwendungen gibt es Fortschritte. KI soll die Entwicklung vereinfachen und beschleunigen. Neben v0 bietet Vercel ein AI SDK, eine TypeScript-Bibliothek zum Aufbau KI-basierter Webanwendungen.
***
In diesem Jahr habe ich meine Informationsquellen neu geordnet und ihre Gesamtqualität verbessert. Dabei kamen mir einige Gedanken zur Verteilung von Information.
Im Internet durchlief sie vier Phasen: Portale, Suche, Abonnements und Empfehlungen. Mit jeder Phase stieg die Verteilungseffizienz.
Ein markantes Ereignis beim Übergang vom Abonnement zur Empfehlung war die Abschaltung von Google Reader vor zehn Jahren. Google Reader war ein RSS-Reader. RSS-Abonnements setzen voraus, dass Nutzer Informationen gut organisieren können. Die Quellen müssen laufend geordnet und begrenzt werden. Deshalb konnte RSS von vornherein nur den Informationsbedarf einer kleinen Gruppe erfüllen. Danach begann sowohl in China als auch im Ausland die Zeit des maschinell empfohlenen Inhaltskonsums.
Die heutigen Empfehlungsmechanismen ermöglichen keinen grundlegenden Sprung in der Qualität der Quellen. Gute Quellen muss man weiterhin auf eher traditionelle Weise suchen. Verglichen mit vor zehn Jahren weiß ich nicht, ob die Asymmetrien der Informationsblasen Menschen offener oder engstirniger gemacht haben. Informationsinseln erschweren die Verwaltung der Quellen zusätzlich. Viele bieten keine direkten Abonnements, sondern verteilen sich auf die „Folgen“-Funktionen verschiedener Plattformen. Im Ausland findet man noch Newsletter und RSS. Plattformen wie Substack ermöglichen die direkte Interaktion zwischen Lesern und Autoren und liefern lediglich Technik und Dienstleistungen. Doch diese Art der Informationsverteilung ist nicht vorherrschend.
LLMs beeinflussen die Informationsverteilung bereits in großem Maßstab und treiben die nächste Phase voran. Was danach kommt, weiß ich nicht. Vielleicht lösen sie die heutige Verteilungslogik der Plattformen auf, wenn sie in die Betriebssystemebene vordringen. Vielleicht liefern wir künftig alle Inhalte an KI, wenn Daten zunehmend zu handelbaren Vermögenswerten werden.
Ich möchte eine App vorstellen, die ich gerade ausprobiere: Ground News. Ihr Konzept könnte aus meiner Sicht einen Teil der Zukunft vorwegnehmen, auch wenn LLMs darin noch nicht die entscheidende Rolle spielen. Ground News soll Informationsasymmetrien entgegenwirken, Perspektiven unterschiedlicher politischer Ausrichtung ergänzen und ein Abgleiten in extreme Positionen verhindern. Jede Nachricht wird in zwei Dimensionen aufgeschlüsselt: Bias und Factuality. Bias bezeichnet die politische Ausrichtung. Anhand der Medien, die über die Nachricht berichten, wird das Verhältnis zwischen links und rechts ermittelt. Berichten vor allem rechte Medien über eine Nachricht, sollten Menschen, die gewöhnlich linke Medien lesen, darauf achten. Sonst werden sie sie wahrscheinlich verpassen. Factuality bezeichnet die faktische Zuverlässigkeit. Ground News prüft nicht jede Nachricht auf Wahrheit, sondern berechnet einen Prozentwert anhand der berichtenden Medien. Deren Bewertung beruht vor allem darauf, ob frühere Berichte verlässliche Quellen hatten und ob Fehlinformationen zeitnah korrigiert wurden.
###